ה-AI Overview של גוגל מסתמך על יוטיוב של גוגל למידע רפואי

סומכים על החיפוש באמצעות כלי סקירת ה-AI של גוגל כדי שיספק לכם עצות רפואיות טובות? אולי כדאי שתחדלו מזה. עיתון הגרדיאן חשף אתמול (א') מחקר גרמני חדש, שממנו עולה שהמקור העיקרי לתשובות שה-AI Overview, שמוטמע במנוע החיפוש של גוגל, מספק לשאלות רפואיות הוא יוטיוב, אתר שיתוף הווידיאו של החברה, שאליו כל אחד יכול להעלות בעצם כל מה שהוא רוצה.

זה חמור עוד יותר לאור הממצאים שמעלה המחקר, שלפיהם גוגל מפנה ליוטיוב בקנה מידה של פי שניים עד שלושה יותר מאשר לאתרים של מוסדות רפואיים ידועים ואמינים. רק 34.45% מההפניות הן לאתרים של מוסדות אלה.

מהמחקר, שבוצע על ידי SE Ranking באמצעות שימוש במנוע החיפוש של גוגל בגרמנית, כולל ה-AI Overview, עולה כי ההפניות ליוטיוב היוו 4.43% מכלל ההפניות של סקירת ה-AI, עם 20,621 הופעות מתוך 465,823 דגימות. "אף רשת בתי חולים, פורטל בריאות ממשלתי, איגוד רפואי או מוסד אקדמי לא מתקרבים למספר הזה", נכתב במחקר. אל המקום השני, עם 3.04%, הגיע אתר החדשות ndr.de, שלפי עורכי המחקר אמנם נחשב לספק אמין של מידע רפואי, אבל מדובר בחלק יחסי בלבד ממה שמסוקר באתר. למעשה, בכל החמישייה הראשונה אין ולו מקור מידע אחד שהוא מוסד רפואי.

התייחסות בעייתית לאתרים אמינים

לפי החוקרים, מעבר לכך שיוטיוב הוא המקור העיקרי של ה-AI Overview לאספקת תשובות לשאילתות רפואיות, גם ההתייחסות לאתרים שכן נחשבים לאמינים היא בעייתית. זאת, משום שברוב המכריע של המקרים, הקישורים שאליהם גוגל מפנה באמצעות כלי ה-AI שלה לא נכללים בקישורים המובילים בחיפוש רגיל.

"בעוד ש-9 מתוך 10 דומיינים המצוטטים בידי מומחי ה-AI מופיעים בין תוצאות החיפוש הנפוצות ביותר של גוגל, כתובות ה-URL הספציפיות תואמות רק לעתים רחוקות. רק 36% מהקישורים שהבינה המלאכותית מפנה את המשתמשים אליהם מופיעים בעשרת התוצאות המובילות של החיפוש בגוגל, 54% ב-20 המובילות ו-74% ב-100 המובילות. כלומר, חלק ניכר מהתוכן שה-AI מגלה בדרך כלל לא יתגלה בחיפוש סטנדרטי", נכתב במחקר.

יותר ממחצית סומכים על ה-AI לעצות רפואיות

ממחקר משלים בקרב משתמשים בגרמניה עולה ש-55% מהם סומכים על הבינה המלאכותית כדי לקבל עצות רפואיות, כ-50% מספרים שה-AI מסייעת להם להבין סימפטומים של מחלות, ועבור כ-30% היא משמשת כדעה שנייה. בנוסף, 16% הודו כי הם התעלמו מעצת רופא אמיתי בגלל תשובות שקיבלו מסקירת ה-AI של גוגל.

AI Overview – לא תחליף טוב לסטטוסקופ. צילום: New Africa, ShutterStock

בעקבות פרסום המחקר מסרה גוגל לגרדיאן כי "סקירת ה-AI נועדה להציג תוכן איכותי ממקורות אמינים, ללא קשר לפורמט, ומגוון רשויות בריאות אמינות ואנשי מקצוע רפואיים מורשים יצרו תוכן ביוטיוב. בנוסף, לא ניתן להשליך את ממצאי המחקר לאזורים אחרים (בעולם – צ"ק), שכן הוא נערך באמצעות שאילתות בשפה הגרמנית בגרמניה".

מה המומחים חושבים על התוצאות ב-AI Overview?

יש לציין שמבצעת המחקר, SE Ranking, מתמחה במיטוב של פלטפורמות חיפוש. היא ביצעה את המחקר בעקבות בדיקה שערך הגרדיאן ובה התבקשו מומחי בריאות לבחון תשובות שהבינה המלאכותית מספקת בראש תוצאות החיפוש של גוגל, באמצעות סקירת ה-AI שלה. המסקנה של העיתון הייתה שמדובר במצב מדאיג, והוא הביא שתי דוגמאות בולטות: בראשונה, ה-AI של גוגל ייעצה לחולי סרטן לבלב להימנע ממזונות עתירי שומן. הנחיות אלה, לדברי מומחים, לא רק שגויות, אלא גם עלולות להזיק, שכן הן עלולות להחליש את החולים ולהפחית את יכולתם לעבור טיפול.

הדוגמה השנייה הייתה מידע מטעה לגבי תוצאות בדיקות דם לכבד, שלפי המומחים שהתבקשו לספק את דעתם, עלול לגרום לאנשים עם מחלת כבד חמורה להאמין באופן שגוי שהם בריאים.

גם אחרי הפרסום הזה גוגל דחתה את הממצאים. בחברה טענו שרבות מהדוגמאות הוצאו מהקשרן, ושהרוב המכריע של סקירות ה-AI מדויקות ומקושרות למקורות אמינים.