תחקיר חדש של עיתון "הגרדיאן" הבריטי חשף כי מנגנון הבינה המלאכותית של גוגל, המשולב כיום בתוצאות החיפוש תחת השם AI Overviews, מספק לעיתים מידע רפואי מטעה - ואף מסוכן. מומחים רפואיים טוענים כי השיבושים והתשובות השגויות שהמערכת מפיקה עלולים להוביל חולים לקבל החלטות מזיקות בנוגע לטיפול הרפואי שלהם.
במקרה שזכה לביקורת חריפה במיוחד, המערכת המליצה לחולי סרטן הלבלב להימנע ממזונות עתירי שומן - בניגוד גמור להנחיות הרפואיות המקובלות. לפי חוקרים מ־Pancreatic Cancer UK, המלצה כזו עלולה לפגוע ביכולת החולים לצבור מספיק אנרגיה ולשרוד את תהליכי הכימותרפיה או את הניתוחים הנדרשים להצלת חייהם.
מלבד זאת, התחקיר חשף כי בחיפושים אחרים הופיעו תשובות שגויות לגבי סוגי בדיקות לסרטן, תוצאות בדיקות דם לכבד, ואף עצות מוטעות בנושא בריאות הנפש. מנהלת פורום מידע החולים הבריטי, סופי רנדל, הזהירה כי "הצגת מידע לא מדויק בראש תוצאות החיפוש עלולה לסכן את בריאותם של משתמשים רבים, במיוחד כאשר מדובר בנושאי רפואה עדינים".
מנגד, גוגל טוענת כי רוב המידע שה-AI מספק הוא מדויק, וכי הדוגמאות שהובאו בתחקיר הוצגו באופן חלקי. החברה מסרה בהצהרה כי היא "משקיעה משאבים רבים בשיפור אמינות התשובות בנושאי בריאות", והוסיפה כי תוצאות רבות מפנות למקורות מוכרים וממליצות לפנות לגורמי מקצוע מוסמכים.
לצד זאת, מומחים מציינים שהמקרה משתלב במגמה רחבה יותר של בעיות אמינות בתוכן שנוצר בידי מערכות בינה מלאכותית. מחקרים קודמים כבר הדגימו תופעות דומות בתחומים כמו ייעוץ פיננסי או סיכום חדשות אוטומטי. כעת, כאשר מדובר במידע רפואי, הזהירה רנדל, "הקו בין חדשנות לסכנה הופך דק במיוחד".
0 תגובות