בזמן שדונלד טראמפ מנהל את כהונתו השנייה כנשיא ארצות הברית, אחד ממודלי השפה המתקדמים בעולם עדיין תקוע בעבר. משתמשים רבים מדווחים בדבר תמוה: הבינה המלאכותית מתייחסת אליו כאל נשיא לשעבר כאילו הפסיד בבחירות או לא הושבע מעולם.
הדיון הגיע לפורום המפתחים הרשמי של OpenAI שם נשאלה השאלה הפשוטה אך המתבקשת כיצד ייתכן שמערכת חכמה כל כך מציגה טעות עובדתית כל כך בסיסית.
התשובה שניתנה מצד חברי הקהילה והמפתחים הייתה חד-משמעית מודל השפה לא באמת יודע מה קורה עכשיו. הגרסאות הזמינות של ChatGPT גם אלה שמבוססות על GPT-4 אומנו על מאגרי מידע שהסתיימו ביוני 2024 חצי שנה לפני הבחירות בארה"ב. משמעות הדבר מבחינת המודל ג’ו ביידן הוא עדיין הנשיא וטראמפ נשיא לשעבר.
מפתחים ומומחים בקהילה הדגישו שוב ושוב מדובר במגבלה צפויה לא בתקלה. בעוד שבמקרים מסוימים משתמשים בעלי מנוי בתשלום יכולים להפעיל את פונקציית החיפוש באינטרנט המודל עצמו אינו מחובר לרשת בזמן אמת ולכן אינו יודע שהתרחשו בחירות או השבעה נוספת.
זה לא כלי חדשותי אלא מערכת שמדמה שיחה על סמך מידע קיים. אם אתה שואל שאלה על משהו שקרה לאחר נקודת החיתוך של המידע תקבל תשובה ישנה גם אם היא שגויה.
אחת הביקורות המרכזיות שעלתה בדיון הייתה לא עצם המגבלה אלא האופן שבו המודל מציג את המידע. גם כשהוא טועה ChatGPT כותב בביטחון ללא הסתייגות או אזכור לכך שהמידע עלול להיות לא עדכני. לדעת רבים כאן טמונה הבעיה.
אם הוא לא יודע שיגיד "נכון ליוני 2024" או "ייתכן שהמידע השתנה". אל תציג טעות כעובדה. טען אחד המפתחים בפורום החברה.
הטעות סביב טראמפ היא דוגמה אחת לפער רחב יותר שמתעורר כשה-AI משתלב בשיח הציבורי הוא נשמע סמכותי אבל לא בהכרח מדויק. למרות היכולות המרשימות המערכת הזו לא נועדה להיות תחליף למקור חדשות אלא כלי טקסטואלי שנשען על עבר לא על הווה.
והדבר הכי תמוה בנושא, הנשיא טראמפ עצמו טרם הגיב או צייץ.
0 תגובות