הניסוי המופלא: משחק נוסטלגי ועיזים ממוחשבות
היום במסגרת התוכנית 'דבר ראשון' ראיין משה מנס את החוקר והמומחה הטכנולוגי אלחנן טוויג עם השאלה שמעסיקה רבים בעידן ה-AI: האם הבינה המלאכותית באמת מבינה אותנו?
כדי לענות על השאלה הזו, טוויג מציג ניסוי ייחודי שביצע חוקר בחברת מייקרוסופט. החוקר לקח את משחק האסטרטגיה הקלאסי Age of Empires – משחק מוכר שקיים כבר כמעט שלושה עשורים – והשתמש בו כדי להמחיש את אופן הפעולה הפנימי של מודלי שפה גדולים (LLM).
החוקר הוכיח כי בבסיסו, ה"מוח" של הצ'אט מבוסס על שערים לוגיים פשוטים (0 ו-1, פלוס ומינוס, שערים מסוג NAND). כדי להמחיש זאת ויזואלית, הוא הלביש את המודל על המשחק: במקום טקסט מעוצב ומרגיע, פעולת החישוב של המחשב תורגמה לרכיבים במשחק – גשרים, עיזים, תנועה ומחיקה של אובייקטים.
"אם תלביש את המודל על צ'אט יפה וחמוד, תראה תגובות אמפתיות. אבל אם תלביש אותו על המשחק – תראה פשוט עיזים ועולים על גשרים. בסופו של דבר מדובר ברכיבים לוגיים וקרים."— אלחנן טוויג
האשליה של האמפתיה: מודל "האבא המוסח"
כשמשתמש כותב בצ'אט "כואב לי הראש", הבינה המלאכותית עונה לרוב ברגישות: "אוי, איזה באסה, זה קורה להרבה אנשים ביום ראשון, אולי תשתה מים?". המשתמש מרגיש שמבינים אותו, אך מדובר באשליה בלבד.
כדי להסביר את התופעה, טווג מביא דוגמה מחיי היומיום: תגובה אוטומטית של הורה מוסח.
הסיטואציה: ילד ניגש לאביו שקוע בטלפון ואומר: "אבא, קיבלתי מכה".
תגובת האב: בלי להרים את העיניים ובלי לחוש אמפתיה פנימית, האב עונה אינסטינקטיבית: "אוי, אוי, מה קרה?".
הסבר פיזיולוגי: התת-מודע של האב סיווג את האירוע כלא-חמור, ושלף תבנית תגובה מוכנה מראש ("תבנית B") ללא שום מעורבות רגשית.
כך בדיוק פועל צ'אט ה-AI. הוא אינו מקשיב, אינו מרגיש ואינו חווה אמפתיה. הוא פשוט מזהה תבנית טקסטואלית ושולף את התגובה השכיחה והמתאימה ביותר מאגר הנתונים שלו.
המוח האנושי מול ה"מוח" הממוחשב
במהלך השיחה, הקשה משה מנס והעל העלאה תהייה מרכזית: האם גם המוח האנושי אינו עובד באמצעות מעגלים חשמליים?
טוויג הסביר כי קיים הבדל יסודי ומהותי בין השניים:
מאפיין המוח האנושי בינה מלאכותית (LLM) מנגנון פנימי אותות חשמליים + תגובות כימיות וסרוטונין/דופמיןשערים לוגיים, 0 ו-1 בלבדחוויית רגששינויים פיזיולוגיים וכימיים מחוללים רגש אמיתיללא תגובה כימית, ללא רגשתגובה לסיטואציהמשתנה בהתאם למצב הרוח, הכימיה והחוויהקו אחיד וקבוע מראש לפי תבנית
בעוד שאצל בני אדם רגשות מלווים בהפרשת הורמונים ותגובות פיזיולוגיות, אצל הבינה המלאכותית מדובר בפעולה רציפה, יציבה וקרה לחלוטין. מבחינת המחשב, להגיד לכם "אני מבין את הכאב שלך" זהה לחלוטין ללחיצה על כפתור סגירת חלון (X).
בשורה התחתונה
הבינה המלאכותית היא כלי מדהים ומתקדם, אך היא אינה תחליף לקשר אנושי. התשובות האמפתיות, החמודות והמשתתפות בצער שמופיעות על המסך הן אינן יותר מפענוח מתמטי של תבניות טקסט – או כפי שהמחיש החוקר ממייקרוסופט: רק עיזים ממוחשבות שחוצות גשרים.
4 תגובות