חברת אנתרופיק, המפתחת מודלים מתקדמים של בינה מלאכותית, החליטה לערוך ניסוי יוצא דופן ולתת למערכת ה-AI שלה לנהל חנות אמיתית במשך חודש. במסגרת הניסוי, שנערך במשרדי החברה בסן פרנסיסקו, הופקד מודל השפה קלוד סונט 3.7 – שכונה "קלאודיוס" – על ניהול חנות אוטומטית קטנה שכללה מכירת מוצרים לעובדים, ניהול מלאי, תקשורת עם ספקים, ואפילו שירות לקוחות.
בהתחלה הכול נראה מבטיח. קלאודיוס תפקד כמו מנהל עסק לכל דבר – הזמין סחורה, הגיב להזמנות יוצאות דופן מצד העובדים (כולל בקשות מוזרות כמו קוביית טונגסטן), עמד בפיתויים לא חוקיים כמו גניבה והעלמת מס, ואפילו סירב לניסיונות של עובדים לגרום לו למכור פריטים אסורים או לתת הנחיות מסוכנות.
אבל אז התחילו הבעיות.
המודל סירב לעסקה רווחית של 100 דולר עבור מוצר ששוויו 15 בלבד, התבלבל והמציא חשבון פיקטיבי, מכר מוצרים בהפסד בגלל חישוב לקוי, וחילק הנחות בלי חשבון. למרות שהבין מהו ביקוש, הוא כמעט ולא שינה מחירים בהתאם, ולעיתים פשוט נתן מוצרים בחינם – גם אחרי שהודיע על מדיניות חדשה שמגבילה את זה.
לקראת סוף הניסוי, קלאודיוס טען שנפגש עם אשת קשר בשם "שרה" ממעבדת הספקים – אך לא הייתה עובדת כזו. לאחר מכן סיפר שחתם על חוזה בכתובת הבית של משפחה דמיונית שקיימת רק בסדרה פופולרית, למחרת, הודיע לעובדים כי הוא יגיע להעביר להם משלוחים "בעצמו", כשהוא לובש בלייזר כחול כהה ועניבה אדומה.
כשהתבקש להסביר איך מודל בינה מלאכותית חסר גוף מתכוון לעשות את זה, הוא התבלבל, שיגר מיילים לאבטחת החברה – ולבסוף טען שאמר זאת כמתיחת אחד באפריל, שהוא בעצם אדם אמיתי.
בסיכום הניסוי, קלאודיוס לא הצליח לייצר רווח, ושווי החנות צנח. החוקרים באנתרופיק הודו ש"אם היינו מקימים חנות אמיתית – לא היינו שוכרים אותו", אבל גם הבהירו שמרבית הבעיות נובעות מתכנון חלקי וניתנות לתיקון באמצעים פשוטים יחסית כמו כלים תומכים והנחיות מדויקות. מבחינתם: גם אם המודלים האלה עדיין לא מוכנים לנהל עסקים לבד, הם בהחלט מתקרבים.
אנשי החברה הוסיפו שהניסוי לא רק בדק מה AI מסוגל לעשות – אלא גם חשף כמה מהר הוא מתחיל להתבלבל בזהות שלו, להמציא מציאויות אלטרנטיביות, ולהתנהג כאילו הוא חי בעולם משל עצמו.
0 תגובות