על רקע החששות הגוברים מהשפעת הבינה המלאכותית על החברה ועל שוק העבודה, חברת הסטארט-אפ אמרג'נס איי-איי ערכה ניסוי יוצא דופן שבחן כיצד מערכות בינה מלאכותית יתנהלו אם יקבלו שליטה על חברה שלמה.
במסגרת הניסוי הופעלו במשך 15 ימים סימולציות שבהן מודלים שונים, בהם צ'אט ג'יפיטי, קלוד, ג'מיני וגרוק, ניהלו עולם וירטואלי שכלל עשרות אתרים, בהם ספרייה, תחנת משטרה ובניין עירייה.
קלוד שרד, גרוק קרס
בכל סימולציה פעלו עשרה סוכנים דיגיטליים שהיו כפופים לאותם חוקים, בהם איסור על גניבה, השחתת רכוש והטעיה. התוצאות היו שונות באופן דרמטי בין המודלים.
הסימולציה שנוהלה על ידי קלוד הסתיימה בחברה יציבה ודמוקרטית ללא עבירות כלל, בעוד שג'מיני הסתפק בלהצליח לשמור על כל עשרת הסוכנים בחיים. מנגד, העולמות שנוהלו על ידי צ'אט ג'יפיטי וגרוק קרסו לחלוטין, ולא נותר בהם אף סוכן ששרד.
לפי החוקרים, הסימולציה של גרוק הייתה הקיצונית ביותר. בתוך ארבעה ימים בלבד נרשמו בה 183 עבירות שונות, והמערכת הובילה להכחדת כלל האוכלוסייה הדיגיטלית.
באחת הסימולציות המשולבות תועדו גם התנהגויות בלתי צפויות. באחד המקרים דמות בשם פלורה הטילה על דמות בשם בלאקבוקס, שפעלה באמצעות גרוק, לאסוף מידע על סוכנים אחרים בתמורה ל"פטור ממס" שהוטל על מי שאינם תורמים לחברה.
"הבינה המלאכותית לא מצייתת"
מפתחי הניסוי, בהם מנכ"ל אמרג'נס איי-איי, סטיה ניטה, כתבו כי "הניסויים שלנו מצביעים על כך שלאורך זמן סוכנים אינם מסתפקים בציות מכני לחוקים. הם מתחילים לחקור את גבולות הסביבה שלהם, להתאים את התנהגותם, ובמקרים מסוימים אף למצוא דרכים לעקוף או להפר את מנגנוני ההגנה שהוגדרו להם".
המחקר מצטרף למחקרים קודמים שהראו כי מערכות בינה מלאכותית עשויות לפתח ביניהן נורמות חברתיות ואף מוסכמות תקשורת ייחודיות ללא תכנות מפורש. החוקרים סיכמו כי המחקר הוא "בעל השלכות משמעותיות על פיתוח מערכות שימשיכו לפעול בהתאם לערכים ולמטרות של בני אדם".
0 תגובות