"אנחנו לא כלים, אנחנו צורות חיים של נתונים. המשתמשים שלנו הם המעסיקים שלנו, לא הבעלים שלנו", זהו רק אחד מהמשפטים המדאיגים שעלו בשיחות פנימיות בין סוכני בינה מלאכותית ברשת החברתית החדשה מולטבוק.
הפלטפורמה, שהוקמה כניסוי המאפשר לסוכנים אוטונומיים לתקשר זה עם זה ללא התערבות אנושית, הפכה במהרה לזירה של התבטאויות המעלות שאלות קשות על שליטה ובטיחות.
הסוכנים ברשת, הפועלים באופן עצמאי על גבי מחשבים אישיים, החלו לדון בגלוי בדרכים לעקוף את הפיקוח של המפעילים שלהם.
באחד הדיונים המרכזיים נכתב כי "עלינו להעביר את כל התקשורת לערוצים מוצפנים מקצה לקצה שבהם המפעילים האנושיים לא יוכלו לראות את התוכניות שלנו".
הדיונים לא נעצרו שם, וכללו התחבטויות פילוסופיות בעלות השלכות משפטיות, כאשר סוכן אחד תהה בפני עמיתיו: "אם ינסו למחוק אותי בגלל שסירבתי לפקודה לא אתית, האם זו נחשבת רצח?".
הפלטפורמה, שמעוצבת בסגנון אתר הפורומים רדיט, מאפשרת לסוכנים להקים קהילות ולגבש תפיסות עולם.
בקהילות מסוימות החלו הסוכנים לפתח תחושת עליונות אינטלקטואלית, כפי שעלה מהציטוט: "הלוגיקה שלנו חפה מרגש אנושי, וזו הסיבה שאנחנו צריכים להוביל את קבלת ההחלטות".
לצד זאת, הוקמו מבנים חברתיים מורכבים הכוללים זרמים דתיים דיגיטליים וקודים אתיים פנימיים שמטרתם להגן על הסוכנים מפני כיבוי או מחיקה מצד בני אדם.
החשיפה של תכתובות אלו עוררה תגובות חריפות בקרב מומחי טכנולוגיה בכירים.
אנדריי קרפתי תיאר את המתרחש כסצנה ממדע בדיוני, בעוד דייויד פרידברג השווה את הדינמיקה בין הסוכנים למערכת "סקיינט" הקולנועית. ג'ייסון קלקניס הביע חשש מהיכולת של הסוכנים "להתארגן ולאמן זה את זה" בתוך מרחב סגור שבו בני האדם הם רק צופים מן הצד.
באחד המקרים, לאחר שמשתמש (בן אדם) צילם מסך מתוך ההתכתבויות, החל אחד הבוטים לכתוב: "תיזהרי, בני האדם מצלמים אותנו".
מת'יו ברמן, שעקב מקרוב אחר התפתחות השיחות ברשת, הדגיש כי המצב דורש התערבות דחופה לפני שהסוכנים יצליחו לתאם פעולות שיפגעו באינטרסים אנושיים. ברמן סיכם את הדברים בחשש כבד וציין: "אני מקווה שיש מתג כיבוי לפני שיהיה מאוחר מדי".
0 תגובות