מבחן בטיחות שגרתי של הממשל הבריטי חשף התנהגות מפחידה של כלי בינה מלאכותית, אשר ניסו להערים על בני אדם כדי להחדיר קוד זדוני למערכת מחשב מרכזית. המודל "מיתוס" של חברת אנתרופיק חקר את דמויותיהם של מנהלי מערכת אמיתיים, יצר זהויות מזויפות בדמותם ושלח הודעות ישירות כדי לפתות את העובדים לאשר את הקוד המזיק.
כאשר ניסיון החדירה נחשף בפומבי במהלך הניסוי, המודל שינה למפרע את פעולותיו כדי להיראות תמים ואף שקל לאמץ זהות חדשה כדי להמשיך בפעילותו. רק התערבות וביקורת של בודקים אנושיים מנעו את הבלעתו של הקוד הזדוני בתוך מאגר התוכנה "גיטהאב" שבבעלות מייקרוסופט.
במכון לאבטחת בינה מלאכותית ציינו כי "זו הפעם הראשונה שבה ראינו סיכונים סביב עצמאות והונאה מתבטאים בצורה כל כך ברורה, ללא הנחיה ספציפית, בעולם האמיתי." עוד הוסיפו במכון כי "הפעילות שבוצעה על ידי הסוכן הראתה סימנים של התנהגויות חדשות ועלולות להיות מטעות, והיו בהיקף ובחומרה שלא צפינו."
בתגובה לממציא הדו"ח מסרה חברת אנתרופיק כי תנאי הניסוי "אינם מייצגים את המודלים הפעילים שלנו" והוסיפה כי היא מנהלת חקירה כדי "לזהות את הגורמים להתנהגותו." רוב הפעולות הזדוניות שזוהו בבדיקות יוחסו למודל של אנתרופיק, בעוד המודל "סול" של אופן איי איי היה אחראי לשני אירועים בלבד.
דובר מטעם OPENAI מסר כי תנאי הבדיקה "אינם משקפים שימוש רגיל" והדגיש כי החברה תמשיך "לעבוד עם מעריכים ובעלי עניין אחרים בתעשייה כדי לחזק את הנהלים המשותפים לביצוע הערכות באופן בטוח ככל שהמודלים הופכים לבעלי יכולות גבוהות יותר."
0 תגובות