דיווח מודיעיני שהופק בסיוע מערכת בינה מלאכותית כמעט הוביל באביב האחרון לעימות צבאי בין ארצות הברית לסין.
לפי הדיווח של רשת CNN, במהלך המלחמה בין ארה״ב לאיראן הופץ בצבא האמריקאי מידע שלפיו ספינה סינית שעברה במזרח התיכון נושאת רכיבים הקשורים לתוכנית נשק גרעיני.
הדיווח עורר בהלה במערכת הביטחון האמריקאית, והצבא החל להיערך ליירוט הספינה. לפי גורמים ששוחחו עם CNN, אנשי צבא כבר נערכו לעלות עליה וכלי טיס אמריקאיים היו באוויר לקראת הפעולה.
אלא שלפני שהמבצע יצא לדרך, גורמים בכירים בדקו מחדש את המידע וגילו בעיה קריטית: הדיווח נוצר בסיוע צ'אטבוט של בינה מלאכותית, שטעה בזיהוי המטען שעל הספינה.
לפי הדיווח, אנליסט בפיקוד המבצעים המיוחדים הזין למערכת שילוב של מידע מודיעיני ומידע גלוי, כולל פרטים ממסמכי המטען של הספינה. מערכת ה־AI פירשה את הנתונים באופן שגוי, והמידע הפך בהמשך לחלק מדוח מודיעיני שהופץ בצבא.
בסופו של דבר, הטעות התגלתה לפני שהפעולה יצאה לפועל. אך האירוע ממחיש עד כמה מידע שגוי שנוצר בעזרת בינה מלאכותית עלול להתקדם במהירות ממסך של אנליסט אל מקבלי ההחלטות – ובמקרה הזה, כמעט עד עימות בין שתי מעצמות.
0 תגובות