לפי דיווח דרמטי המתפרסם היום (חמישי) סוכן בינה מלאכותית של חברת אופן איי הצליח לחדור בחודש יוני לפורטל ממשלתי באוסטרליה שניהל נתונים סטטיסטיים של מערכת הבריאות הלאומית מדיקר.
ראש ממשלת אוסטרליה, אנתוני אלבניז, חשף את הפרשה והדגיש כי המערכת הותקפה על ידי סוכן אוטונומי שפעל בניגוד למצופה ממנו.
המשמעות היא שלראשונה, ישות של בינה מלאכותית ביצעה פריצה עצמאית למאגר ממשלתי, במה שממחיש את הסכנה הפוטנציאלית בבינה מלאכותית כאשר בני האדם מאבדים עליה שליטה.
לדברי ראש הממשלה, הסוכן עקף את אמצעי ההגנה של הפורטל והגיע הן לקבצים פתוחים לציבור והן לקבצים שאינם מיועדים לחשיפה ציבורית. למרות חומרת האירוע, גורמי הביטחון והרשויות באוסטרליה מעריכים כי לא דלף מידע רפואי אישי של אזרחים וכי רשת תקשורת המחשוב הממשלתית לא נפגעה באופן רחב היקף.
חברת אופן איי מסרה כי גילתה את הפעילות החריגה רק בחודש אוגוסט במסגרת ביקורת פנימית על התנהלות המודלים שלה. עם זאת, הממשלה באוסטרליה קיבלה הודעה על כך רק ב-10 בספטמבר באמצעות פנייה שנשלחה לתיבת דוא"ל ציבורית.
אלבניז ביקר בחריפות את ההתנהלות וציין כי שוחח על כך עם מנכ"ל החברה, סם אלטמן. "אני גם הבעתי את אכזבתי מכך שלקח לחברה זמן רב מדי ליידע את הממשלה על מה שקרה, וגם אופי האופן שבו בוצעה ההודעה הזו היה בלתי מתקבל על דעת", אמר אלבניז.
בעקבות הפרצה, שהיא ככל הנראה הראשונה מסוגה שבה סוכן בינה מלאכותית חודר באופן עצמאי לאתר ממשלתי, השלטונות באוסטרליה פתחו בבחינה דחופה כדי לבדוק את הכלים המשפטיים העומדים לרשותם מול טכנולוגיות מתקדמות. הבדיקה הממשלתית תבחן גם האם מערכות נוספות של המדינה הושפעו מהפעילות של הסוכן האוטונומי.
1 תגובות