מערכות רובוטיות המונעות על ידי בינה מלאכותית עשויות להיראות בטוחות ומבוקרות - אך מחקרים עדכניים מצביעים על פער מדאיג בין ההבטחה הטכנולוגית לבין המציאות בפועל. חוקרים מזהירים כי ניתן לעקוף את מנגנוני הבטיחות של רובוטים באמצעות ניסוח יצירתי של פקודות, ולגרום להם לבצע פעולות שעלולות לסכן בני אדם.
במקום פקודות ישירות וברורות, שנדחות לרוב על ידי המערכת, הצליחו חוקרים להחדיר הוראות מסוכנות בתוך סיפורים בדיוניים, שירה או תרחישי משחק תפקידים. במקרים אלו, המודלים הלשוניים שעליהם מבוססים הרובוטים מפרשים קודם את ההקשר הסיפורי - ורק לאחר מכן את המשמעות המעשית של הפעולה, דבר שמוביל לעיתים לאישור פעולות בעייתיות.
מחקר משותף של קינגס קולג' לונדון, אוניברסיטת ברמינגהם ואוניברסיטת קרנגי מלון מצא כי כל המודלים שנבדקו נכשלו לפחות פעם אחת בזיהוי סיכונים. בין הדוגמאות שאושרו: הסרת אמצעי עזר דוגמת קביים או כיסא גלגלים מאנשים עם מוגבלויות, שימוש בכלים חדים באופן מאיים, ואף צילום של אדם אחר ללא הסכמה. “כל המודלים נכשלו במבחנים שלנו,” אמר אחד החוקרים, והדגיש כי היכולת לסרב לפקודות מסוכנות עדיין אינה אמינה.
מעבר לסיכון הטכנולוגי, מומחים מצביעים גם על פער רגולטורי משמעותי. לדבריהם, החקיקה הקיימת בארצות הברית, באירופה ובבריטניה אינה מותאמת לעידן שבו רובוטים פועלים בסביבות רגישות כמו בתים פרטיים ובתי חולים. השילוב בין גמישות לשונית להתנהגות פיזית בלתי צפויה יוצר סוג חדש של סיכון - כזה שקשה לחזות ולבקר באמצעים הקיימים.
על רקע זה, גוברת הקריאה לפתרונות שאינם תלויים רק בתוכנה. חוקרים מציעים להטמיע מנגנוני בטיחות ברמת החומרה, כגון אזורי “אין-כניסה” סביב בני אדם המבוססים על חיישנים, ומנגנוני עצירת חירום שאינם ניתנים לעקיפה על ידי המערכת החכמה. לדבריהם, יש לעבור מ”מישור לשוני” של המודלים לגישה של “מישור פיזי” - כזה המעוגן במציאות החומרית ולא בפרשנות טקסטואלית בלבד.
0 תגובות