גל אזהרות חריג מפני הסכנות של הבינה המלאכותית מטלטל בימים האחרונים את ארצות הברית. חוקרים מתעשיית הטכנולוגיה, מנהלי חברות ענק ואנשי ציבור מזהירים כי ההתפתחות המהירה של המערכות המתקדמות עלולה לצאת משליטה.
הסערה הנוכחית החריפה לאחר שיעקב קוקסון, חוקר בן 27 שעבד בעבר באנתרופיק ובאופן איי-איי, התפטר מתפקידו ופרסם אזהרה חריפה שלפיה האנשים שבונים את מערכות הבינה המלאכותית מאמינים ברצינות שהטכנולוגיה עלולה להרוג את האנושות עד סוף העשור. לדבריו, החברות דוהרות לעבר מערכות המסוגלות לשפר את עצמן, בעוד אמצעי הבטיחות אינם מתקדמים באותו קצב.
זמן קצר לאחר מכן הצטרף דמיין אמודיי, מנכ"ל אנתרופיק, לאזהרות וקרא להאט את קצב הפיתוח של מערכות הבינה המלאכותית המתקדמות. הוא הזהיר כי קצב ההתקדמות עלול לעקוף את היכולת האנושית להבין את המערכות ולשלוט בהן, והציע פיקוח חיצוני ושיתוף פעולה בין חברות ומדינות.
גם סם אלטמן, מנכ"ל אופן איי, הביע תמיכה בצורך להאט את קצב ההתקדמות, בעוד אילון מאסק הצטרף אף הוא לקולות הקוראים לזהירות. במקביל, דיווחים חדשים מעלים כי גורמים נוספים בתעשייה מודאגים מהאפשרות שמערכות אוטונומיות יוכלו בעתיד לבצע פעולות מורכבות ללא שליטה אנושית מספקת.
ואז נכנסה גם הפוליטיקה לתמונה. לפי דיווחים בארצות הברית, הנשיא לשעבר ברק אובמה קרא לדמוקרטים להפוך את מדיניות הבינה המלאכותית לנושא מרכזי, על רקע המאבק הפוליטי לקראת בחירות האמצע. במקביל, מבקרי המהלך טוענים כי העיתוי של גל האזהרות מעורר שאלות האם הפחד מפני "אפוקליפסת הבינה המלאכותית" הופך גם לכלי פוליטי.
מן העבר השני, הנשיא דונלד טראמפ ואנשי ממשלו מדגישים את הסכנה שבהאטת ארצות הברית מול סין. הטענה היא שאם החברות האמריקניות יאטו את הפיתוח בעוד הסינים ימשיכו במרוץ, ארצות הברית עלולה לאבד את היתרון הטכנולוגי והביטחוני שלה.
3 תגובות