בצל האזהרות ממומחים בתחום, מנכ"ל OpenAI סם אלטמן הודה כי החשש מפני הסיכונים של בינה מלאכותית מוצדק, אך טען כי הוא עדיין מאמין שהתעשייה מסוגלת להתמודד עם הסכנות.
"העולם צודק. צריך לפחד מזה", אמר אלטמן בכנס שנערך בסן פרנסיסקו, והוסיף כי תאונות מסוימות עשויות להיות בלתי נמנעות ככל שהטכנולוגיה מתפתחת במהירות. לדבריו, חברות בתחום צריכות להיות מוכנות להאט ואף לעצור כאשר אינן יכולות להבטיח שהמשך הפיתוח בטוח.
דבריו מגיעים על רקע אזהרות חריפות יותר מתוך תעשיית ה-AI עצמה. ג'ייקוב קוקסון, חוקר שעבד בעבר באנתרופיק וב־OpenAI התפטר לאחרונה תוך אזהרות כי המרוץ ל-AI עלול לסכן את האנושות. הוא קרא להאט את קצב הפיתוח וטען כי התעשייה מתקדמת מהר יותר מהיכולת שלה להתמודד עם הסיכונים.
ג'ק קלארק, ממייסדי אנתרופיק, הזהיר אף הוא בראיון ל-NPR מפני מצב שבו סוכני AI שאינם פועלים בהתאם למטרותיהם של בני האדם יוכלו לפרוץ למחשבים ואף לנסות לשבש את האינטרנט.
קלארק אף קרא לבחינה של תקני בטיחות משותפים ופיקוח חיצוני על מערכות מתקדמות, וטען כי התחרות בין חברות ה-AI מקשה על חברה בודדת להאט את קצב הפיתוח בכוחות עצמה. לדבריו, "אנחנו מטילים קוביות עם סיכונים עצומים", ולכן יש צורך לשנות את מסלול התעשייה.
0 תגובות