המלך צ'ארלס השלישי פתח היום (חמישי) את כינוס הבינה המלאכותית בבית דמפריס שבאיירשייר, סקוטלנד, וקרא למנהיגי תעשיית הטכנולוגיה להבטיח שהאנושות לא תאבד שליטה על גורלה. באירוע השתתפו מנכ"ל אנבידיה ג'נסן הואנג ובכירים נוספים מתעשיית הבינה המלאכותית.
המונרך הבריטי הבהיר בדבריו כי הפיתוח המואץ של הטכנולוגיה מעורר דאגה לצד עניין רב. "הפיתוח של בינה מלאכותית – התוכן והקצב שלה – מעוררים עניין ודאגה עמוקה במידה שווה", אמר המלך, והוסיף כי "ההחלטות שיתקבלו בתקופה מעצבת זו יעצבו את העולם שיירשו הדורות הבאים".
המלך ביקש מהנוכחים הבטחות ברורות "שלא נבחר לאבד שליטה על גורלנו", תוך שהוא מדגיש את גודל האחריות המונחת על כתפיהם של מנהיגי התעשייה. הוא הבהיר כי "המשימה העומדת בפניכם אינה רק לקדם טכנולוגיה, אלא להבטיח שהיא תישאר בשירות האנושות, הקהילה והעולם הטבעי".
דבריו של המלך צ'ארלס מגיעים על רקע גל אזהרות חריג שהצטבר בימים האחרונים מפני הסכנות של הבינה המלאכותית. חוקרים מתעשיית הטכנולוגיה, מנהלי חברות ענק ואנשי ציבור מזהירים כי ההתפתחות המהירה של המערכות המתקדמות עלולה לצאת משליטה.
יעקב קוקסון, חוקר בן 27 שעבד בעבר באנתרופיק ובאופן איי-איי, התפטר מתפקידו ופרסם אזהרה חריפה שלפיה האנשים שבונים את מערכות הבינה המלאכותית מאמינים ברצינות שהטכנולוגיה עלולה להרוג את האנושות עד סוף העשור. לדבריו, החברות דוהרות לעבר מערכות המסוגלות לשפר את עצמן, בעוד אמצעי הבטיחות אינם מתקדמים באותו קצב.
דמיין אמודיי, מנכ"ל אנת'רופיק, הצטרף לאזהרות וקרא להאט את קצב הפיתוח של מערכות הבינה המלאכותית המתקדמות. הוא הזהיר כי קצב ההתקדמות עלול לעקוף את היכולת האנושית להבין את המערכות ולשלוט בהן, והציע פיקוח חיצוני ושיתוף פעולה בין חברות ומדינות.
גם סם אלטמן, מנכ"ל אופן איי, הודה בכנס שנערך בסן פרנסיסקו כי החשש מפני הסיכונים של בינה מלאכותית מוצדק. "העולם צודק. צריך לפחד מזה", אמר אלטמן, והוסיף כי תאונות מסוימות עשויות להיות בלתי נמנעות ככל שהטכנולוגיה מתפתחת במהירות. לדבריו, חברות בתחום צריכות להיות מוכנות להאט ואף לעצור כאשר אינן יכולות להבטיח שהמשך הפיתוח בטוח.
בפסגה בסקוטלנד לוקחים חלק דמויות בולטות נוספות מתעשיית הטכנולוגיה והממשל, ביניהם שר הבינה המלאכותית קנישקה נאראיאן ויועץ הוותיקן לענייני טכנולוגיה. המפגש נועד לבחון כיצד ניתן לרתום את הטכנולוגיה לטובת החברה תוך שמירה על ביטחון הציבור.
המקרה של גורם המקושר לאיראן שהשתמש בבוט הבינה המלאכותית "קלוד" כדי לאסוף ולנתח מידע על כוחות הצי האמריקאי במזרח התיכון, מדגיש את החשש החדש: לא רק כיצד ניתן להשתמש בבינה מלאכותית כדי לתקוף, אלא כיצד היא יכולה להפוך מידע שכבר נמצא ברשת לכלי מודיעיני רב־עוצמה.
0 תגובות