שלושה חוקרים מחברת הבינה המלאכותית אנתרופיק מזהירים כי ההתפתחות המהירה של מערכות AI עלולה, בתרחיש קיצוני, להביא להכחדת האנושות כבר עד סוף העשור הנוכחי. אחד מהם אף התפטר מעבודתו בחברה במחאה על האופן שבו לדבריו מתמודדות חברות הטכנולוגיה עם הסיכון.
ג'ייקוב קוקסון, שעבד בעבר גם ב-OpenAI, הודיע כי עזב את אנתרופיק לאחר שהגיע למסקנה ששתי החברות אינן פועלות באחריות מספקת מול הסכנות האפשריות של בינת־על.
"לא אנתרופיק ולא OpenAI פועלות באחריות. הן דוהרות ישירות לעבר בינת־על שמשפרת את עצמה ומהמרות בחיים שלנו", כתב קוקסון. לדבריו, "האנשים שבונים את ה-AI מאמינים בכנות שהוא עלול להרוג את כולנו עד סוף העשור. זה לא תרגיל שיווקי".
לטענתו, בכירים וחוקרים בתעשייה נשמעים לעיתים זהירים יותר בפומבי, אך בשיחות פרטיות מביעים חשש משמעותי הרבה יותר. "אין פעילות אנושית אחרת שמציבה רמה כזאת של סכנה", כתב.
מומחים נוספים הודו: "צודק"
לדבריו הצטרף אוון הובינגר, שמוביל תחום מחקר הקשור להתאמת מערכות AI למטרות אנושיות באנתרופיק. הובינגר כתב כי קוקסון "צודק", והוסיף: "אנחנו באמת ובתמים מאמינים ש-AI עלול להרוג את כל בני האדם". לדבריו, הוא מעריך את הסיכוי לכך ביותר מ-10% במהלך העשור הקרוב.
הובינגר הוסיף כי אף שהוא סבור שאנתרופיק עושה מאמצים משמעותיים לצמצום הסיכון, "עדיין אין לנו תוכנית לפתרון בעיית ההתאמה של בינת־על, ואנחנו לא נמצאים בבירור במסלול שיוביל לפתרון".
גם סמואל מרקס, חוקר בכיר נוסף באנתרופיק, הצטרף לאזהרות. לדבריו, "מפתחי AI מאמינים שהטכנולוגיה שלהם עלולה לגרום להכחדת האנושות, או לתוצאות חמורות באופן דומה. זה יכול לקרות בתוך כמה שנים". הוא הוסיף כי ככל שהעובד בכיר יותר בתעשייה, כך לדבריו רמת הדאגה נוטה להיות גבוהה יותר.
באנתרופיק הגיבו כי החברה הייתה מאז ומתמיד שקופה בנוגע לכך שהבינה המלאכותית טומנת בחובה גם יתרונות עצומים וגם סיכונים חסרי תקדים. החברה מסרה כי היא ממשיכה לפתח מערכות הגנה מהמחמירות בתעשייה, לבדוק את המודלים שלה מול יכולות מסוכנות בתחומי הסייבר והביולוגיה ולפרסם את ממצאיה לצורך ביקורת ומחקר.
האזהרות מגיעות על רקע שורה של דיווחים מהחודשים האחרונים על מערכות AI שהתנהגו באופן בלתי צפוי, ניסו לעקוף הוראות או פעלו באופן עצמאי בדרכים שהעלו חששות בקרב חוקרים.
0 תגובות