ג'ייקוב קוקסון, חוקר בינה מלאכותית בן 27 שעבד בשנים האחרונות בתוך שתיים מהחברות המובילות בעולם בתחום, הודיע על פרישתו מאנתרופיק – ועל עזיבתו את תעשיית הבינה המלאכותית. הסיבה לדבריו: חשש עמוק שהמרוץ לפיתוח מערכות חכמות יותר ויותר מתקדם מהר יותר מהיכולת של בני האדם לשלוט בהן.
קוקסון, שעבד בעבר ב־OpenAI ולאחר מכן באנתרופיק, עסק במשך כשלוש שנים במחקר אימון של מודלי בינה מלאכותית. בהודעה שפרסם הוא טען כי שתי החברות אינן פועלות באחריות מספקת וכי התעשייה כולה "דוהרת ישירות לעבר בינה מלאכותית על־אנושית שמשפרת את עצמה". לדבריו, מדובר ב"הימור עם החיים שלנו".
החשש המרכזי שלו אינו מצ'אטבוט חכם יותר, אלא מהשלב שבו מערכות בינה מלאכותית יוכלו לפתח בעצמן את הדור הבא של מערכות בינה מלאכותית. תרחיש כזה עלול ליצור מעגל האצה שבו המכונות משתפרות במהירות הולכת וגוברת, בעוד שבני האדם מתקשים להבין כיצד הן פועלות ומה ההשלכות של יכולותיהן.
קוקסון אף טען כי חלק מהאנשים שעובדים בתוך התעשייה מאמינים ברצינות שבינה מלאכותית עלולה להפוך למסוכנת ביותר עד סוף העשור. הוא הזהיר כי מערכות עתידיות עשויות להגיע ליכולות בתחומים כמו פריצה למערכות מחשב, מחקר מדעי ופיתוח טכנולוגי, ולצבור כוח ומשאבים בקצב שקשה יהיה לבני האדם לעצור.
הפרישה דרמטית במיוחד משום שקוקסון אינו מבקר חיצוני שלא היה מעורב בתחום. הוא הגיע מתוך התעשייה עצמה, לאחר שעבד הן ב־OpenAI והן באנתרופיק, חברה שמזוהה במיוחד עם הדגש שלה על בטיחות ופיתוח אחראי של בינה מלאכותית.
לדבריו, דווקא המעבר לאנתרופיק גרם לו להבין שגם חברה שמודעת היטב לסיכונים מתקשה לעצור כאשר היא נמצאת במרוץ מול מתחרותיה.
לדבריו, הבעיה אינה רק חברה אחת. כל עוד חברות אמריקניות מתחרות זו בזו, ובמקביל מתנהל מרוץ עולמי מול חברות מסין, לכל חברה יש תמריץ להמשיך ולפתח מערכות חזקות יותר כדי שלא תישאר מאחור. לכן קוקסון קורא לתיאום רחב יותר בין החברות והממשלות, ואף העלה אפשרות לעצירה זמנית של שיפור היכולות של המודלים המתקדמים.
הטענות כבר עוררו תגובות חריפות בעולם ה־AI. חוקר מאנתרופיק, אוון הובינגר, כתב בתגובה כי אנשי החברה אכן מתייחסים ברצינות לאפשרות שבינה מלאכותית מתקדמת עלולה להביא לתוצאה קטסטרופלית, ואף העריך כי הסיכון לכך בעשור הקרוב אינו זניח. במקביל, גורמים בכירים בתעשייה קוראים להגברת הפיקוח והתיאום סביב פיתוח מערכות עוצמתיות יותר.
0 תגובות