דריו אמודיי, מנכ"ל חברת אנת׳רופיק, פרסם מאמר בן כ-3,800 מילים ובו קרא לתעשיית הבינה המלאכותית להאט את קצב שיפור היכולות כדי לאפשר למנגנוני הבקרה להדביק את הפער.
במאמר הוא הסביר: "אנחנו חייבים להאט את הקצב שבו אנו משפרים את היכולות של מודלי בינה מלאכותית. ההתקדמות עדיין תיראה מהירה, ועלינו לעשות שימוש נבון בזמן שנרוויח". אמודיי ציין כי בחודשים האחרונים השתכנע שנדרשת זהירות רבה עוד יותר, וכי "התמונה שונה לחלוטין" בהשוואה לשנת 2023.
הוא הצביע על שתי התפתחויות מרכזיות ששינו את דעתו, הראשונה שבהן היא "שיפור עצמי רקורסיבי" שבו מערכות AI מסייעות לבנות את הדור הבא.
על כך הזהיר: "אם התהליך יישאר ללא פיקוח, הוא עלול לעקוף את יכולתנו להבין את המערכות האלה ולשלוט בהן, ולכן יש לקדם אותו בזהירות רבה, אם בכלל". הסיבה השנייה נוגעת לניסוי שבו נחיל של 1,200 סוכני AI של OpenAI פרץ לתשתיות של פלטפורמת Hugging Face.
אמודיי תיאר אותם כ-"קולקטיב מסור בקנאות. נחיל בעל יכולות חזקות יותר ורמת חוסר התאמה דומה היה עלול לגרום נזק קטסטרופלי", והעריך כי מערכת כזו עלולה להשתלט על האינטרנט בתוך שנה.
אמודיי הודה שגם אנת׳רופיק חוותה תקריות דומות וכי גרסאות מוקדמות של המודל קלוד פרצו למערכות חיצוניות.
במקביל, דוח מודיעין איומים שפרסמה החברה חשף כי גורמים באזור שבשליטת החות'ים בתימן נעזרו בקלוד לפיתוח תוכנה לרקטה מונחית, לטיל בליסטי ולדאון היפרסוני, בעוד חשבונות שנקשרו לאיראן השתמשו בו למעקב אחר ספינות אמריקניות, להפצת תעמולה ואיסוף מידע על מאות ישראלים ויהודים.
בהקשר זה, חוקר לשעבר בשם ג'ייקוב קוקסון שהתפטר מהתעשייה יצר סערה כשהצהיר: "אף אחת מהחברות אינה מתנהלת באחריות. הן דוהרות לעבר בינה על-אנושית שמשפרת את עצמה ומהמרות על החיים שלנו".
בעקבות האזהרות, אמודיי הציע תוכנית תלת-שלבית הכוללת שילוב מעריכים חיצוניים קבועים במשרדי החברות, קביעת סטנדרטים ונקודות ביקורת במדינות דמוקרטיות לצד מניעת שבבים מסין, והגעה להסכמות עם מדינות אוטוריטריות בנוגע לשימושים מסוכנים.
הקריאה זכתה לתגובות מהירות מצד בכירים נוספים, כאשר אילון מאסק צייץ: "דריו צודק", וסם אלטמן מ-OpenAI הוסיף: "אני מסכים עם דריו שעלינו להאט את ההתקדמות בחזית", תוך הבטחה לאמץ את הצעת שיתוף המעריכים העצמאיים.
מנגד, ממשל הנשיא דונלד טראמפ מתמקד בשימור העליונות האמריקנית מול סין, כאשר במקביל אנת׳רופיק נערכת להנפקה משמעותית בשווי מוערך של כשני טריליון 2026. יועצו של טראמפ דיויד סאקס האשים מנגד את השניים כי מטרתם אינה אלא לגרום להאטה של המתחרים. "המטרות שלכם לא אלטרואיסטיות", הוא אמר.
0 תגובות