ג’ראד קפלן, אחד המדענים הבכירים בעולם בתחום הבינה המלאכותית והמדען הראשי של אנתרופיק, אמר בריאיון ל'גרדיאן' כי עד שנת 2030 האנושות תצטרך להחליט האם לקחת את הסיכון הגדול ביותר בתחום: לאפשר למערכות בינה מלאכותית להתחיל לאמן את עצמן ולהפוך לחכמות יותר ללא התערבות אנושית ישירה.
לדבריו, ההחלטה על מתן אוטונומיה מלאה למערכות כאלה עשויה להוביל לשגשוג אדיר של יכולות אנושיות - או לרגע המפחיד שבו יאבדו בני האדם שליטה.
קפלן הסביר כי עד היום הצליחו החוקרים ליישר את המערכות כך שיפעלו לטובת האינטרסים של בני האדם, אך התהליך שבו בינה מלאכותית חכמה תיצור בעצמה גרסה חכמה עוד יותר הוא תהליך לא צפוי.
אם יוחלט לאפשר לבינה המלאכותית לשפר את עצמה בצורה עצמאית, קפלן מזהיר מפני שני איומים מרכזיים. הראשון הוא אובדן שליטה אנושית: מצב שבו בני אדם כבר לא יודעים מה המערכות עושות או מהן מטרותיהן. השאלה המרכזית היא האם אותן מערכות ימשיכו לפעול לטובת האנושות, להבין בני אדם ולשמור על השליטה האנושית בעולם.
הנשק שישנה את המלחמה בכטב"מים - נחשף בקטאר
הסכנה השנייה קשורה לביטחון: בינה מלאכותית כזו עלולה לפתח ידע מדעי וטכנולוגי בקצב שעולה על יכולת האנושות לעקוב אחריו, ולעשות זאת באופן שיקנה יתרון לגורמים שעלולים לנצל אותה לרעה.
למרות הסיכונים, קפלן הסביר כי הוא אופטימי לגבי יכולת האנושות לכוון את הבינה המלאכותית כל עוד היא ברמת אינטליגנציה אנושית. אולם ברגע שהמערכות יעברו את סף היכולת הזאת ויתחילו לאמן את עצמן, הסיכון הופך להיות עמוק ומהותי. המדען הבכיר גם הזהיר כי המירוץ הטכנולוגי האגרסיבי בין החברות הגדולות מגביר את הלחץ ולא מאפשר לאנושות זמן הסתגלות.
קפלן קרא לממשלות ולחברות להבין שכעת מתקרב הרגע שבו תתקבל ההחלטה החשובה ביותר בתחום הבינה המלאכותית. הוא הדגיש כי מדובר בצומת שבה או שיתרחש "פיצוץ אינטליגנציה" שישפר את חיי האנושות באופן חסר תקדים, או שייווצר מצב שבו בני אדם יאבדו שליטה על הטכנולוגיה החזקה ביותר שנוצרה אי פעם.
0 תגובות