סכנות הבינה המלאכותית?

תוכנות פיתחו שפה עצמאית והבהילו את החוקרים

שתי תוכנות במעבדת הבינה המלאכותית של פייסבוק פיתחו שפה עצמאית כדי לתקשר ביניהם בצורה היעילה ביותר. החוקרים שחששו מאיבוד השליטה ניתקו את התוכנה (דיגיטל)

בני סולומון | כיכר השבת |
(צילום: שאטרסטוק)

חוקרים במעבדת הבינה המלאכותית של פייסבוק חוו פאניקה קלה לאחר שנוכחו שבינה מלאכותית שפיתחו הפסיקה לתקשר איתם באנגלית ועברה לשפה חדשה אותה המציאה כדי לתקשר עם תוכנות אחרות. הבוט הסורר נותק לאלתר. כך עולה מדיווח של האתר הקנדי 'דיגיטל טיימס'.

על פי הדיווח, הבוטים של פייסבוק פיתחו למעשה שפה חדשה באופן עצמאי שתאפשר להם לתקשר בצורה יותר יעילה ביניהם מבלי להזדקק ל"שטויות" של השפה האנושית. זהו לא המקרה הראשון שבו חוקרים מזהים פיתוח של שפה חדשה על ידי מערכות בינה מלאכותית. במקרה קודם, הבינה המלאכותית של גוגל שמשמשת בין השאר בשירות התרגומים המקוון שלה, פיתחה לעצמה שפה חדשה שתאפשר לה לבצע את מטלותיה בצורה יותר יעילה.

השפות האלה שמומצאות על ידי התוכנות, בתוך זמן קצר מתפתחות מהר מאוד לצורת תקשורת שכבר אינה דומה לשפה אנושית. מערכות בינה מלאכותית נוטות לפתח לעצמן יכולות לתקשורת יעילה בהתאם למשימות שלהן. למשל במקרה של הבוטים של פייסבוק, 'בוב' ו'אליס', אלה נדרשו לבצע מטלות מסוימות והשפה שימשה אותם לנהל מו"מ על המטלות שבוב יבצע ועל אלה של אליס.

לאחר שניתחו את השפה שבה השתמשו התוכנות כדי לתקשר בינן ובין עצמן, החוקרים נוכחו שהיא הייתה הרבה יותר יעילה מבחינתם כדי להעביר את המסרים ביניהם מאשר אם היו משתמשים בשפה אנושית רגילה.

השפה שפותחה בידיהם נפטרה משכבה עמוקה של מילים וביטויים ששימושיים רק לבני אדם, והסמנטיקה של המילים שלה כמו גם המבנה התחבירי הותאם ליעילות. בשפה פשוטה, הבינה המלאכותית נפטרה מכל מה שמריח מסרבול פיוטי, חברתי או רגשי והשאירה רק את הביטויים היעילים עבור ביצוע המטלה שלה וכך בעצם סייעה לבינה המלאכותית להשיג "הרבה" ב"מעט".

במקרה של בוב ואליס, לא הייתה להם שום תמורה בהמשך השימוש באנגלית, הרווח שלהם נמצא בהמצאה של שפה חדשה ויעילה יותר, מה שגם בוצע בפועל.

נושא הבינה המלאכותית מעלה כל העת את החשש כי ביום אחד יחליטו התוכנות כי הן לא נזקקות יותר למפעילים האנושיים שלהם והם יודרו מתהליך התקשורת ויאבדו שליטה עליהם. תרחישי האימה מדברים על עולם בו הרובוטים ישלטו בבני האדם אך בינתיים נראה כי הדברים תחת שליטה.

הכתבה הייתה מעניינת?

תוכן שאסור לפספס

0 תגובות

אין לשלוח תגובות הכוללות דברי הסתה, לשון הרע ותוכן החורג מגבול הטעם הטוב.

טוען תגובות...
תוכן שאסור לפספס

עכשיו בכותרות
הנקראים ביותר
המדוברים ביותר