כיכר השבת

סכנות הבינה המלאכותית?

תוכנות פיתחו שפה עצמאית והבהילו את החוקרים

שתי תוכנות במעבדת הבינה המלאכותית של פייסבוק פיתחו שפה עצמאית כדי לתקשר ביניהם בצורה היעילה ביותר. החוקרים שחששו מאיבוד השליטה ניתקו את התוכנה (דיגיטל)

4
בני סולומון | כיכר השבת | ז' באב | 30.07.17
תוכנות פיתחו שפה עצמאית והבהילו את החוקרים
(צילום: שאטרסטוק)

חוקרים במעבדת הבינה המלאכותית של פייסבוק חוו פאניקה קלה לאחר שנוכחו שבינה מלאכותית שפיתחו הפסיקה לתקשר איתם באנגלית ועברה לשפה חדשה אותה המציאה כדי לתקשר עם תוכנות אחרות. הבוט הסורר נותק לאלתר. כך עולה מדיווח של האתר הקנדי 'דיגיטל טיימס'.

על פי הדיווח, הבוטים של פייסבוק פיתחו למעשה שפה חדשה באופן עצמאי שתאפשר להם לתקשר בצורה יותר יעילה ביניהם מבלי להזדקק ל"שטויות" של השפה האנושית. זהו לא המקרה הראשון שבו חוקרים מזהים פיתוח של שפה חדשה על ידי מערכות בינה מלאכותית. במקרה קודם, הבינה המלאכותית של גוגל שמשמשת בין השאר בשירות התרגומים המקוון שלה, פיתחה לעצמה שפה חדשה שתאפשר לה לבצע את מטלותיה בצורה יותר יעילה.

השפות האלה שמומצאות על ידי התוכנות, בתוך זמן קצר מתפתחות מהר מאוד לצורת תקשורת שכבר אינה דומה לשפה אנושית. מערכות בינה מלאכותית נוטות לפתח לעצמן יכולות לתקשורת יעילה בהתאם למשימות שלהן. למשל במקרה של הבוטים של פייסבוק, 'בוב' ו'אליס', אלה נדרשו לבצע מטלות מסוימות והשפה שימשה אותם לנהל מו"מ על המטלות שבוב יבצע ועל אלה של אליס.

לאחר שניתחו את השפה שבה השתמשו התוכנות כדי לתקשר בינן ובין עצמן, החוקרים נוכחו שהיא הייתה הרבה יותר יעילה מבחינתם כדי להעביר את המסרים ביניהם מאשר אם היו משתמשים בשפה אנושית רגילה.

השפה שפותחה בידיהם נפטרה משכבה עמוקה של מילים וביטויים ששימושיים רק לבני אדם, והסמנטיקה של המילים שלה כמו גם המבנה התחבירי הותאם ליעילות. בשפה פשוטה, הבינה המלאכותית נפטרה מכל מה שמריח מסרבול פיוטי, חברתי או רגשי והשאירה רק את הביטויים היעילים עבור ביצוע המטלה שלה וכך בעצם סייעה לבינה המלאכותית להשיג "הרבה" ב"מעט".

במקרה של בוב ואליס, לא הייתה להם שום תמורה בהמשך השימוש באנגלית, הרווח שלהם נמצא בהמצאה של שפה חדשה ויעילה יותר, מה שגם בוצע בפועל.

נושא הבינה המלאכותית מעלה כל העת את החשש כי ביום אחד יחליטו התוכנות כי הן לא נזקקות יותר למפעילים האנושיים שלהם והם יודרו מתהליך התקשורת ויאבדו שליטה עליהם. תרחישי האימה מדברים על עולם בו הרובוטים ישלטו בבני האדם אך בינתיים נראה כי הדברים תחת שליטה.

תוכן שאסור לפספס
4 תגובות

אין לשלוח תגובות הכוללות דברי הסתה, לשון הרע ותוכן החורג מגבול הטעם הטוב.

התגובה נשלחה בהצלחה.
בקרוב התגובה תיבחן ע"י העורכים שלנו ובמידה ותימצא תקינה תפורסם באתר.
התגובה נשלחה בהצלחה.
בקרוב התגובה תיבחן ע"י העורכים שלנו ובמידה ותימצא תקינה תפורסם באתר.
4
לא ברור מה יהרוג את האנושות קודם, אבל ברור שהיא מתקרבת לקיצה במהירות בכל מקרה.
מושיקו30.07.17
3
הם בנו תוכנה שבה שני רובוטים מתמקחים על מוצרים ומנסים להשיג כמה שיותר בכמה שפחות תשלום, על סמך היסטורייה של אלפי שיחות כאלה בין בני אדם אמיתיים. בלי להכנס לפרטי האלגוריתם, הרובוטים מחפשים את המשפטים שגרמו להשיג הכי הרבה ומשתמשים איתם בהתאם לתגובת הצד השני וכו' מה שקרה, שהרובוטים שלחו אחד לשני חצאי מ
ויאו30.07.17
2
הסרטים עושים נבואה שמגשימה את עצמה וזה דיי מפחיד. אל תתחילו עם זה וזהו חח :}
ISRAEL FOR EVER30.07.17

הצגת כל התגובות

1
לא יודע ממי זה הגיע, זה לא נכון, זה לא עובד ככה (נשלח באמצעות כיכר השבת בסלולרי)
פנחס פנחסוביץ30.07.17
אולי גם יעניין אותך
אינטרנט ומחשבים

מזעזע: אלו התשובות של ה-AI החדש של מייקרוסופט לטבח 

ישראל גראדווהל | 18.03.24

"חשבו שהם חכמים גדולים"

"השבתנו את נמל התעופה הבינלאומי בלבנון - זו רק טעימה"

בני סולומון | 19.11.23

לא לענות!

שיחות הוידאו המטרידות בוואטסאפ שמקבלים אזרחי ישראל

כיכר השבת | 27.10.23

אברכים וטכנולוגיה

אפשר להתנתק מהאינטרנט אבל לא להתנתק מהמציאות; דעה

משה מנס | 04.09.23

לא רק בטוויטר

רוצים 'וי כחול' בפייסבוק? זה המחיר שתשלמו

בני סולומון | 20.02.23
ש

חדש

בוט תרופות לפסח מאושר על ידי בד"צ העדה החרדית

כיכר בשיתוף כללית | מקודם

חסר תקדים

למעלה מ-11 מיליון הצביעו האם המיליארדר יפרוש מטוויטר

כיכר השבת | 19.12.22

במענה לגולש

מהפך בטוויטר? אילון מאסק יגדיל את כמות התווים לציוץ

בני סלומון | 11.12.22

הרשימה המלאה

גוגל חושפת: אלו החיפושים המובילים בשנה האחרונה

בני סולומון | 07.12.22

"רעידת אדמה"

אוהבים קניות ברשת? צפו להוזלה בקרוב

בני סולומון | 10.08.22
ש

קרקע למכירה ליד ירושלים?

זכות לדירה ירושלמית ב-140 אל"ש - ממש בהישג ידך

כיכר בשיתוף גרין פארק | מקודם
ש

ראיון • איציק קרומבי

גל הפיטורים בהייטק - ההזדמנות של העובדים החרדים

איציק קרומבי, מנהל תכנית מיגו להכשרת גברים חרדים להייטק | מקודם

סוף סוף

מפתיע: העדכון החדש ב'וורד' שיקל עליכם

בני סולומון | 26.04.22

צוקרברג בוחן

הצעד המפתיע של פייסבוק: תפתח מטבע?

בני סולומון | 07.04.22

ב'גוגל' פשוט

בחור חרדי חשף פרצת ענק באתר ממשלתי

בני סולומון | 04.04.22
ש

מרגש • צפו בראיון

התפילין של הזולת: סיפורים מרגשים מפרויקט החיבור בין יהודים

אסף מגידו | מקודם

"אמת"

הרשת החדשה של טראמפ כובשת את אפל

כיכר השבת | 22.02.22

מה זה DDos?

"מתקפת סייבר" נגד אוקראינה; כך זה עבד

שלומי מלוביצקי | 17.02.22
ש

יותר סינון בפחות כסף

יקר לכם? הגיע הזמן לשלם פחות עבור יותר

כיכר בשיתוף כשר פליי | מקודם

פירצה חמורה

איראן פרצה לשרתי חברת ביטחון ישראלית

כיכר השבת | 01.02.22
ש

לימודי דיינות

כך אלפי בוגרי ישיבה הפכו לדיינים מוסמכים

כיכר בשיתוף מ.ל.מ | מקודם

נוח יותר לשימוש

כך תשיגו את הגרסה ה'סודית' של וואטסאפ

בני סולומון | 08.12.21

כך תעדכנו נכון

סוף סוף: העדכון המרענן והחדש ב'וואטסאפ'

בני סולומון | 25.11.21

מתקפות הסייבר

מדאיג: האקרים פרסמו נתונים מ'מכון מור'

כיכר השבת | 03.11.21