תחקיר של ה-BBC חושף רשת בין־לאומית של יוצרים וספאמרים המפיצה בפייסבוק תמונות בינה מלאכותית של כביכול “קורבנות השואה” לצד סיפורים בדויים – וממנפת את התכנים להפקת רווחים מתכניות המוניטיזציה של הרשת.
על פי התחקיר, התכנים זוכים לעשרות אלפי לייקים ושיתופים, בין היתר בדפי “היסטוריה” המפרסמים יותר מ־50 פוסטים ביום.
במוזיאון הזיכרון אושוויץ מזהירים כי מדובר ב“עיוות מסוכן” של ההיסטוריה: “מישהו ממציא סיפורים למשחק רגשי מוזר ברשתות,” אמר הדובר פאוול סוויקי. “זו אינה משחק. מדובר בעולם אמיתי, סבל אמיתי ובני אדם אמיתיים שאותם עלינו להנציח".
מאז גל הזיופים, סיפר, החלו להופיע תגובות גם על פוסטים רשמיים של המוזיאון הטוענות כי מדובר בתמונות שנוצרו ב-AI.
גם בברית הבין-לאומית לזיכרון השואה (IHRA) מדווחים שניצולים ובני משפחותיהם חשים מצוקה: “הם לא תמיד מבינים על מה הם מסתכלים,” אמר ד״ר רוברט ויליאמס. “יש תחושת עצב על כך שזה מתאפשר – דווקא בעידן שבו הושקעו מאמצים רבים בהעלאת מודעות. בקרוב לא יישארו עמנו ניצולים – והעיוותים הללו פוגעים במאבק הזיכרון".
ליבת התופעה, לפי התחקיר, היא “AI slop” – ייצור תעשייתי של טקסטים ותמונות באיכות נמוכה המופצים בהיקפים עצומים לשם מקסום צפיות והכנסות.
ה-BBC עקב אחר חשבונות של יוצרי תוכן, בעיקר מפקיסטן אך גם מהודו, וייטנאם, תאילנד וניגריה, המתאמים ביניהם שיטות להגדלת חשיפה ולהשתלבות בתכניות monetization. חלקם מתגאים פומבית בהיקפי צפיות אדירים והכנסות של עשרות אלפי דולרים – נתונים שלא ניתן היה לאמת עצמאית.
לצד זאת אותרו מדריכים מפורטים ליצירת “היסטוריה מזויפת” באמצעות מודלי AI והמלצות להתחזות לגופים מוכרים כדי לבנות קהל מהר.
Meta, חברת האם של פייסבוק, מסרה כי אף שהתמונות כשלעצמן אינן מפרות את כללי התוכן, נבדקו הדפים המדוברים והוסרו עמודים, קבוצות וחשבונות שהפרו מדיניות על ספאם, התחזות וסחר בעמודים.
בבדיקה נחשף כי חלק מהעמודים שינו זהות לאורך זמן – למשל התחזו בעבר לרשויות כבאות בארה״ב, לעסקים מסחריים או למובילי דעה, בלא הסכמתם.
במוזיאון אושוויץ התריעו כבר ביוני כי דפים “שודדים” את תכני המוזיאון, מעבירים אותם דרך מודלים של AI, מסלפים פרטים ולעיתים ממציאים דמויות ונרטיבים. “הצונאמי של זיופים שוחק את האמון ומבזה את זכר הקורבנות,” אמר סוויקי.
ב-IHRA מזהירים כי גם שימושים “לגיטימיים” ב-AI לשימור זיכרון עלולים לטשטש גבולות ולתרום לתחושת פברוק: “כל מניפולציה קיצונית היא מדרון חלקלק שיש להיזהר ממנו,” אמר ד״ר ויליאמס.
התחקיר מעלה ציפייה להגברת האכיפה של פלטפורמות חברתיות נגד התנהגות לא אותנטית ושימוש מטעה ב-AI, לצד חיזוק ההסברה והחינוך – בייחוד בעידן שבו ניצולי השואה המעטים שנותרו הולכים ומתמעטים, והמאבק על האמת ההיסטורית מתנהל גם ברשתות.
0 תגובות