תוכנת דיפ־פייק סינית בשם Haotian AI מעוררת דאגה בקרב חוקרי אבטחה ברחבי העולם, לאחר שנחשף כי היא מאפשרת לבצע התחזות בזמן אמת במהלך שיחות וידאו בפלטפורמות פופולריות כמו זום, וואטסאפ ו־Microsoft Teams. לפי תחקיר שפורסם באתר 404 Media, מדובר בכלי נגיש יחסית שמוריד משמעותית את חסמי הכניסה לעולם ההונאות הדיגיטליות.
הכתב ג’וזף קוקס, שבחן את המערכת בעצמו, תיאר כיצד פניו הושתלו בזמן אמת על גופו של אדם אחר במהלך שיחת וידאו - כולל פרטים קטנים כמו הבעות פנים, זיפים ותנועות טבעיות. גם כאשר המפעיל נגע בפניו או הסתיר חלקים מהם, האשליה נותרה אמינה.
התוכנה נמכרת בערוצים כמו טלגרם במחירים שנעים בין כ־1,200 ל־9,900 דולר, ולעיתים אף בפחות מ־2,000 דולר לשנה. לדברי חוקרי חברת GetReal Security, ניתן להפעיל את הכלי בתוך דקות ספורות, גם על מחשב גיימינג רגיל ובחיבור WiFi ציבורי. מאחורי המוצר עומד, לפי הפרסומים, צוות פיתוח רחב, והכנסותיו כבר חצו את רף 4 מיליון הדולר.
מעבר לטכנולוגיה עצמה, התמונה הרחבה מטרידה לא פחות. Haotian AI הוא חלק ממערכת גלובלית מתפתחת של הונאות מבוססות בינה מלאכותית. לפי דיווחים נוספים, מתחמי הונאה בדרום־מזרח אסיה - בעיקר בקמבודיה, מיאנמר ולאוס - מעסיקים עובדים שמבצעים עשרות ואף מאות שיחות דיפ־פייק ביום, בעיקר במסגרת הונאות והשקעות קריפטו מפוקפקות.
הנזק הכלכלי כבר מורגש היטב. בניו זילנד, למשל, נמצא כי יותר ממחצית הארגונים חוו ניסיונות הונאה בשנה האחרונה, עם הפסדים ממוצעים של כ־2.2 מיליון דולר לארגון. הרשויות אף הזהירו מפני סרטונים מזויפים של פוליטיקאים ובכירים במערכת הבנקאית, המשמשים לקידום פלטפורמות השקעה פיקטיביות.
אחד ההיבטים המדאיגים ביותר הוא הפשטות. לפי התחקיר, גם משתמשים ללא ידע טכני יכולים להפעיל את המערכת, הודות להוראות מפורטות ושילוב חלק עם שירותי שיחות קיימים. המשמעות: קהל היעד של הכלי אינו מוגבל להאקרים מתוחכמים - אלא פתוח כמעט לכל מי שמוכן לנצל אותו.
לפי הממצאים, כבר תועדו מקרים שבהם נעשה שימוש בתוכנה כדי להתחזות לגורמי אכיפת חוק בארצות הברית - מה שמעיד על פוטנציאל הפגיעה הרחב, לא רק בפרטים אלא גם במוסדות.
0 תגובות