גוגל הכריזה על השקת תכונה חדשה לאפליקציית Gemini, שמאפשרת לבדוק האם תמונה מסוימת הופקה או שונתה על ידי כלי AI של החברה. משתמשים יכולים להעלות כל תמונה ולשאול בצורה חופשית האם היא נוצרה באמצעים מלאכותיים. הכלי סורק את התמונה לאיתור סימן מים דיגיטלי בלתי נראה מסוג SynthID, שגוגל מטמיעה במיליוני יצירות מאז 2023.
בשונה מכלי זיהוי פייק אחרים, גוגל מודה כי הכלי שלה מסוגל לזהות רק תמונות שנוצרו או עובדו עם בינה מלאכותית של גוגל (כגון דגם Nano Banana Pro והדגמים שמשויכים ל-Gemini), ואינו מסוגל לזהות תמונות שנוצרו במנועי AI מתחרים כמו OpenAI, מיקרוסופט ודומיהם. בכך, השימוש בתכונה מצומצם לעולם התוכן בו גוגל שולטת בפועל ולא יוכל להבחין בכל דימוי מלאכותי שמסתובב ברשת.
גוגל הכריזה כי בקרוב הכלי שלה יתרחב לאימות תכנים לפי תקן C2PA הבינלאומי, מה שאמור לאפשר זיהוי תמונות גם של מתחרים, וגם לתכני וידאו ואודיו. במקביל, החברה צהירה שהפיצ'ר ישולב עם הזמן בחיפוש של גוגל ויהיה זמין למשתמשי גרסה חינמית של Gemini, עם הגבלות, ומנויים פרימיום יהנו ממכסה גדולה יותר. מנגד, מחקר שנעשה לאחרונה באוניברסיטת ווטרלו מדגים כי סימני מים הנוכחיים ניתנים להסרה, ואחוזי האיתור צונחים בתוך דקות - מה שמעמיד בספק את האפקטיביות של גישות אלה.
המהלך של גוגל משתלב במגמה עולמית: גם טיקטוק, מטא (פייסבוק), לינקדאין ואחרות מצרפות סימני מים בלתי נראים ומקדמות סטנדרטים גלובליים של אימות תוכן דיגיטלי, אך האתגרים הטכנולוגיים נשארים גדולים. האם נגיע לעידן בו תכני דיפ-פייק יזוהו מיידית או שמלחמת החתול-ועכבר במידע המלאכותי תימשך? ימים יגידו.
0 תגובות