אנת'רופיק הודיעה כי תתחיל לשלב סימני מים בלתי נראים בטקסטים שנוצרים באמצעות קלוד, כחלק מהיערכות לדרישות השקיפות של חוק הבינה המלאכותית האירופי. בניגוד לסימן מים המופיע על תמונה, במקרה הזה הקורא לא יראה שום סימון על הטקסט עצמו.
החברה תשתמש בטכנולוגיית SynthID, שפותחה על ידי גוגל דיפמיינד. בזמן יצירת הטקסט המערכת משפיעה בעדינות על בחירת המילים של המודל: כאשר קיימות כמה אפשרויות מתאימות להמשך המשפט, היא גורמת לקלוד לבחור מילים בהתאם לתבנית סטטיסטית מסוימת.
לדוגמא, אם המערכת צריכה לבחור בין "מזג אוויר אפור" ל"מעונן", היא תבחר במילה אחת מביניהם כל הזמן. עבור הקורא התוצאה אמורה להיראות טבעית לחלוטין, אך כלי זיהוי שמכיר את התבנית יכול לבדוק את רצף המילים ולקבוע בסבירות גבוהה אם הטקסט נוצר באמצעות המודל.
באנת'רופיק מדגישים כי הסימון לא אמור לפגוע באיכות התשובות או לשנות את משמעותן. ככל שהטקסט ארוך יותר, קל יותר לזהות את סימן המים, בעוד שבקטעים קצרים רמת הוודאות נמוכה יותר. גם בקוד הסימון צפוי להיות חלש יותר, משום שלמודל יש פחות חופש בבחירת המילים והסימנים הדרושים לכתיבת קוד תקין.
החברה מודה כי ניתן לפגוע בסימן המים באמצעות שכתוב משמעותי של הטקסט. עריכות קלות או החלפת מספר מילים לא בהכרח יספיקו, אולם שכתוב נרחב עשוי להסיר את התבנית. במקרה שבו קלוד משמש רק להגהה או לתיקונים קלים של טקסט אנושי, הסיכוי שהטקסט יסומן כתוצר AI צפוי להיות נמוך יותר.
באנת'רופיק מציינים כי המהלך אינו ייחודי לה, וכי חברות בינה מלאכותית נוספות צפויות לאמץ פתרונות דומים, על רקע הדרישות הגוברות לאפשר זיהוי של תוכן שנוצר באמצעות בינה מלאכותית.
0 תגובות