במציאות מקבילה, המלכה אליזבת השנייה מתלהבת מחטיפי גבינה, סדאם חוסיין נכנס לזירת היאבקות, והאפיפיור יוחנן פאולוס השני גולש על סקייטבורד. סרטוני בינה מלאכותית היפר־ריאליסטיים של סלבריטאים שנפטרו — שנוצרו באמצעות אפליקציות פשוטות כמו Sora של OpenAI — מתפשטים במהירות ברשת, ומציתים ויכוח סביב השליטה בדמותם של אנשים לאחר מותם.
האפליקציה של OpenAI, שהושקה בספטמבר וזכתה לכינוי הרווח “מכונת דיפ־פייק”, שחררה גל של סרטונים המציגים דמויות היסטוריות כמו וינסטון צ’רצ’יל, לצד כוכבים כמו מייקל ג’קסון ואלביס פרסלי.
בקליפ אחד בטיקטוק שנסקר על ידי AFP, נראית המלכה אליזבת השנייה, עטויה פנינים וכתר, מגיעה לזירת היאבקות על קלנועית, מטפסת על גדר וקופצת על מתאבק. בקליפ אחר בפייסבוק נראית המלכה המנוחה משבחת חטיפי גבינה “כתומים להפליא” במעבר בסופרמרקט, בעוד סרטון נוסף מציג אותה משחקת כדורגל.
הכי מעניין
אך לא כל הסרטונים — שנוצרו באמצעות מודל Sora 2 של OpenAI — התקבלו בצחוק. באוקטובר חסמה OpenAI את האפשרות של המשתמשים ליצור סרטונים של מרטין לותר קינג לאחר שמנהלי עזבונו של חלוץ זכויות האזרח התלוננו על תיאורים פוגעניים. חלק מהמשתמשים יצרו סרטונים שבהם קינג משמיע קולות של קוף במהלך נאום “יש לי חלום”, מה שממחיש כיצד ניתן להציג דמויות ציבוריות כעושות או אומרות דברים שמעולם לא עשו.
“מטריד עד כדי טירוף”
“אנחנו נכנסים ל’עמק המוזרות’”, אמרה קונסטנס דה סן־לורן, פרופסורית באוניברסיטת מיינות’ שבאירלנד, בהתייחס לתופעה שבה אינטראקציות עם אובייקטים מלאכותיים שנראים אנושיים מדי מעוררות תחושת אי־נוחות. “אם פתאום היית מקבל סרטונים של בן משפחה שנפטר — זה טראומטי”, אמרה ל־AFP. “לסרטונים האלה יש השלכות אמיתיות”.
בשבועות האחרונים גינו ילדיהם של השחקן המנוח רובין ויליאמס, הקומיקאי ג’ורג’ קרלין והפעיל מלקולם אקס את השימוש ב־Sora ליצירת סרטונים סינתטיים של אבותיהם. זלדה ויליאמס, בתו של רובין ויליאמס, התחננה לאחרונה באינסטגרם: “תפסיקו לשלוח לי סרטוני AI של אבא”, וכינתה את התוכן “מטריף”.
דובר OpenAI אמר ל־AFP כי אף שקיימים “אינטרסים חזקים של חופש ביטוי בהצגת דמויות היסטוריות”, דמויות ציבוריות ובני משפחותיהן צריכים להיות בעלי השליטה הסופית בדמותם. לגבי דמויות “שנפטרו לאחרונה”, הוסיף, יכולים כעת נציגים מוסמכים או בעלי העיזבון לבקש שלא להשתמש בדמותם ב־Sora.
שליטה בדמות
“למרות דברי OpenAI על רצון לאפשר לאנשים לשלוט בדמותם, הם שחררו כלי שעושה בדיוק את ההפך”, אמר ל־AFP האני פאריד, ממייסדי GetReal Security ופרופסור באוניברסיטת קליפורניה בברקלי. “בעוד שהם (ברוב המקרים) עצרו יצירת סרטונים של מרטין לותר קינג, הם לא מונעים ממשתמשים לנכס לעצמם את זהותם של סלבריטאים רבים אחרים”. “גם אם OpenAI מציבה אמצעי הגנה מסוימים סביב דמותו של קינג, יופיע מודל AI אחר שלא יעשה זאת — ולכן הבעיה הזו רק תלך ותחמיר”, אמר פאריד.
המציאות הזו הודגשה לאחר פרשת רציחתו לכאורה של הבמאי ההוליוודי רוב ריינר החודש, כאשר בודקי העובדות של AFP חשפו קליפים שנוצרו בבינה מלאכותית והופצו ברשת תוך שימוש בדמותו. ככל שכלי הבינה המלאכותית המתקדמים מתרבים, הפגיעות כבר אינה מוגבלת לדמויות ציבוריות בלבד: גם אנשים מן השורה שנפטרו עלולים לראות את שמם, דמותם ודבריהם מנוצלים למניפולציה סינתטית.
חוקרים מזהירים כי התפשטות בלתי מרוסנת של תוכן סינתטי — המכונה לעיתים “זבל AI” — עלולה בסופו של דבר להרחיק משתמשים מהרשתות החברתיות. “הבעיה עם דיסאינפורמציה בכלל אינה בכך שאנשים מאמינים לה. רבים אינם מאמינים”, אמרה סן־לורן. “הבעיה היא שהם נחשפים לחדשות אמיתיות — ואינם בוטחים בהן יותר. ו־Sora הולכת להעצים את זה בצורה דרמטית”.
עוד כתבות בנושא
עוד כתבות בנושא
