פוסט בפייסבוק מציג ילדה חייכנית עם תלתלים על תלת אופן, ומספר כי היא הנלורה קאופמן, נערה בת 13 מברלין שנהרגה באושוויץ. אבל לא הייתה קיימת שום קורבן שואה בשם זה, והתמונה עצמה מזויפת ונוצרה באמצעות בינה מלאכותית (AI).
יוצרי תוכן, לרוב ממדינות דרום אסיה, מפיקים פוסטים כאלה בתמורה לכסף, תוך ניצול תגובות רגשיות של מערביים לשואה שבה נרצחו שישה מיליון יהודים, כך אמרו חוקרים לסוכנות AFP.
מבקרי התופעה טוענים כי מדובר בתוכן פוגעני שמעוות את זיכרון השואה ויוצר "אושוויץ דמיוני".
הכי מעניין
מוזיאון אושוויץ השמיע קריאה דחופה לעצור את המגמה. "אנו עדים ליצירת מציאות מזויפת — זהו זיוף של תמונות ושל ההיסטוריה", הזהיר דובר המוזיאון פאבל סאביצקי.
המוזיאון גילה את הפוסטים הראשונים במאי האחרון, וחלקם אף שיבשו פוסטים מקוריים של המוזיאון ושינו את התמונות באמצעות AI ללא ציון שזהו תוכן מזויף. לדברי סאביצקי, באחד המקרים יצרו תמונה מזויפת של גבר אסייתי במקום קורבן פולני, ובמקרים אחרים הומצאו לחלוטין גם התמונות וגם הסיפורים על "אנשים שמעולם לא התקיימו".
אחד המקרים המזעזעים תיאר ילדה בשם איבט קאהן שנהרגה באושוויץ - שם שמעולם לא הופיע ברשימות הקורבנות.
למרות תלונות חוזרות, פייסבוק (חברת Meta) לא נקטה פעולה. "לצערנו, מבחינת הפלטפורמה, זה לא נחשב כהפרת כללים", אמר סאביצקי.
עמודים כאלה מופעלים לעיתים ממדינות כמו הודו, פקיסטן וסרי לנקה, תוך שימוש בחשבונות שנפרצו או ננטשו. לדברי חוקרים, יוצרי התוכן מרוויחים כסף מהפוסטים באמצעות מודל המונטיזציה של פייסבוק. "מדובר בתמונות שמעוררות רגש ומביאות תגובות ולייקים, וכך הם מרוויחים", אמר מרטין דגלינג מארגון AI Forensics.
משפחות ניצולי השואה זועמות. "זה נראה כאילו הם לועגים, כאילו אפשר לשחזר את האובדן הזה בצורה מלאכותית", אמרה שיינה ברנדר, נכדה של ניצולת שואה מניו יורק.
גם בטיקטוק הופצו סרטונים מזויפים, כולל אחד שהוצג כ"חוויית אסיר באושוויץ", וזכה לעשרות אלפי לייקים, תוך עיוות מוחלט של המציאות ההיסטורית האיומה.
חוקרים ואנשי חינוך מזהירים שהשימוש בבינה מלאכותית עלול להוליד עדויות שקריות ולהמציא עדויות היסטוריות מזויפות. לצד זאת, מוזיאונים מסוימים כבר עושים שימוש חיובי בטכנולוגיה לשימור עדויות ניצולים, כמו במרכז הלאומי להנצחת השואה בבריטניה. "מדובר בכלי חזק — אם משתמשים בו בכבוד", אמר מנהל המרכז מארק קייב.