דו"ח: רשת של "רבני בינה מלאכותית" מקדמת אנטישמיות בטיקטוק

רשת מתואמת של חשבונות טיקטוק שנוצרו על ידי בינה מלאכותית, המתחזים לרבנים יהודים, מפיצה באופן שיטתי תוכן אנטישמי, על פי דו"ח שפורסם ביום רביעי על ידי תנועת המאבק באנטישמיות (CAM).

"הסכנה ברורה. על ידי התחזות לקולות יהודיים אותנטיים, 'רבנים' אלה שוחקים אמון, מנרמלים שנאה ומסיתים לאלימות בעולם האמיתי נגד יהודים", נכתב בדו"ח. "על ידי הגברת תוכן זה לקהל צעיר ורלוונטי, טיקטוק שותפה להאצת הרדיקליזציה בעידן שבו בינה מלאכותית מקשה יותר ויותר על גילוי דיסאינפורמציה".

המחקר, שנערך על ידי מרכז המחקר לאנטישמיות (ARC) של עמותה אמריקנית ללא מטרות רווח, זיהה 49 חשבונות טיקטוק המתחזים לדמויות דתיות יהודיות תוך הפצת תיאוריות קונספירציה ונרטיבים אנטישמיים קלאסיים. יחד, החשבונות צברו יותר מ-950,000 עוקבים וזכו ללמעלה מ-10 מיליון לייקים.

הרשת מסתמכת על אווטארים שנוצרו על ידי בינה מלאכותית וזהויות מפוברקות, שנועדו לחקות קולות יהודיים אמינים. חוקרים שערכו ניתוח מעמיק של ארבעה חשבונות - @rabbirothstein, @rabingoldmaan, @rabbistirberg ו-@rabbi_silverstein - חשפו דפוסי תיאום, כולל מסגור נרטיבי זהה, שפה משותפת ומיקוד נושאי עקבי.

על פי הדו"ח, העקביות "מרמזת על מאמץ מאורגן לכבס ולהכניס רעיונות אנטישמיים לתוך השיח המרכזי, בניגוד ליצירת תוכן אורגני או מקרי".

בין הממצאים המטרידים ביותר של הדו"ח הייתה הטקטיקה של הצגת עלילות דם אנטישמיות כייעוץ פיננסי פנימי המוצע לכאורה על ידי דמויות דתיות סמכותיות. הדו"ח הזהיר כי גישה זו "עוקפת ספקנות רגילה המוחלת על האשמות מבחוץ, וגורמת לטרופים אנטישמיים להיראות עובדתיים ומובנים מאליהם", ובכך מבריחה למעשה שנאה לתוך השיח המרכזי באמצעות מסווה של תוכן ייעוץ.

חוקרים הזהירו גם מפני הסכנה הנשקפת מבסיס המשתמשים הצעיר ברובו של טיקטוק. הגברה אלגוריתמית, נכתב בדו"ח, "מבטיחה שסרטונים אלה יגיעו למשתמשים שכבר צורכים תוכן 'שיפור עצמי' עמוס קונספירציה, מנרמלת את האנטישמיות כאמת נסתרת ומורידה את הסף לאמונות קיצוניות יותר.

זו לא הפעם הראשונה שטקטיקות כאלה נחשפות. ARC זיהתה בעבר רשת של יותר מ-70 "רבנים" שנוצרו על ידי בינה מלאכותית ומפיצים תוכן אנטישמי באינסטגרם. בעקבות אינטראקציה עם Meta, רבים מהחשבונות הוסרו, מסרה CAM.

CAM קוראת כעת ל-TikTok ללכת בעקבותיה של Meta על ידי הסרה מיידית של החשבונות שזוהו, השקעה בכלי זיהוי בינה מלאכותית שאומנו לזהות התחזות דתית סינתטית והשקת קמפיין מודעות ציבורי שיעזור למשתמשים לזהות תעמולה שנוצרה על ידי בינה מלאכותית.

"תוכן שנוצר על ידי בינה מלאכותית הוא זול, ניתן להרחבה וקשה למנחים להבחין בינו לבין תוכן שנוצר על ידי בני אדם אמיתיים", סיכם הדו"ח.