נוף הטרור הגלובלי מצוי בשנים האחרונות בתהליך טרנספורמציה עמוק וחסר תקדים. עידן הסרטונים המטושטשים שהועלו לפורומים נידחים בדארק־ווב פינה את מקומו לשלב חדש ומתקדם יותר: "ח'ליפות סייבר 2.0". בעידן שבו החדשנות הטכנולוגית אינה עוד נחלתן הבלעדית של מדינות או של ענקיות הסיליקון ואלי, ארגונים ג'יהאדיסטיים מפגינים יכולת מדאיגה לא רק להסתגל למציאות המשתנה, אלא לאמץ אותה במהירות, לנצל את יתרונותיה ואף להשתלט באופן יזום על הזירות הדיגיטליות החדשות.
הבינה המלאכותית שולבה באסטרטגיות הפעולה של הארגונים הללו והפכה למכפיל כוח של ממש: היא מאיצה תהליכי גיוס, מאפשרת התאמה אישית קיצונית של תכני ההטפה, והופכת את התעמולה למכונת השפעה חמקמקה, מתוחכמת ונוכחת בכל זירה. מכוני מחקר בינלאומיים מובילים מצביעים על כך שארגונים קיצוניים אימצו מודלים מעולמות השיווק והתאגידים הרב־לאומיים, ולמדו לפעול במונחים של קהלים, מסרים ומסלולי המרה - בדיוק כפי שעושות חברות מסחריות.
האקרים. צילום אילוסטרציה | צילום: שאטרסטוק
במקום לפנות להמון אנונימי, הם מכוונים אל היחיד באמצעות מיקרו־סגמנטציה. כלומר, באמצעות פירוק הקהל לתת־קבוצות זעירות על בסיס פגיעויות פסיכולוגיות, זהויות מקומיות ותחומי עניין. כך נוצרים אלפי מסרים, שכל אחד מהם מותאם לפרופיל מדויק, עד כדי עיצוב תפיסת המציאות של הנמען. רמת הדיוק הזו מזכירה קמפיינים פוליטיים מתקדמים, הנשענים על מיקרו־טארגטינג וניתוח ביג־דאטה. אופן פעולה זה מזכיר יותר חברת הייטק מאשר ארגון טרור.
הכי מעניין
תהליך האינדוקטרינציה אינו מתרחש במרחב אחד מבודד, אלא בנוי כמשפך רב־שלבי ומתוכנן היטב - כזה שנועד לחמוק ממנגנוני פיקוח ובה בעת להעמיק בהדרגה את המעורבות הרגשית של היעד. ובכן, השלב הראשון מתרחש בזירות החברתיות הפופולריות, המשמשות כפיתיון רחב־היקף. שם מאתרות רשתות התעמולה משתמשים פגיעים באמצעות תכני "שער כניסה", המוחדרים לפידים הטרנדיים, לא פעם באמצעות חטיפת האשטגים וניצול שיח אקטואלי.
בינה מלאכותית - אילוסטרציה | צילום: הדמיית AI
ואז נכנסת הבינה המלאכותית לפעולה: מופקים סרטונים ותמונות מזויפים, מתורגמים לשפות רבות ומופצים בהיקפים עצומים. לא פעם נוצרות יש מאין סצנות מזעזעות, לדוגמא תמונות של ילדים פצועים במלחמות שלא באמת התרחשו במציאות, במטרה לעורר זעם ואמפתיה, ובו בזמן לעקוף מנגנוני סינון אוטומטיים שאינם מצליחים תמיד להבחין בין תוכן אותנטי לתוכן שנוצר מלאכותית. זהו שילוב מטריד ומסוכן בין טרור מתוחכם למניפולציה פסיכולוגית מדויקת.
בנוסף לכך, העובדה שכל גרסה נוצרת מחדש ובשינוי קל מקודמתה הופכת את מסנני ה־hash לחסרי אפקטיביות, ומקנה לתעמולת הטרור עמידות חריגה לאורך זמן. למעשה, לאחר שמזוהה יעד רגיש, השיח מועבר במהירות למרחבים סגורים ומוצפנים. המשתמש מוזמן לקבוצות באפליקציות מסרים מאובטחות ושם נכנסים לפעולה צ'אטבוטים מתקדמים המדמים אמפתיה ורגישות, יוצרים תחושת קרבה ומנהלים דיאלוג מותאם למצבו הנפשי של בן השיח הווירטואלי.
מפגין פרו־פלסטיני | צילום: Stefano RELLANDINI / AFP
מנגנון זה מטפח תחושת קרבה ואמון מסוכנת, בעיקר בקרב צעירים המבודדים חברתית, הנשבים בדיאלוג מתמשך עם ישויות מלאכותיות שתוכננו להובילם בהדרגה אל עבר הקצנה. בשלב מתקדם יותר נעשה שימוש בכלי דיפ־פייק וברשתות גנרטיביות ליצירת אווטארים אמינים במיוחד, ואף להחייאתן של דמויות כריזמטיות מן העבר, המופיעות כביכול בזירה העכשווית וקוראות לאלימות בהווה. תרחיש בדיוני שכזה, מצליח למרבה הדאגה להשפיע כיום על אלפי גולשים ולחלחל לתודעתם.
בכך מוענקת למסרים הרדיקליים סמכות מדומה, כמעט נצחית. השלב האחרון במסלול מוביל למרחבים חשאיים בדארק־ווב או ברשתות מבוזרות, שבהם מאוחסנים החומרים הקיצוניים ביותר לצד מדריכים אופרטיביים. המשתמש מנותק בהדרגה מן המרחב הציבורי ומועבר אל מציאות מקבילה, מוצפנת וסגורה, שקשה לרשויות לאתר, לחדור אליה ולמפות את קשריה. מנגד, שיטות הניטור המסורתיות, הנשענות על מילות מפתח, מתבררות כבלתי מספקות.
דגל המשטר האיראני, המורכב מאותיות קוד | צילום: שאטרסטוק
היכולת של הבינה המלאכותית לייצר אינספור וריאציות של אותו מסר מאפשרת לתעמולה לחמוק בין מסננים אוטומטיים ולשוב ולהופיע בצורות חדשות. לכן נדרשת כיום גישת איחוי נתונים: שילוב בין תרגום מיידי של דיאלקטים מקומיים, זיהוי חזותי של קליפים קצרים בסגנון רשתות וידאו וניתוח חיזויי שמאתר תכנים שמצליחים לשרוד את הסינון - ובכל זאת מספיקים כדי לשמר רשתות פעילות של אלפי אנשים. אלא שהמרוץ הטכנולוגי הזה טומן בחובו דילמות אתיות עמוקות.
לפי מומחים, אלגוריתמים חיזויים עלולים לייצר אפליה על בסיס דתי או אתני, לפגוע בחפים מפשע ולשחוק את אמון הציבור במוסדות. במלחמה הקוגניטיבית המתפתחת, היעד אינו רק פגיעה פיזית - אלא חדירה לתודעה הציבורית והעמקת שסעים חברתיים. זהו איום דינמי, מתוחכם ומתחדש ללא הרף, שהופך כל אסטרטגיית הגנה למרדף מתמשך אחר יריב שאינו מפסיק להשתכלל. גם מי שרוצח בשם אללה, עושה זאת היום באמצעות הרשת.
עוד כתבות בנושא
