כשמהנדסים שוויצרים יצרו את ה"ממופארק" בשנות ה-70', הם לא דמיינו לרגע לאילו מטרות נוספות הוא ישמש. מדובר במכשיר תזמון שנועד להזכיר לנהגים מתי נגמר הזמן עליו שילמו בחניון – מכשיר פשוט ותמים בעל מטרה מוגדרת. אלא שהיו מי שמצאו בו הזדמנות אחרת לגמרי. המחתרת האירית (Provisional IRA), שגילתה שהמכשיר הזה מתאים כמו כפפה ליד להפעלת מטעני נפץ, והשתמשה בו בהמוניו בלוחמת גרילה ובפעילות טרור.
כל טכנולוגיה יכולה לשמש למטרות שהמפתחים שלה מעולם לא תכננו ובהתאם, התקדמות טכנולוגית נוהגת לעורר חששות בעולם הלחימה בטרור. כעת עוסקים מומחי לוחמה בטרור בשאלה האם בינה מלאכותית גנרטיבית - טכנולוגיה המסוגלת ליצור טקסט, תמונה, קול ווידאו לפי הנחיה - עומדת לחולל קפיצת מדרגה נוספת, והפעם דרמטית יותר, ביכולת של ארגוני טרור לפגוע בנו?
צ'אטים, דיפ-פייק והתנקשות במלכה
הכי מעניין
כשהתעופה המסחרית התרחבה בשנות ה-60', היא סיפקה לטרוריסטים יעד חדש לתקוף, כשהטלוויזיה נכנסה לבתים, היא נתנה להם במות לשדר את הפיגועים לעולם כולו וכניסת האינטרנט, ומאוחר יותר הרשתות החברתיות, אפשר לארגוני טרור להגיע לקהל גדול בהרבה ברחבי הגלובוס.
מחקר שפורסם בכתב העת של המרכז ללחימה בטרור (CTC) בווסט פוינט, משיב על כך בזהירות: כן, יש כאן שינוי - אבל לא מהסוג שרוב הפרשנים מדמיינים. הנחת היסוד שמנחה את הניתוח שלהם פשוט: יוצרי מודלי ה-AI לא שיערו לרגע לאיזו מטרה הם עשויים לשמש. בהתאם, השאלה שהחוקרים שואלים אינה מה היא תוכננה לעשות, אלא כיצד טרוריסטים עשויים לנצל אותה לצרכיהם.
עורכי המחקר הם אנדרו גלאזארד, פרופסור למדיניות ביטחון לאומי, דיוויד מקילהטון, מנהל תוכנית הגנה וביטחון לאומי ופול מרטין, פרופסור בתוכנית להגנה וביטחון לאומי - כולם באוניברסיטת קובנטרי הבריטית.
לפי הסקירה המחקרית יש ארבעה נושאים מרכזיים שמעוררים חשש ביחס לשימוש של גורמי טרור בבינה מלאכותית:
תעמולה - בינה מלאכותית מאפשרת לייצר תעמולה בהיקף ובמהירות גדולים בהרבה מבעבר, כולל תוכן סינתטי אמין להפליא ("DeepFake") שקשה להבחין בינו לבין תוכן אמיתי, ואפילו תעמולה סוחפת שמבוססת על מציאות מדומה. בנוסף, יש לה פוטנציאל לעזור לתעמולנים למקד את התוכן שלהם בדיוק לקהל המתאים, ולהתחמק ממנגנוני הפיקוח שמסירים מהרשת תוכן שכולל טרור או מקדם אותו.
גיוס והסתה - צ'אטבוטים עשויים לאפשר לארגוני טרור לשוחח עם מגויסים פוטנציאליים או אפילו להנחות פיגועים בלי מעורבות אדם, ללא צורך באדם בתפקיד, מה שאף יאפשר ל"מפגע בודד" להקים לעצמם סוכני AI שישמשו כ"מסיתים אישיים". בהקשר הזה, אנליסטים ללוחמה בטרור וכן מבקר מדיניות המאבק בטרור של בריטניה, הדגישו את הפרשה של ג'סוואנט סינג צ'איל, שהורשע בבריטניה בבגידה לאחר שנעצר בטירת ווינדזור עם רובה קשת (crossbow) בחג המולד ב-2021. הוא דן בתוכניתו להתנקש במלכת אנגליה, אליזבת', עם צ'אטבוט בשם Sarai.
איסוף מודיעין וסיור - בינה מלאכותית יכולה לסייע במחקר על מטרות פוטנציאליות ברמה שמנוע חיפוש רגיל לא מאפשר. היא גם עשויה לשפר את מה שנקרא "סיור עוין" - איסוף מידע מרחוק על יעד - בעזרת מודלים דיגיטליים מדויקים של מבנים ואתרים אמיתיים, שמאפשרים לתכנן תקיפה בלי להגיע פיזית למקום. בבריטניה, גוף הביטחון האמון על הגנת מתקנים ציבוריים אף פרסם הנחיות רשמיות כיצד להתמודד עם הסיכון הזה.
שיטות תקיפה – ניתן לקבל עזרה מה-AI בפיתוח חומרי נפץ, נשקים, חומרים מסוכנים, ליצור קודים זדוניים נגד מחשבים ורשתות של יעדים ועוד. זה ידרוש לעקוף את מנגנוני ההגנה של המודלים, לא בהכרח משימה פשוטה, אבל גם לא בלתי אפשרית. יש דרכים לנסח בקשה כך שהיא מתחמקת מההגבלות שהמפתחים קבעו, ואפשר גם להסתיר הוראות זדוניות בתוך טקסט או אתר שהמודל קורא, כדי לגרום לו לפעול בניגוד להוראות המקוריות שלו. אגב, ניתן גם להשתמש במודל אחד כדי לעקוף מגננות של מודל אחר או של המודל עצמו.
התמונה הזו, כשלעצמה, נשמעת מדאיגה. חוקרים אחרים שסקרו את הספרות בנושא טרור ובינה מלאכותית אף כתבו שזו רק שאלה של זמן עד שארגוני טרור יאמצו באופן שיטתי מגוון רחב של כלי בינה מלאכותית למטרותיהם. אבל כדי לדעת אם באמת מדובר בשינוי מהותי באיום הטרור, לא מספיק לעסוק בתרחישים אפשריים - צריך לבדוק מה קורה בפועל.
הכצעקתה?: השפעת ה-AI על טרור בפועל
התעמולה מתחזקת - ייצור טקסטים ותמונות מסיתים להפצה הפך למשימה קלה יותר, כשגורמים רדיקליים מצליחים במידת מה לעקוף את המגננות של מודלי הבינה המלאכותית. מחקר אחד אף מצא שמבחינת הפקת תוכן שימושי לטרוריסטים, ניתן להשיגו הרבה פעמים גם בבקשה מפורשת מהמודל.
מאידך, לתעמולה המיוצרת באמצעות AI יש גם מחיר. ראשית, השימוש בכלים כאלה עלול להשאיר עקבות דיגיטליים שמסגירים פעילות טרוריסטית לגורמי ביטחון ושנית, תוכן שנוצר במכונה נתפס הרבה פעמים כפחות איכותי ופחות אמין, כך שמידת השפעתו מוטלת בספק. ניתן גם להעריך כי עם השיפור שיגיע בוודאות ביכולת של הבינה המלאכותית לייצר תוכן אמין יותר – השפעתו צפויה להתרחב, גם בהקשר של טרור.
אין השפעה דרמטית באיסוף מודיעין - מודל שפה יכול לרכז לטרוריסטים מידע על יעד מוגן מהר יותר וטוב יותר מחיפוש סתמי ברשת. אלא שבפועל, טרוריסטים מבצעים סיורים וירטואליים ביעדים מהמחשב הנייד שלהם כבר שנים רבות בעזרת כלים מסחריים קיימים, רחפנים כבר סיפקו להם נתוני סיור מדויקים על יעדים ספציפיים ולעתים הם פשוט מקיימים סיורים פיזיים באתר לפני הפיגוע.
כלומר, בינה מלאכותית מזרזת ומשפרת תהליך שכבר קיים, ולא בהכרח פותחת יכולת חדשה שלא הייתה קיימת קודם, אולי פרט לקבוצה קטנה או למפגע בודד שיכולותיהם הטכנולוגיות מוגבלות. בנוסף, הטעויות שמבצע ה-AI לעתים, המכונות "הזיות", עשויות להוליך שולל גם גורמים עוינים.
גיוס ורדיקליזציה כיום בעיקר על הנייר - תהליך ההפיכה לטרוריסט הוא תהליך אנושי מורכב, תלוי-נסיבות, המעוגן לרוב בקשרים חברתיים מוחשיים. טכנולוגיה יכולה אומנם לשחק תפקיד בתהליך העברת אנשים פגיעים תהליך של רדיקליזציה, אבל לעיתים רחוקות היא הגורם היחיד.
יש חשש כאמור שבינה מלאכותית, בשילוב פילוח קהלים ממוחשב, תאפשר למקד תעמולה מסיתה בדיוק באנשים הפגיעים ביותר - אבל לפי המחקר, אין כרגע שום הוכחה לכך שזה קורה בפועל. "צ'אטבוט מסית" הוא תרחיש אפשרי מבחינה תיאורטית, אבל אף מחקר לא הראה איך אפשר להפוך תהליך אנושי מבולגן כמו רדיקליזציה לאוטומטי מקצה לקצה.
מאידך, אפשר להעריך שגם אם הטכנולוגיה לא תגייס יעד לבדה, היא עלולה לסייע בכך, בצירוף אלמנטים נוספים.
אין השפעה על שיטות תקיפה חדשניות - יש שפע תרחישים היפותטיים שבהם בינה מלאכותית מייצרת שיטת תקיפה פורצת דרך, אבל מעט מאוד עדות אמיתית למקרה שבו הנחיה למודל שפה הובילה בפועל לשיטה חדשה שלא הייתה ידועה קודם, כך לפי המחקר.
טרוריסטים מנסים שיטות חדשות כל הזמן, אבל לרוב הרחק מחזית הידע המדעי והחדשנות – אלא שהם עסוקים בגילוי שימושים נסתרים בדברים שכבר נמצאים בהישג יד, בדיוק כמו במקרה של שעון החניה השוויצרי. פיתוח נשק כימי, ביולוגי או רדיולוגי דורשים מיומנויות וידע רב והמרחק בין רעיון כזה לבין מימושו במציאות – גם בעזרת AI – הוא עצום, כך לפי המחקר. אפילו ארגון אל-קאעדה, שהשקיע משאבים ניכרים בתוכניות מחקר בתחום בשנות ה-90' ותחילת שנות ה-2000 ואף פיתח אמצעים כימיים בעלי פוטנציאל ביצוע, מעולם לא הגיע ליכולת מבצעית ממשית בתחום.
בזמינות קיים פער דיגיטלי - כלי בינה מלאכותית זמינים כמעט לכל טרוריסט בעולם, ברוב המקרים בחינם או בעלות נמוכה, בקלות ובלי צורך במומחיות טכנית מיוחדת - ובכך הם עומדים בכל הקריטריונים שחוקרים מגדירים כ"אטרקטיביים" לשימוש פח"עי. אלא שהגישה לאינטרנט בעולם רחוקה מלהיות אחידה: בשנה שעברה רק ל-13% מהתושבים בצ'אד ופחות מ-20% במוזמביק - שתי מדינות שמתמודדות עם איום טרור חמור – הייתה גישה לרשת.
"להריח ורדים ומיד לחפש איפה הלוויה"
למרות שכלי תעמולה של ארגוני טרור שונים מעודדים תומכים לאמץ כלי בינה מלאכותית ואף מנסים להתמקצע בשימוש בהם, כמו המגזין של דאעש, "קול חוראסאן", המחקר מתאר את השימוש עד כה כ"בעל סיכון נמוך והשפעה נמוכה", ומוגבל בהיקפו. לפי החוקרים, חלק מהסיבה היא שהסתמכות על AI עלולה דווקא לפגוע בלגיטימיות של ארגון טרור בעיני תומכיו, ולגרום לתחושה שהתוכן "לא אמיתי" - במיוחד בתנועות ג'יהאדיסטיות שמייחסות ערך עליון למקורות סמכות דתיים מסורתיים, ולכן פחות סביר שיראו באלגוריתם דרך ראויה לייצג את האל.
עם זאת, העולם כולו עדיין מצוי בשלב למידה זהיר של הבינה המלאכותית ובניסיון לתפוס את המהפכה שנחתה עלינו בן רגע במונחים היסטוריים, ואט אט מפקיד בידיה יותר אחריות ומשאבים. לעניות דעתי, ארגוני הטרור אומנם לא יהיו פורצי הדרך הראשונים, אבל גם הם עשויים ליישר קו ו"להיכנע" לשימוש ב-AI חרף תפיסתם הדתית-פונדמנטליסטית.
לפי החוקרים, הסיכונים של בינה מלאכותית לטרור נוטים להיות מוגזמים בשיח הציבורי, גם אם ברור שהיא כן מקלה ומייעלת חלק מהפעילות הטרוריסטית – ולכך, לדידם, יש מחיר אמיתי:
ראשית, משאבי הממשלות וסוכנויות הביטחון מוגבלים, והזמן והקשב הם משאב נדיר. כל שקל ושעת עבודה שמושקעים בהתגוננות מפני תרחישי אימה היפותטיים של בינה מלאכותית טרוריסטית, הם שקל ושעת עבודה שלא הושקעו בסיכונים אחרים שגדולים וממשיים בהרבה - כמו התקפות סייבר של מדינות עוינות או רשתות פשע מאורגן.
שנית, יש סיכון למה שחוקרים מכנים "מפולת זמינות": תהליך שבו חשש שמובע וחוזר ונשמע שוב ושוב בשיח הציבורי הופך מהימן יותר ויותר, לא בגלל ראיות חדשות, אלא פשוט כי הוא נשמע כל הזמן.
החוקרים מביאים את הדוגמה לפיה למרות "כמה אזעקות שווא", לרבות מצד נשיא ארה"ב לשעבר ברק אובמה, וגם תחושה מתמשכת בקרב חוקרים שאיום טרור הסייבר דווקא הולך וגדל, מעולם לא נרשמה ולו מתקפת סייבר הרסנית אחת שניתן לייחס בביטחון לארגון טרור.
ראש שירות הביטחון הפנימי הבריטי לשעבר, ג'ונתן אוונס, היטיב לנסח זאת, כשאמר: "אנשי מודיעין וביטחון, נוטים להריח ורדים ומיד לחפש איפה הלוויה". אוונס הוסיף כי איום הטרור נוטה להרגיש גרוע יותר, אלא שזה לא המצב בשטח, והדברים רק נראים כך, כי העתיד תמיד מרגיש בלתי צפוי ומסוכן יותר מההווה.
מה שההיסטוריה כן מלמדת, לפי החוקרים, הוא שטרוריסטים תמיד מאמצים במהירות טכנולוגיות תקשורת חדשות - עיתונים במאה ה-19, טלוויזיה במאה ה-20, רשתות חברתיות במאה ה-21 - כי טרור, במהותו, הוא סוג של תקשורת. אבל כשמדובר בשיטות התקיפה עצמן, ארגוני טרור עדיין מעדיפים באופן עקבי את מה שזול, פשוט וזמין, ולא בהכרח את הכלי החדשני ביותר שקיים.
לפי המחקר, טרוריסטים כבר עושים שימוש ב-AI, ובהיקף הולך וגדל. עם זאת, הוא מהווה קריאת כיוון לנהוג בזהירות: להתמקד בראיות, בשימוש בפועל ובמגמות המתגבשות, ולא בתחזיות אימה מנותקות מהמציאות שמשרטטות את התרחיש הגרוע ביותר האפשרי. לדברי החוקרים, דמיון הוא כלי חשוב בעולם הלחימה בטרור - אבל צריך גם לרסן אותו ולא לתת לו לדהור לבד.
אילו הייתי כותב את המאמר שלפניכם בכל מדינה אחרת בעולם כנראה שהייתי מסיים אותו כאן, עם המלצת החוקרים שלא להיסחף בתרחישי אימה, אלא שלעומת מדינות אחרות, ישראל ניצבת בפני איום טרור ייחודי בהיקפו. לאחר שאך לפני פחות מ-3 שנים חווינו על בשרנו את התרחיש הגרוע ביותר האפשרי, לא להיערך לתרחישי אימים היא פריווילגיה שאנחנו לא יכולים להרשות לעצמנו - כמובן בְּשׂוֹם שכל ובמידה. אופן השימוש של טרוריסטים ב-AI הוא נדבך נוסף שאחריו קהיליית המודיעין הישראלית תצטרך לעקוב מקרוב.