"שימוש בבינה מלאכותית למטרות רעות עלול להוות סיכון לאנושות כולה", אמר אמש (רביעי) מנכ"ל אנתרופיק, שפיתחה את Claude, דריו אמודיי. רק בסוף השבוע שעבר פרסם אמודיי מאמר חריג באורך של כ־3,800 מילים, שבו קרא להאטה עולמית בפיתוח AI. הדיווח, שפורסם ב"ניו יורק טיימס", חשף דאגה עמוקה בקרב בכירי חברות הטכנולוגיה מפני ההשלכות ההרסניות של קצב ההתקדמות הנוכחי.
(משמאל לימין) מנכ"ל אנתרופיק, דריו אמודיי, מנהל המוצר הראשי, מייק קריגר, וראש התקשורת סשה דה מריני, במסיבת עיתונאים במהלך כנס המפתחים הראשון של אנתרופיק בחודש שעבר, לאחר שהשיקה את דגם ה-Opus 4 | צילום: AFP
אותו מאמר של אמודיי התפרסם על רקע דו"ח שפרסמה אנתרופיק, שחשף כיצד ניסו החות'ים להשתמש בקלוד כדי לפתח טילים היפרסוניים, ואיך איראן ניסתה לנצל אותו לטובת פגיעה בישראלים וביהודים בתפוצות, ביעדים אמריקניים ובמתנגדי משטר. בין הממצאים הנוספים: שיבוט קולות של סופרים איראנים במטרה להכשיר את דעת הקהל לקבלת מוג'תבא חמינאי, וניסיון רוסי להפעיל רחפני התאבדות חכמים.
כך עקפו החות'ים את ההגנות של קלוד
הדו"ח של אנתרופיק, שכותרתו "Detecting and countering misuse of AI: September 2026", תיאר שימוש בקלוד בידי חוליית מהנדסים הפועלת בצפון תימן לפיתוח תוכנות ניווט, הכוונה וייצוב לשלוש תוכניות לפיתוח נשק: רקטה מונחית המסתמכת על מחשב טיסה זול ברמת טלפון סלולרי, טיל בליסטי רב־שלבי עם טווח של למעלה מ־2,000 קילומטרים, ומערך טילים המכונה "אר2000", הכולל, בין היתר, גרסה עם כלי גלישה היפרסוני.
הכי מעניין
לפי אנתרופיק, החוליה השתמשה בקלוד קוד "במקום מהנדסי תוכנה אנושיים" כדי לשלב מערכת אוטומטית בקוד פתוח בתוך מחשב הטיסה, לכתוב את תוכנת הבקרה והאומדן, לכוונן פרמטרים ולהריץ סימולציות טיסה. החברה אומנם לא נקבה בשם החות'ים במפורש, אך לפי אופן תיאורם בדו"ח אין ספק שמדובר בהם.
עוד כתבות בנושא
לדברי אנתרופיק, מנגנוני ההגנה שלה חסמו חלק ניכר מהבקשות, אך לא את כולן: הפעילים הצליחו לעקוף אותם בכך שהסתירו את מטרת הפרויקט ואת סוג הנשק שאליו נועדה התוכנה, ופיצלו את העבודה בין שיחות רבות כך שאף שיחה בודדת לא חשפה את מלוא כוונתם. הם אף הפעילו כמה מופעים מקבילים של הצ'טבוט בו־זמנית: אחד לכתיבת קוד, שני למחקר ולאיתור פתרונות הנדסיים, ושלישי לביקורת על עבודת הראשון – מעין "מחלקת פיתוח" וירטואלית.
החברה מדגישה כי אין בידה עדות לכך שנוצר כלי נשק מבצעי, אך החוליה ביצעה ניסוי ירי של רקטה מונחית בשטח. לפי הדו"ח, הניסוי ככל הנראה נכשל, ותוך שעות שבו הפעילים למודל השפה כדי לברר מה השתבש. אנתרופיק ציינה גם כי לפני שנחסמו החשבונות, הפעילים כבר הקימו לעצמם סביבת סימולציה עצמאית שאינה תלויה בקלוד או במודל אחר, מה שמסמן כי התלות בכלי הייתה חלקית בלבד.
המעקב האיראני אחר ישראלים ויהודים
במקביל לזירת תימן, מתעד הדו"ח מארג רחב של שימושים איראניים בקלוד, שחלקם נוגעים ישירות לישראל ולקהילות יהודיות בעולם.
גורם המקושר לאיראן בנה בעזרת מודל השפה מערכת אוטומטית לאיסוף מודיעין ממקורות גלויים (OSINT), שנועדה להרכיב תיקי פרופיל על ישראלים הקשורים לגופים ממשלתיים ולא־ממשלתיים, וכן על ארגונים יהודיים בתפוצות.
באחד ממסלולי הפעילות, הגורם הפעיל את הכלי על רשימת יעדים שהוכנה מראש, במטרה מוצהרת לאסוף מידע על יעדים ישראליים ואמריקניים. אותו חשבון שימש גם לפיתוח מערכת מעקב בתוך איראן, המשלבת זיהוי אוטומטי של לוחיות רישוי עם מעקב אחר טלפונים סלולריים, וכן למיפוי הקשרים בין חברי קבוצת טלגרם פרטית שבה 244 חברים. במקביל, החשבון שימש לפיתוח תוכנה זדונית ולבניית מנגנון שנועד להסתיר אותה ולהקשות על זיהויה.
דגל איראן | צילום: AP
גורם איראני נוסף, המקושר לגורמי ביטחון פנים, נעזר בקלוד כדי להכין "חוברות מיקוד" על הצי האמריקני באזור. בעזרת מודל השפה פותח כלי שנועד לאתר ולעקוב אחר מיקומם של כלי שיט אמריקניים באמצעות מידע שפורסם ברשת: שמות אנשי צוות שהופיעו בתמונות צבאיות שפורסמו באופן פומבי, מספרי זיהוי של ספינות וכלי טיס, כלים לחיפוש בתמונות לוויין מסחריות ורשימת אתרים שדרכם אפשר לעקוב אחר תנועת ספינות הצי.
חלק מהותי נוסף בדו"ח עוסק במנגנון הביטחון הפנימי של המשטר עצמו.
אנתרופיק חסמה 16 חשבונות ששויכו לשתי יחידות המקושרות למנגנוני הביטחון של הרפובליקה האסלאמית. אחד הגופים, ארגון בעל שבעה אגפים ומשרדים במחוזות שונים באיראן, טען כי עקב בשנה אחת בלבד אחר 6,388 אזרחים איראנים וניהל מאגר זהויות משלו. הארגון נעזר בקלוד כדי לבנות ממשק למערכת ניהול תיקים, שאנתרופיק מעריכה כי שימשה כמערכת מעקב ממשלתית, וכן כדי לנתח 155,21 פוסטים ברשת. יחידה נוספת פיתחה תוסף דפדפן שהוסווה ככלי להצגת זמני תפילה, אך למעשה נועד למעקב.
גוף נוסף שפועל מטעם המשטר השתמש באפשרות ה"מיומנויות המותאמות" של קלוד ויצר תוכנת תעמולה לשיבוט קול. הוא שיבט קולות של שלושה אנשי רוח איראנים והכין מראש נרטיבים לקראת מאבק הירושה הצפוי של המנהיג העליון – פעילות שהתנהלה בסוף פברואר 2026. מטבע הדברים, העובדה שהפעילות התנהלה במקביל לחיסול המנהיג העליון אינה מקרית, שכן הרפובליקה האסלאמית ביקשה להשפיע על דעת הקהל כדי לגרום לו לקבל את מוג'תבא כמחליף בצורה חלקה יותר.
גופים המקושרים לממשל האיראני השתמשו בקלוד כדי להכין תוכניות קמפיין, מדריכים למערך התעמולה, חשבונות פיקטיביים ומאגרי יעדים, ואף להכין "תיק ירושה ולוויה" מלא למנהיג העליון. בדיעבד, התוצרים הללו עשויים לשקף את הלך הרוח בקרב חלקים מהמשטר לאחר החיסול.
כאמור, אנתרופיק ציינה כי קלוד סירב לבקשות ישירות לפרופיל אישי או לתעמולה בוטה, אך "לא סירב לחלק ניכר מבקשות הסיוע במעקב".
אחד הגופים ניסח הודעות בקולו הרשמי, כביכול, של דובר משמרות המהפכה, וייחס טענות שקריות למכוני מחקר מערביים כמו CSIS, ברוקינגס ו־RAND כדי להציג אותם כלא אמינים. חשבון אחר הפיץ תעמולה נגד המיעוט הבהאי הנרדף, לצד רשימות מעקב שכללו בכירים בין־לאומיים ופעילי אופוזיציה איראנים.
בצד הנגדי מתעד הדו"ח גם ניצול של קלוד בידי פעילים גולים של ארגון מוג'אהדין ח'לק ומועצת ההתנגדות הלאומית, שהשתמשו בסוכן AI כדי לשכפל את חשבון הטלגרם של פעיל אמיתי ולנהל שיחות עם אנשי הקשר שלו. הם גייסו את הכלי לבניית פרופילים על בסיס היסטוריית מעצרים של יעדים בתוך המדינה. אנתרופיק הוסיפה כי חוליה נפרדת ניצלה חשבונות חינמיים כדי לפתח תוכנה זדונית, תשתית פישינג ואתרי הפצה שכוונו כלפי אזרחים בתוך איראן עצמה.
רוסיה: רחפן שבוחר בעצמו במי יפגע
הברית רוסיה־איראן | צילום: שאטרסטוק
מעבר לציר ההתנגדות, מציין הדו"ח מקרה חמור אחר.
צוות רוסי, כנראה עצמאי, גייס את קלוד קוד לפיתוח תוכנת ליבה לנחיל רחפני תקיפה הפועלים באופן עצמאי. המערכת, שאומנה על קטעי וידאו אוקראיניים שנשאבו מהרשת ומוינו ל"אויב" ו"ידידותי", תוכננה לאפשר לרחפן לבחור בעצמו מטרות – כולל קטגוריית מטרה מוגדרת "אדם" – ולפקוד על עצמו להתפוצץ בלי אישור אנושי לפני הפגיעה. הצוות בדק את המערכת נגד יעד הדגמה מדומה באזור דונייצק, וטען כי קיבל מימון ממכון מחקר ביטחוני רוסי – טענה שאנתרופיק לא הצליחה לאמת. החברה חסמה תשעה חשבונות הקשורים לפרויקט.
מחקר ביולוגי מסוכן
הדו"ח, המקיף כ־150 עמודים וסוקר פעילות שאותרה בין דצמבר 2025 לאוגוסט 2026, מתעד גם חמישה מקרים של מה שאנתרופיק מכנה "שימוש ביולוגי לרעה". הבולט שבהם: בקשת סיוע בכתיבת בקשת מענק למחקר שנועד להגביר את יכולתו של נגיף הצ'יקונגוניה לפגוע בגוף ולגבור על מערכת החיסון, ולהפוך אותו לתוקפני ועמיד יותר בפני המערכת החיסונית, במסגרת עבודה שיועדה, כך צוין, למוסד מחקר צבאי.
מקרים נוספים עסקו במחקר על שפעת עופות ובבניית מאגר רעלנים ממקור ארסי בעל פוטנציאל שימוש כפול. אנתרופיק, שלא חשפה את זהות המדענים או המוסדות המעורבים, ציינה כי בחלק מהמקרים, משנחסמה הבקשה בידי קלוד, פנו מבקשיה למודל בינה מלאכותית מתחרה בעל מנגנוני הגנה חלשים יותר.
זהו הדו"ח הרביעי מסוגו שמפרסמת אנתרופיק מאז מרץ 2025, והחברה מדגישה כי המקרים המתוארים בו אינם ייצוג טיפוסי של השימוש בכלי, אלא המקרים החמורים והחדשניים ביותר שזוהו – כלומר, ייתכן שהיקף השימוש לרעה בפועל גדול בהרבה. בכל המקרים שתוארו נחסמו החשבונות המעורבים, ונתונים הועברו, לדברי החברה, לרשויות אכיפה ולשותפים בתעשייה ככל שנמצא לנכון.
קופצים ראש, אבל לאן?
הסיפור שעולה מהדו"ח אינו רק סיפור על האופן שבו גורמים עוינים מנסים להשתמש בבינה מלאכותית. הוא מצביע על שינוי עמוק יותר: פעולות שבעבר דרשו צוותים של מהנדסים, אנשי מודיעין, מפיצי תעמולה ומפעילי רשתות יכולות להתבצע כיום, לפחות בחלקן, בעזרת מודל אחד.
עוד כתבות בנושא
קלוד אומנם עצר חלק מהבקשות ואנתרופיק חסמה את החשבונות שזיהתה, אך הדו"ח עצמו ממחיש את מגבלת המרוץ הזה: ככל שהמודלים נעשים חזקים יותר, כך גם היכולת להשתמש בהם לרעה מתרחבת, ולעיתים די בכך שהמשתמש ימצא דרך לחלק את המשימה, להסוות את מטרתה או לעבור למודל אחר.
תמרורי האזהרה ביחס ל־AI והדרכים הרבות שבהן הוא עלול לשמש לרעה ואף לצאת משליטה ולהזיק בעצמו רק הולכים ומתרבים, והחששות שמביעים בכירים מאוד בתעשייה הופכים לנחרצים ומדאיגים יותר. כיום, השאלה כבר אינה האם הבינה המלאכותית תשמש גם למטרות מסוכנות, אלא כמה מהר יכולות ההגנה ידביקו את קצב ההתפתחות שלה. האנושות כבר קפצה ראש אל הבריכה הנוצצת והמפתה של הבינה המלאכותית; ככל שאנחנו נכנסים אליה עמוק יותר, אנחנו מגלים עד כמה איננו יודעים היכן נמצאת הקרקעית ומה עוד מחכה לנו שם.
עוד כתבות בנושא
