הבינה המלאכותית כבר משנה את שדה הקרב: היא מנתחת צילומי לוויין, מסייעת בניווט כלי טיס בלתי מאוישים, מאתרת איומים ומשפיעה על הלחימה במרחב הסייבר. אבל הסכנה המטרידה ביותר עשויה להופיע דווקא כאשר היכולות האלה ייפגשו עם נשק גרעיני, ביולוגי וכימי.
החשש אינו תיאורטי בלבד. העולם מתמודד במקביל עם מלחמות, התפשטות מידע כוזב, קיטוב חברתי, מחלות חדשות שעוברות מבעלי חיים לבני אדם, ארגוני טרור ומיליציות חמושות – ובמקביל גם עם הרחבת מאגרי הנשק הגרעיני והיחלשותם של הסכמים בינלאומיים שנועדו לפקח עליו. לתוך המציאות הזאת נכנסת טכנולוגיה שמסוגלת לעבד כמויות אדירות של מידע, ללמוד במהירות ולהציע פתרונות שהיו בעבר נחלתם של מומחים בלבד.
עם זאת, המומחים מזהירים מפני חרדה כללית ובלתי ממוקדת. הבינה המלאכותית אינה איום אחיד: השפעתה על נשק גרעיני שונה מהשפעתה על גורמי מחלה או על רעלים כימיים. בכל אחד מהתחומים היא יכולה לשרת הן את התוקפים והן את מי שמנסים לזהות את האיום, למנוע אותו ולטפל בנפגעים.
הכי מעניין
מבקר מתבונן במנוע טורבו-מניפה מדגם AI-322F – המיועד למטוסי אימון קרביים ומטוסי קרב קלים ומיוצר על ידי החברה האוקראינית "מוטור סיץ'" (Motor Sich) – בתערוכת נשק בינלאומית בקייב, אוקראינה | צילום: AP
הסכנה הגרעינית: כשמכונה ממליצה אם להגיב
בכל הנוגע לנשק גרעיני, הבינה המלאכותית כנראה לא תהפוך את ייצור הפצצה לפשוט או לזול. המכשול העיקרי אינו הידע התאורטי, אלא התשתית הפיזית, התעשייתית והכלכלית הנדרשת להעשרת אורניום, לעיבוד פלוטוניום ולבניית מערכות נשק מורכבות. גם מודל מתקדם אינו יכול לאפשר לארגון טרור לייצר ארסנל גרעיני בחדר אחורי.
הסיכון המשמעותי יותר נמצא במערכות השליטה והבקרה. בזמן מתקפה, מנהיגים נדרשים לקבל החלטות בתוך דקות, על בסיס מידע שמגיע ממכ"מים, לוויינים, מערכות סייבר ומודיעין. בינה מלאכותית יכולה לעבד את המידע מהר יותר ולהעניק למקבלי ההחלטות זמן נוסף – אך היא יכולה גם לטעות.
הבעיה חמורה במיוחד משום שאין כמעט נתוני אמת שעליהם אפשר לאמן מערכת לתגובה למתקפה גרעינית. מאז הירושימה ונגסאקי לא התרחשה מתקפה גרעינית בזמן אמת בין מעצמות. במהלך המלחמה הקרה, אזעקות שווא הביאו את העולם כמה פעמים קרוב לעימות, ובחלק מהמקרים דווקא שיקול הדעת האנושי מנע תגובה הרסנית.
לכן אחת הדרישות המרכזיות של מומחים היא לשמור על "שליטה אנושית משמעותית": אסור שמערכת אוטומטית תהיה זו שמקבלת לבדה החלטה על שיגור נשק גרעיני. אלא שגם כאשר האדם נשאר בתמונה, כל המידע שעליו הוא מסתמך עלול להגיע ממערכות בינה מלאכותית. השאלה איננה רק מי לוחץ על הכפתור, אלא מי מפרש את המציאות וממליץ לו כיצד לפעול.
מערכת של בינה מלאכותית המפעילה נשק | צילום: AP
הידע שהיה שמור למעבדות נעשה נגיש יותר
בנשק ביולוגי וכימי התמונה שונה. כאן אחד המחסומים המרכזיים הוא מומחיות: כיצד לעבוד עם חומרים מסוכנים, כיצד לבצע תהליכים במעבדה וכיצד להימנע מפגיעה במי שמפתח אותם.
בינה מלאכותית יכולה לשמש מעין מורה פרטי מתקדם, שמרכז ידע שנרכש במשך שנים ומעביר אותו בזמן קצר. החוקרים מכנים את התופעה הזאת "שדרוג יכולות": אדם חסר ניסיון עשוי, בעזרת מערכת מתקדמת, להגיע מהר יותר להבנה שהייתה בעבר שמורה למדענים שעברו הכשרה ארוכה.
חברות הבינה המלאכותית כבר נאלצו להתמודד עם משתמשים שביקשו ממודלים הוראות מפורטות להכנת נשק ביולוגי ורעלים. בעקבות זאת הוטמעו מנגנונים שאמורים לסרב לבקשות מסוכנות, אך מומחים מזהירים שמשתמשים נחושים עדיין מנסים לעקוף את ההגבלות.
הסיכון אינו זהה בכל התחומים. חומרים כימיים ורעלים פשוטים יחסית עשויים להיות איום מיידי יותר, מפני שקל יותר לייצרם ולהשתמש בהם. מצד שני, היקף הנזק שלהם מוגבל בדרך כלל למקום שבו הם הופצו.
מחולל מחלה מדבק מסוכן באופן אחר: קשה יותר לתכנן אותו ולשלוט בהתנהגותו, אך ברגע שהוא מתחיל לעבור מאדם לאדם, הוא עלול להתפשט הרבה מעבר למטרה המקורית. פתוגן מהונדס אינו נשאר בהכרח במעבדה, בעיר או במדינה שבה נוצר.
עוד כתבות בנושא
הרופאות ברברה לורמו ואליאונור אדמה (מימין) עובדות מול מחשב במחלקה לרפואה דחופה לילדים בבית החולים האוניברסיטאי של מונפלייה (CHU) ב-2 ביוני 2026. "הבינה המלאכותית אינה מחליפה את עבודתנו, אלא משפרת אותה": במחלקה לרפואה דחופה לילדים בבית החולים האוניברסיטאי של מונפלייה, הרופאות אדמה ולורמו הציגו הערכה ראשונית חיובית לגבי ניסוי בבינה מלאכותית, הצפוי לחולל שינוי מהותי באופן הפעולה של בתי חולים בצרפת. | צילום: AFP
אותה טכנולוגיה יכולה גם להציל חיים
הבינה המלאכותית אינה רק כלי שמקל על יצירת איומים. היא יכולה להאיץ פיתוח של חיסונים, נוגדנים, תרופות ונוגדנים לרעלים; לנתח רצפים מולקולריים; ולאתר הזמנות חשודות של חומרים ביולוגיים וכימיים לפני שהן מגיעות ללקוחות מסוכנים.
כיום, מעבדות וחברות שמייצרות מולקולות לפי הזמנה אמורות לבדוק אם הלקוח מנסה לרכוש חומר אסור. אלא שרשימות החומרים המסוכנים מוגבלות ומתיישנות במהירות. מערכת חכמה יכולה לזהות גם וריאציות חדשות שאינן מופיעות ברשימה רשמית ולבחון את זהות הלקוח, מטרת ההזמנה והקשרים בין רכיבים שונים.
אחת ההצעות היא להחיל על תעשיות הביולוגיה והכימיה כללים הדומים לאלה שקיימים במערכת הבנקאית: זיהוי לקוחות, תיעוד עסקאות חשודות ושיתוף מידע בין מדינות. אלא שכפי שהבנקים לא הצליחו לחסל את הלבנת ההון, גם מערכות פיקוח מתקדמות לא יבטיחו שכל ניסיון מסוכן ייעצר. התוקפים יכולים להיות יצירתיים, בעוד מערכות ההגנה נאלצות לעיתים להגיב רק לאחר שהאיום כבר השתנה.
עוד כתבות בנושא
גם מידע כוזב הוא איום בריאותי
הסכנה לבריאות הציבור אינה מסתכמת בהפצת רעל או נגיף. בינה מלאכותית מאפשרת לייצר במהירות סרטונים, תמונות, מסמכים וטענות שנראים אמינים. בזמן אירוע בריאותי או ביטחוני, הצפה של מידע כוזב עלולה לפגוע באמון הציבור, לעורר בהלה ולגרום לאנשים להתעלם מהנחיות רפואיות אמינות.
כאשר אזרחים אינם מצליחים להסכים מה אמיתי, קשה יותר לנהל משבר: לחלק תרופות, לשכנע להתחסן, להורות על בידוד או להסביר כיצד להימנע מחשיפה לחומר מסוכן. במובן הזה, הפגיעה באמון עלולה להיות חלק מהנשק עצמו.
מה אפשר לעשות?
ההיסטוריה מראה שגם בתקופות של עימות חריף אפשר לקבוע כללים. במהלך המלחמה הקרה הצליחו מדינות יריבות להסכים על אמנות לפיקוח על נשק גרעיני וביולוגי. ההסכמים לא ביטלו את הסכנה, אך הם תרמו לצמצום משמעותי במספר ראשי הנפץ הגרעיניים בעולם.
האתגר כיום הוא לבנות מנגנוני פיקוח שמתאימים לקצב ההתפתחות של הבינה המלאכותית: לשמור בני אדם בתהליכי קבלת החלטות גרעיניות, לחייב חברות לבדוק שימושים מסוכנים, לשפר את הפיקוח על מעבדות ועל הזמנות ביולוגיות וכימיות, וליצור שיתוף פעולה בינלאומי גם בין מדינות שאינן סומכות זו על זו.
כמו כל טכנולוגיה רבת־עוצמה, בינה מלאכותית יכולה לסייע לאנושות או לפגוע בה. היא יכולה לזרז פיתוח חיסון – או להנגיש ידע למי שמבקש ליצור מגפה. היא יכולה לזהות התרעה שגויה – או להפוך אותה להמלצה לתקיפה.
הסכנה הגדולה אינה שהמכונות החליטו לפעול נגד בני האדם. הסכנה היא שבני האדם ימסרו להן יותר מדי כוח, בלי להסכים מראש על הגבולות.
עוד כתבות בנושא
