כיצד צריכה ארצות הברית להשתמש בבינה מלאכותית כדי למנוע מלחמה, ואם יהיה בכך צורך, גם לנהל מלחמה באופן צודק ומוסרי? יש מחלוקת עמוקה סביב השאלה הזו. עובדי גוגל ומיקרוסופט מחו נגד פרויקטים של בינה מלאכותית עם לקוחות צבאיים עוד הרבה לפני שקלוד ו־ChatGPT נכנסו לכיס של כולנו. כעת אנתרופיק מתמודדת עם הגרסה שלה לאותה מחלוקת מול הפנטגון, ומתנגדת לאופן שבו הטכנולוגיה עשויה לשמש בפעולות לחימה.
החששות האלה מובנים. איש אינו רוצה עתיד שבו צבאות אוטומטיים, ללא פיקוח אנושי או קבלת החלטות אנושית, הם שיכריעו בענייני מלחמה ושלום.
אבל צריך להביט בעולם כפי שהוא. ארצות הברית נמצאת במרוץ חימוש טכנולוגי מול יריבותיה, והבינה המלאכותית היא אבן היסוד של המרוץ הזה. עבור חברות ואנשים הפועלים לבנות את הדור הבא של העוצמה הצבאית האמריקנית, בינה מלאכותית ואוטונומיה רובוטית אינן מושגים מופשטים; אלה החידושים שיגדירו את העשור, ויעצבו את השאלה אם מלחמות עתידיות יימנעו או יפרצו.
הכי מעניין
הדיון הזה אינו חדש. בחודש מאי הזהיר האפיפיור ליאו ה־14, כשהוא נשען על מאות שנים של מחשבה קתולית סביב תורת "המלחמה הצודקת", מפני הסכנות של "מרוץ חימוש טכנולוגי". האם אפשר ליישב בין האתיקה הנוצרית לבין המציאות הגיאופוליטית החדשה הזו?
האפיפיור ליאו ה-14 | צילום: AFP
שנינו מתייחסים לשאלה הזו ברצינות. אחד מאיתנו הוא מייסד בתחום טכנולוגיות הביטחון ונוצרי. השנייה היא משקיעה מוקדמת בכמה חברות טכנולוגיה ביטחונית וקתולית מאמינה. מתוך העבודה שלנו ומתוך העקרונות הדתיים שלנו, אנחנו מאמינים שיש טיעון מוסרי לכך שארצות הברית צריכה להיות הראשונה שתבנה ארסנל טכנולוגי עדיף: כדי לנהל מלחמות מדויקות במקום מלחמות של תקיפות חסרות הבחנה, וכדי להגן על חיי אדם, אזרחים ולוחמים כאחד.
תורת המלחמה הצודקת, כמו כל מערכת הפעלה שמחזיקה מעמד לאורך זמן, יכולה לעבור רענון בהתאם לתנאים חדשים. אבל עדכון איננו נטישה. טילים היפרסוניים אינם דומים לקשתות ולחיצים של המלך הנרי החמישי בקרב אז'נקור. אבל השימוש בנשק עדיין חייב להישען על עקרונות נצחיים: מידתיות, כוונה ראויה, סמכות לגיטימית ומוצא אחרון.
הגישה האמריקנית ללחימה הושפעה במשך שנים ארוכות ועמוקות מן המסורת הזו, גם בתקופות קודמות שבהן התחוללו מהפכות טכנולוגיות בשדה הקרב. ארצות הברית קבעה כמה מן הקודים הרשמיים הראשונים של מלחמה צודקת בזמן מלחמת האזרחים, כאשר מקלע הגאטלינג והרובה הנטען החוזר שינו את שדה הקרב. הריאליזם הנוצרי השתרש לאחר שפצצות האטום הביאו לסיום מלחמת העולם השנייה. בכל תקופה הותאמו מרכיבים מתורת המלחמה הצודקת כדי לקבוע עקרונות לשימוש באמצעי נשק חדשים.
ג'ייקוב היהודי וּויליאם השחור נפגשים בשדה הקרב ונרקמת ביניהם חברות עמוקה. מתוך הסרט "מדינת ג'ונס החופשית", העוסק במלחמת האזרחים בארה"ב. | צילום: באדיבות yes
הדבר נכון לא פחות גם היום. כללי הפנטגון להפעלת נשק אוטונומי קיימים עוד מימי ממשל אובמה, והם מתעדכנים ללא הרף. כלי נשק בלתי מאוישים ופשוטים יותר נמצאים בארסנל האמריקני כבר עשרות שנים. אף שהיכולות שלהם עשויות להיות שונות מן היכולות שמפותחות כיום, כולם דרשו תמיד פיקוח באמצעות שרשרת פיקוד מיודעת, הנתונה לאחריות דמוקרטית. כלי נשק המופעלים בבינה מלאכותית רק הופכים את של התורה הזו לרלוונטית ודחופה עוד יותר.
ההידרדרות בביטחון העולמי מציבה את השאלות האלה במרכז הבמה. האפיפיור ליאו אולי מכנה את "הדיאלוג", "הדיפלומטיה" ו"המחילה" הכלים החיוניים של המדינאות המודרנית, אבל יש מעט מאוד עדויות לכך שוולדימיר פוטין, שי ג'ינפינג או משמרות המהפכה האסלאמית מסכימים איתו. במאה הקודמת, בזמן שמנהיגים פוליטיים וכנסייתיים רבים קראו להפגת מתחים, אירופה וברית המועצות סבלו ממלחמה, שעבוד ורצח המוני. במבט לאחור, מעטים יחלקו על כך שאמריקה עמדה בצד הנכון של העימותים הממושכים, שבסופו של דבר הפכו את העולם לחופשי יותר. גם כאשר אנחנו מתפללים לשלום, אמריקה חייבת תמיד להתכונן לאויבים המבקשים מלחמה.
חשבו על שני תרחישים שבהם ניתן להשתמש בנשק אוטונומי. סוללת הגנה אווירית אמריקנית הנתונה למטחי טילים וכטב"מים איראניים עשויה להשתמש במערכות אוטונומיות כדי להקצות מיירטים, בפעולת הגנה עצמית. ארצות הברית וטאיוואן עשויות לפתח צוללות רובוטיות, מטוסי קרב בלתי מאוישים, כטב"מי תקיפה חד־כיווניים ואמצעי תקיפה נוספים כדי למנוע פלישה לאי. בשני המקרים, האם מישהו יכחיש את היעילות המבצעית, או את השימוש האתי, בנשק אוטונמי?
כוחות ארה"ב מבצעים פעולות הגנה אווירית באזור האחריות של פיקוד המרכז של ארה"ב | צילום: US ARMY / AFP
להרתעה יש רקורד שאין עליו ויכוח. לפירוק מנשק יש רקורד מוצלח הרבה פחות. אם המערב יניח את נשקו או יעצור את בנייתן של טכנולוגיות חיוניות, הוא יעשה זאת לבדו. רוסיה בונה כטב"מים המסוגלים לבחור מטרות באופן אוטונומי. סין דוהרת לעבר "בינתיזציה" של צבאה באמצעות מודלי שפה גדולים, מתוך כוונה לעקוף את ארצות הברית. ייתכן שיריבותיה של אמריקה כבר מחזיקות ביתרון התחלתי: בזמן שחברות תוכנה אמריקניות העבירו את שנות ה־2010 בוויכוחים אם מוסרי לעבוד עם הפנטגון, מסמכים צבאיים סיניים התייחסו ל"נשק בינה מלאכותית" כבר בשנת 2011.
אם ארצות הברית תפגר במרוץ הזה, מה תהיה המשמעות בשדה הקרב של מחר? כלבים רובוטיים סיניים מצוידים במקלעים עלולים להסתער על חופי טאיוואן, כשמעליהם כלי טיס בלתי מאוישים המופעלים בבינה מלאכותית. כטב"מים רוסיים אוטונומיים לחלוטין עלולים להציף את שמי אוקראינה. שום קריאה לפציפיזם לא תעצור מלחמה מן הסוג הזה. הגנרלים של בייג'ינג אומרים זאת במפורש: כלי הנשק האלה נועדו "לנצח במלחמות העתיד". ארצות הברית ובעלות בריתה חייבות להיות מפורשות באותה מידה. המשימה היא לבנות טכנולוגיות צבאיות חדשות כדי למנוע את המלחמות שבייג'ינג, מוסקבה, טהרן או כל יריב אחר עשויים לבקש לפתוח בהן.
המצעד הצבאי בסין | צילום: EPA
בהקשר של היריבות הנוכחית בין המעצמות הגדולות, החובות של מפקד עליון ושל טכנולוג — להגן על משפחותינו, על קהילותינו ועל האומה — שונות באופן מהותי מחובותיהם של מנהיגי הכנסייה או של ציבור המאמינים. אבל תורת המלחמה הצודקת אינה מרמזת שאלוהים נותן הכשר לאלימות. היא מכירה בסמכותה של המדינה לקבוע מתי השימוש בכוח הוא הכרח מוסרי. וגם כאשר השימוש בכוח צודק, נוצרים נבונים צריכים להצטער על כך שהוא נדרש.
ארצות הברית יכולה לעשות עוד הרבה כדי לחזק בעת ובעונה אחת את עמודי התווך של התפיסה האתית שלה ושל היעילות הצבאית שלה. ממשל טראמפ כבר פועל כדי להבטיח שדיוק בפגיעה ועיבוד מידע במהירות מכונה ינוהלו תחת המנגנונים המשפטיים המחמירים שמסורת הלחימה האמריקנית דורשת — וכך להפוך את המלחמה למוסרית יותר ולנפוצה פחות. מזכר ביטחון לאומי שפורסם לאחרונה מדגיש את "שרשרת הפיקוד והאחריות הבלתי מנותקת" של אמריקה בהפעלת כלי נשק המופעלים בבינה מלאכותית. לא ברור אם מסמכים מקבילים כלשהם קיימים בקרמלין או במשרד ההגנה של סין.
אם ארצות הברית לא תבנה טוב יותר ומהר יותר, היא לא תירש עולם ללא מלחמה. היא תירש עולם שבו יריביה מנהלים מלחמה בתנאים שלהם — תוך שימוש בטכנולוגיה המנותקת משיקול דעת אנושי ומאחריותיות, בדיוק כפי שהאפיפיור ואחרים חוששים בצדק.
טריי סטיבנס הוא יו"ר פעיל ומייסד שותף של Anduril Industries, ושותף כללי בקרן Founders Fund.
קתרין בויל היא שותפה כללית ומייסדת שותפה של יוזמת American Dynamism בקרן Andreessen Horowitz.
עוד כתבות בנושא
עוד כתבות בנושא
עוד כתבות בנושא
