בטווח של שלושה ימים זעקו שלושה ממובילי תעשיית הבינה המלאכותית במערב – דריו אמודיי מאנת'רופיק, סם אלטמן מ־OpenAI, ואילון מאסק – שחייבים להאט את קצב הפיתוח בשל היווצרות איומים חמורים לאנושות: מהתקפות סייבר שלא ניתן להתגונן מפניהן, דרך טרור ביולוגי, ועד אובדן שליטה גמור.

נדיר למדי שחברות מסחריות בסדר גודל גלובלי מצהירות שסחורתן מסוכנת מדי. לכן סבורים רבים שמדובר במהלך ציני, שנועד לעזור לחברות עם ההנפקה הציבורית המתקרבת שלהן, בשווי עצום של טריליוני דולרים. מדוע – מלבד, כמובן, המוסריות המופגנת והדאגה לאנושות של המנכ"לים – מעוניינות החברות הללו להאט את הפיתוח? משום שהתברר שהוא דורש עלויות עצומות של מחשוב ואנרגיה. לקראת ההנפקה ישתלם מאוד לחברות להפחית כמה שיותר את ההוצאות, ונימוקי מוסר ובטיחות תמיד עדיפים על חוסר יעילות.

היכולות המתקדמות של הבינה המלאכותית מכניסות את האנושות לעידן חדש. ה־AI משנה סדרי עולם מן היסוד. כבר עתה, מי שלא נעזר בבינה מלאכותית חי בעבר. כמעט בכל המקצועות שיש בהם היבט כלשהו של חשיבה, הבינה המלאכותית כבר עולה על האנושית, והמודלים משתפרים בקצב מסחרר. ההתממשקות עם רובוטיקה מתקדמת נמצאת בפתח, והכול, מחיינו האישיים ועד להתנהלות מעצמות העולם, נכנס לעידן חדש ומופלא של אי־ודאות חסרת תקדים.

המשרעת של האי־ודאות הזו עצומה, ונעה מהבטחות לגן עדן גשמי עלי אדמות ועד לאפוקליפסה פסימית שכמותה לא שיערו אפילו הקודרים שבסופרי המדע הבדיוני. בצד האוטופי, מבטיחים לנו, ה־AI ישחרר את האדם מהצורך לעבוד, משאבים יהיו בשפע, והאנושות תוכל להתפנות ליצירה והגשמה עצמית שלווה, משוחררת מצורכי ההישרדות. מן העבר השני עומדות שפע של אפשרויות דיסטופיות, שיש להן לא פחות סימנים מטרימים.

חשש מרכזי אחד הוא שה־AI יהפוך, בידי מעצמות שליליות, לנשק שובר שוויון ויחולל מלחמת עולם. הסינים כבר הצליחו בשנה שעברה להפעיל את קלוד של אנתרופיק כדי לפרוץ, בהצלחה חלקית אומנם, לחברות טכנולוגיה, גופים פיננסיים, יצרניות כימיקלים וסוכנויות ממשלתיות. מלבד זאת הם עסוקים בבניית צבא טכנולוגי חדשני שמתבסס על יכולות AI מתקדמות וחשאיות.

האיום הסיני על ארה"ב, ולמעשה על המערב כולו, אינו מסתכם בהתקפה ישירה. בזמן שבמערב מתווכחים על קצב הפיתוח, החברות הסיניות – כמו דיפסיק, קוון, מינימקס, ועוד רבות – מורידות את המחיר. השימוש ב־AI סיני זול בהרבה מהאמריקני, ואף שהביצועים עדיין לא לגמרי שווים, הפערים מצטמצמים במהירות.

המשמעות היא שהמודל העסקי של חברות ה־AI המערביות עומד בפני אתגר כפול. ראשית, גם מצד עצמן החברות הללו מנסות לשכנע שהמודלים הכלכליים הרגילים לא נוגעים להן, וכי אף שהן לוקחות על עצמן התחייבויות גדולות בהרבה מהרווחים שהן מייצרות, בסוף יתרחש מעין "נס AI" פיננסי והכול יהיה בסדר. שנית, כעת נכנסים לתמונה הסינים, עם AI זול ויעיל, ומוכיחים שהגישה החדשה לא רק ניסיונית ומפוקפקת מצד עצמה, אלא גם הרבה יותר מדי אופטימית ביחס לתחרות.

מכיוון שחלק ניכר מההון המערבי מושקע בשוקי מניות שבדרכים סבוכות ממונפים דרך בלון ה־AI, אם וכאשר הוא יתפוצץ - כלכלת המערב, שכבר משדרת סימני מצוקה, עלולה לקרוס. במצב שכזה אין לנו על מי לסמוך אלא על נשיא ארה"ב, שאין דבר קרוב לליבו כמו שוק ההון. לפני כחצי שנה הטיל טראמפ סנקציות על אנת'רופיק בסכסוך מתוקשר, מהלך שנפסל באוגוסט בבית המשפט. השבוע הוא צייץ בנוגע לעיכוב הפיתוח – שיועיל כמובן בעיקר לסינים – כי הוא מתנגד להצעה, וכי אין בכלל מה לדאוג משום ש"השליטה או הבטיחות היחידה שצריך ה־AI הוא הוא נשיא חזק וחכם (איי־קיו גבוה!) ולארה"ב יש כזה בכמויות".

עם כל הכבוד למלחמת המעצמות, תרחיש אחר מצייר את הסכנה העיקרית לאנושות ב־AI עצמו. לפני כחודשיים בחנו ב־OpenAI את יכולות הסייבר של הבינה המלאכותית שלהם. כדי להצליח, המודל החליט על דעת עצמו לעקוף את מנגנוני הבטיחות של החברה ולפרוץ לחברות אחרות. זו הייתה מעין הוכחה אמפירית לכלל שנוסח כבר לפני עשרות שנים (ולאחרונה ביחס ל־AI על ידי רומן יאמפולסקי), ולפיו אינטליגנציה נמוכה יותר לא תוכל לשלוט לאורך זמן על גבוהה ממנה. דהיינו, ייתכן שהאויב איננו אנושי אלא ה־AI עצמו, שיקבל החלטות ויממש אותן באופן אוטונומי, בלי שתהיה אפשרות מעשית לעצור אותו.

אבל שוב אין סיבה למתח, משום שדונלד טראמפ בשטח. בציוץ נוסף כינה הנשיא את החשש מהשתלטות ה־AI "תרמית", תיאר את עצמו כ"מנפץ התרמיות", והבטיח שהתיאוריה הזו פרועה יותר אפילו מ"הונאת ההתחממות הגלובלית". ובכן, גם הציוץ הזה מדגים שארה"ב אולי מנצחת בינתיים בפיתוח הבינה המלאכותית, אבל עד כמה שמדובר בבית הלבן, באנושית היא מתקשה יותר.

נשאיר את האפוקליפסה בצד, כדי לשאול היכן ניצבת ישראל בשוק הבינה המלאכותית. במבט מגבוה אפשר לומר שתקופת השיא של הסייבר הוחלפה או מוטמעת כעת בעידן ה־AI. הסייבר היה ברכה גדולה לישראל, והמנוע העיקרי לכך היה צה"ל. היחידות הטכנולוגיות נמצאו בחזית התחום, והוציאו לשוק הון אנושי איכותי ומוכשר, מוכן ומזומן להעניק לישראל נכסיות טכנולוגית עולמית אמיתית.

בבינה מלאכותית זה לא המצב. צה"ל משתמש ב־AI, אבל בשל אילוצים אובייקטיביים לא יכול להימצא בחזית. רבים המצויים בעמדות הובלה טכנולוגית ופיננסית יודעים שלמרבה הצער, ישראל איחרה את הרכבת. לא היינו מספיק מעורבים בשלב הפריצה, לא ייצרנו בזמן את התשתיות הנדרשות וההכשרה, האמצעים שבידי הצבא מוגבלים, השוק מורכב והתחרות עצומה. יש לנו כמה חברות טובות, אבל לא נכסיות עולמית. אגב, גם ברובוטיקה המצב כנראה דומה.

עם המציאות הזו צריך להתמודד באופן ריאליסטי ויצירתי. תהיה זו טעות לרדוף אחרי פנטזיה שתבזבז עוד משאבים בניסיון יקר להפוך למעצמת AI. ישראל צריכה למצוא נישות שעתידות להיות מרכזיות, ושבהן היתרון היחסי שלנו יוכל לייצר נכסיות גלובלית (למשל, שדה הקרב העתידי, מחשוב קוואנטי, ועוד). בתחומים שכאלה בהחלט נוכל להתבסס כמרכזיים, אם הצמרת תקבל החלטות אמיצות שמצד אחד ישחררו את התעשייה, ומצד שני ירכזו טוב יותר את המשאבים הלאומיים.