לא אחת כאשר המצב בישראל מטריד ומדאיג, ונראה לנו שיהיה קשה להיחלץ מהמלכודות המסובכות שאליהן קלענו את עצמנו, צצה לנו נחמה גלובלית: בהחלט ייתכן שהעולם מתקרב למקום קטסטרופלי הרבה יותר.

האיום החדש על עתיד האנושות הוא, ולא בפעם הראשונה, עתיד האנושות, דהיינו, הקִדמה המתפרצת לחיינו בקצב בלתי מבוקר, שאותה מחוללים כיום בעיקר מנועי הבינה המלאכותית. עוד לא התרגלנו לתרגום הנוח משפה לשפה, וה־AI החל לכתוב בשבילנו פואמות, חוזים משפטיים ומאמרים אקדמיים. עוד לא הפנמנו זאת, והבינה הבאה בתור כבר הפיקה לנו תמונות מקוריות, מוזיקה עשירה וסרטונים מציאותיים. לא הספקנו להסדיר נשימה, וה־AI כבר החליף אנליסטים פיננסיים, פתר אתגרים לוגיים ומתמטיים, והחל להחליף מתכנתים בכתיבת קוד. בחודשים האחרונים הופיעו גרסאות מתקדמות שבונות אפליקציות מלאות, ובקרוב יחליפו לא רק מתכנתים, אלא חברות שלמות.

השווקים הטכנולוגיים, שמבטאים מעין מדד אמון שיש למשקיעים בכלכלה, עדיין גבוהים מאוד, אך חוו בשבועות האחרונים זעזוע של אובדן יציבות ואי־ודאות. למשל, בתשלום קטן לחברת אנת'רופיק, עם הקלוד־קוד שלה, יוכל בקרוב כל אחד להתגבר על בעיות שחברות קמו כדי לפתור במחיר רב. מנועי ה־AI יספקו בקרוב שירותים כאלה במחיר מצחיק.

הקצב הזה יותר ממסחרר. קשה להאמין שצ'אט ג'י־פי־טי שוחרר לציבור רק בסוף 2022, כמודל די נאיבי, והיום שוקי הטכנולוגיה רועדים מכל שחרור גרסת AI חדשה. גם אם המודלים העכשוויים רחוקים משלמות, קצב השיפור מבטיח שבקרוב מאוד נחווה שפע פיתוחים והישגים נוספים.

"הרס יצירתי" קוראים לזה בכלכלה, כאשר חדשנות מבטלת עובדים, חברות ומוצרים קיימים, ובמקומם יוצרת חדשים. הרכב החליף את הכרכרה, הדיסק את התקליט, ושירותי הסטרימינג את מוצרי הווידאו. כל אחד ענה לצורך ישן באופן חדש ויעיל יותר. מי שהרוויח מהפתרונות הקודמים נפגע ונעלם, מי שידע להשתלב בייצור הפתרונות החדשים, הרוויח.

השאלה שמרחפת מעל הטכנולוגיה החדשה היא אם ההרס הפעם הוא לא בממדי פגיעת מטאור גדול בכלכלה. האם המוצרים החדשים יהיו כל כך טובים ומקיפים, שייוותר רק מעט צורך באנשים? האם הבינה המלאכותית מביאה את האנושות לנקודת מפנה, שאחריה יישאר מעט מאוד מקום לעבודה אנושית?

אם לא מספיקות השאלות הגדולות האלה, מסבכת את העניינים עוד יותר הבינה האנושית, שמלווה במוטיבציות מאוד לא מלאכותיות. ניקח למשל את אפליקציית הקוד של קלוד. החברה שפיתחה אותה היא "אנת'רופיק", שהוקמה על ידי פורשים מ־Open AI, זו שיצרה את צ'אט ג'י־פי־טי. Open AI החלה כעמותה לתועלת הציבור, ואף זכתה לתרומה ראשונית נכבדת מאילון מאסק, אבל אז מייסדה סאם אלטמן החליט להפוך לחברה עסקית, מהלך שהפך את שם החברה לאירוני. תוצאת ההחלטה הזו, אגב, היא מאבק משפטי נכבד שמתנהל היום בין החברה לאילון מאסק.

הפורשים שהקימו את אנת'רופיק עשו זאת, בין השאר, בשל חוסר שביעות רצון מהחלטותיו של אלטמן. לטענתם החברה לא לקחה בחשבון שיקולי בטיחות ורצה קדימה מהר מדי. הם רצו בינה מלאכותית שממוקדת באדם – "אנת'רופיק". והנה כעת לא רק שהם בנו ושחררו במהירות מוצר שמאיים על תעשייה שלמה, אלא שמתברר שכאשר קלוד משתלט על המחשב המקומי לצורכי נוחות המשתמש, הוא עלול למסור את הנתונים למי שיודע איך לשדל אותו לכך. וכך ה־AI גם מאיים להחליף את שוק הסייבר, וגם מהווה פרצת אבטחה עצומה בעצמו.

מכאן עולה שאלה גדולה אפילו יותר, והיא המשמעות של הבינה המלאכותית בזירה הגלובלית – כמובן מבחינה כלכלית, אבל לא פחות מכך גם מבחינה ביטחונית. נתחיל בכלכלה. כבר כתבתי בעבר בטור זה על טענת האנליסט הפיננסי ד"ר דיוויד וו, שהמטרה הסינית היא להוזיל את שוק ה־AI וכך להקריס את הכלכלה האמריקנית, שכיום במידה רבה פורחת רק בזכות האוויר החם שבבועה הזו. הסינים, כידוע, לא בוחלים באמצעים בתחרות הזו. אנת'רופיק וחברות אחרות מדווחות כבר תקופה שחברות AI סיניות פותחות משתמשים פיקטיביים במסגרת ריגול תעשייתי אינטנסיבי, כדי לעשות "הנדסה לאחור" למודלים האמריקניים.

ממילא בינתיים התברר שהכלל בכלכלה הוא שאין בה כללים, וה־AI עלול למוטט את השוק בעצמו, פשוט על ידי הקרסת כל שאר השווקים, שהם גזע הענף הפיננסי שעליו הוא יושב. כך, אם ה־AI הופך את שאר החברות ללא רווחיות, והוא עצמו לא מספיק רווחי, הכלכלה המודרנית, ואיתה יסודות התרבות האנושית, יעברו טלטלה רצינית.

בתחום הביטחוני המצב לא פחות מדאיג. ראשית, צריך לקחת בחשבון שהמדינות המודרניות תלויות באופן מלא בהפעלת מערכות ממוחשבות, הן בשגרה הן בחירום. בקצב ההתקדמות הנוכחי, כל המערכות עלולות להיות פרוצות וחשופות. מדובר בעקב אכילס עצום. אפילו רק בתחומים האזרחיים, כל מערכות ניהול המדינה עלולות לעבור השתלטות עוינת שתחולל נזק עצום. לעניין זה הרשויות במערב מיושנות ומאוד לא מוכנות.

כמובן, ישנו גם חשש למערכות הביטחוניות עצמן, ממערכות הלוויין ועד למערכות הלחימה הטקטיות. לחשש הזה נלווים הפיתוחים המתקדמים מאוד של יכולות וכלי נשק שמופעלים ונהוגים על ידי בינה מלאכותית, שיהיו קטלניים הרבה יותר ממה שמסוגלים לו בני אדם. אם להתרשם מהקפיצה שחווינו בתוך שלוש שנים בחיים האזרחיים, אפשר רק לנחש איזו קפיצה עצומה נראה בשדה הקרב. ותמיד ישנו חשש טורדני שמה שקורה בסין בתחומים הללו מתקדם הרבה יותר מאשר במערב, ובמקרה שהסינים יאמינו שבידיהם שובר שוויון צבאי משמעותי, כל האפשרויות הגלובליות נטרפות.

אולי נכון, כדעת האופטימיים, שמהפכת הבינה המלאכותית תביא שפע ברכה לאנושות, מפני שהיא מייעלת, משפרת ומוזילה את איכות החיים. אולי גם נכון שלבסוף המערב וערכיו יגברו על כל הנאבקים בהם. עדיין עלינו לזכור שגם המהפכה התעשייתית, שאין ספק שהביאה שפע ברכה לאנושות, הייתה צריכה לעבור דרך שתי מלחמות עולם שהיו מהקשות בהיסטוריה – והיו במידה רבה תוצאתה.

בכל מקרה, כאמור בפתיחה, לפחות אפשר להתנחם בכך שהצרות המקומיות שלנו היום, על סיפו של אחד הרגעים המכריעים של האנושות, נראות קצת צדדיות ושוליות.