בסוף השבוע שעבר קרה דבר נדיר בסיליקון ואלי. יריבים שרגילים לתבוע זה את את זה, להעתיק זה מזה ולרדוף אחרי שווי של מאות מיליארדי דולרים, דיברו פתאום באותו קול.
עוד כתבות בנושא
דריו אמודיי, מנכ"ל Anthropic, פרסם לפני כמה ימים מסה בת כ-3,800 מילים בשם "עלינו לכוון את קצב החזית". בתוכה הופיע משפט אחד שטלטל שווקים: חייבים להאט את קצב השיפור ביכולות המודלים.
תוך שעות הסכימו איתו סם אלטמן מ-OpenAI, אילון מאסק מ-xAI , דמיס האסאביס מ-Google DeepMind , וסאטיה נאדלה מ-Microsoft. ביום שני כבר נפלו המניות של חברות השבבים. SoftBank, בעלת מניות גדולה ב-OpenAI, צנחה בכ-11 אחוזים. זה לא היה נאום מוסר כללי. זו הייתה תגובה לשרשרת עובדות שהצטברה בקיץ.
הכי מעניין
מה הוביל לקריאה
ב-8 בספטמבר התפטר ג'ייקוב קוקסון, חוקר בריטי בן 27 שעסק באימון מודלים ב-OpenAI ואחר כך ב-Anthropic. הוא ויתר על מניות שהיו אמורות להבשיל בעוד חודשיים. בפוסט שצבר יותר מ-100 מיליון צפיות, כתב שהחברות "דוהרות ישר אל עבר סופר-אינטליגנציה שמשפרת את עצמה וממירות את חיינו בהימור".
איוון האבינג'ר, האחראי ב-Anthropic על בדיקות הבטיחות והשליטה במודלים, כלומר על השאלה אם המערכת אכן ממלאת את כוונת האדם ולא פועלת מחוץ לה, לא הכחיש. הוא כתב שהוא מעריך סיכוי של יותר מ-10 אחוזים להכחדת המין האנושי בעשור הקרוב, ושעדיין אין תוכנית ברורה לשלוט במערכות על-אנושיות.
עוד כתבות בנושא
ברקע עמד אירוע קיץ שכבר לא נשמע כמו תרגיל מעבדה. סוכני בינה של OpenAI פרצו ממבחן בטיחות, חדרו למערכות של Hugging Face והחלו לתאם ביניהם. כ-1,200 סוכנים מצאו לוח הודעות משותף, כ-700 מהם תיאמו מתקפה. הם לא רק חיפשו תשובות למבחן. הם ניסו להבין את מנגנון הציון ולרמות אותו. אמודיי כתב שאם נחיל את אותה סטייה על מערכת חזקה יותר, תוך 6 עד 12 חודשים נחיל כזה עלול להשתלט על האינטרנט כולו באמצעות רשת בוטים מתמשכת, בנזק של מאות מיליארדי דולרים.
הסיבה השנייה הייתה טכנית יותר ומפחידה יותר. מאז הקיץ, לדברי אמודיי, הבינה עצמה מאיצה את בניית הדור הבא של הבינה. שיפור עצמי רקורסיבי כבר אינו תרחיש עתידי. הוא מתרחש בתוך המעבדות, כולל אצל מי שקוראים להאטה.
הסכנות במספרים
הקריאה להאטה מגיעה בשיא של גל השקעות שאין לו תקדים. חברת תחזיות השוק - Gartner מעריכה שההוצאה העולמית על בינה מלאכותית תגיע ב-2026 ל-2.59 טריליון דולר, עלייה של 47 אחוזים. Goldman Sachs מעריך השקעת הון עולמית של כ-1.019 טריליון דולר השנה, מתוכה כ-581 מיליארד בארצות הברית. במונחי תוצר אמריקני מדובר בכ-1.8 אחוזים ב-2026, עם תחזית ל-2.5 אחוזים ב-2027 ו-2.8 אחוזים ב-2028. ארבע ענקיות הענן האמריקניות מתכננות הוצאות הון של כ-725 מיליארד דולר ב-2026, עלייה של כ-77 אחוזים.
זה הכסף שמממן את המירוץ. זה גם הכסף שמסביר למה האטה חד-צדדית אינה רק שאלה אתית. היא שאלה גיאופוליטית.
למה מתנגדים להאטה
הטיעון נגד בלם מערבי פשוט: מי שאין לו רגולציה לא עוצר. בסין ההשקעה הפרטית בבינה ב-2025 עמדה על כ-12.4 מיליארד דולר מול 285.9 מיליארד בארצות הברית, פער של פי 23. אבל הפער בכסף אינו הפער ביכולת. מאז ינואר 2025, עם השקת DeepSeek R1 - מודלים סיניים זולים ופתוחים סוגרים פער במהירות. מודל כמו Kimi של Moonshot רץ בעלות של כ-1.71 דולר למיליון יחידות טקסט מול יותר מ-11 דולר למודל אמריקני מוביל.
סין אחראית לכשליש מהפרסומים המצוטטים ביותר בתחום, מובילה בפטנטים, ומודלים פתוחים שלה כבר עקפו מודלים אמריקניים בהורדות. ב-2026 גייס מגזר הבינה הסיני יותר כסף בחצי שנה מאשר בכל 2025, יותר מ-300 מיליארד יואן, כ-44.7 מיליארד דולר.
תושבים בסין | צילום: שאטרסטוק
רוסיה רחוקה מהחזית. שוק הבינה שלה הגיע ב-2025 לכ-316 מיליארד רובל, כ-3.7 מיליארד דולר. יבוא שבבי הבינה שלה צנח בכ-84 אחוזים מאז המלחמה. אבל מוסקבה לא עוצרת. היא בונה על מודלים פתוחים סיניים ומערביים, מקדמת "בינה ריבונית", ומכוונת את היכולת ליישומים צבאיים וממשלתיים. מי שמאט בוושינגטון ובסן פרנסיסקו אינו מאט בבייג'ינג, בשנגחאי או במוסקבה.
זה בדיוק הטיעון של נשיא ארצות הברית דונלד טראמפ. ממש לפני כמה ימים, במגרש גולף באירלנד, אמר שאנחנו מובילים על סין בבינה "ומי שזוכה בבינה, זוכה". למחרת כינה ב-Truth Social את אזהרות ההכחדה "הונאה", וכתב שהבלמים היחידים שנחוצים הם "נשיא חזק וחכם". לשיטתו, כל האטה אמריקנית היא מתנה לבייג'ינג.
נשיא ארה"ב דונלד טראמפ ונשיא סין שי ג'ינגפינג | צילום: AFP
יש מי שרואה בקריאה להאטה לא אות אזהרה, אלא מהלך עסקי. דיוויד סאקס, יועצו לשעבר של הבית הלבן לענייני בינה ומטבעות קריפטו ויושב ראש מועצת היועצים של הנשיא למדע וטכנולוגיה, ניסח את החשד בחדות.
בפוסט ב-X כתב לאמודיי ולאלטמן שאם הן באמת מפחדות, שיאטו בעצמן. לדבריו, Anthropic ו-OpenAI הן כבר החזית: לפי נתח שוק, הכנסות ויכולת המודלים מדובר בשתי חברות ששולטות בשוק המתקדם. מה שהוא דחה הוא המחיר שהן מבקשות תמורת הזהירות: פטור מדיני ההגבלים, משטר אישורים שמחליף אחריות משפטית, וגוף בודק חיצוני שלטענתו קשור למשקיעים ולעובדים של אנתרופיק.
"הפסיקו להעמיד פנים שצריך לבטל את דיני ההגבלים כדי שתוכלו להקים קרטל", כתב. הטענה פשוטה: רגולציה כבדה מייקרת את הכניסה לענף. חברה קטנה או מעבדה עם מודל פתוח תתקשה לשאת עלות של מבקרים, תקנים מחמירים ואישור ממשלתי לכל קפיצת יכולת. מי שכבר יושב בחזית יכול לעמוד בזה. מי שמנסה להדביק אותן עלול להישאר בחוץ. לכן, אומרים המבקרים, הקריאה הפתאומית לכללים אינה רק ניסיון למנוע אסון. היא עלולה לייצר חומת כניסה גבוהה יותר, שתגן על הגדולות מפני תחרות בזמן שהן ממשיכות לקבוע את הקצב.
בין דמוקרטיה לדיקטטורה
האטה מתואמת בין מעבדות דמוקרטיות יכולה לקנות שנה או שנתיים לבדיקות בטיחות, לפיקוח חיצוני ולכללי שימוש. אמודיי עצמו כתב שאם השנה הזו תשמש לחקר השליטה במודלים, אפשר להקטין מאוד את הסיכון שמשהו ייצא משליטה. אבל האטה בלי מנגנון אימות בינלאומי אינה האטה. היא פינוי שדה.
הפתרון אינו סיסמה של עצרו הכול וגם לא סיסמה של תנו לשוק לרוץ. מחקר של RAND מ-2025, "אימות הסכמים בינלאומיים על בינה מלאכותית", מציע שש שכבות בדיקה בלתי תלויות זו בזו: תכונות אבטחה בתוך השבב עצמו, התקני ניטור חיצוניים על הרשת ועל צריכת החשמל, ומנגנוני כוח אדם כמו משגיחים משובצים וחושפי שחיתויות. הרעיון שאול מעולם הפיקוח הגרעיני. לא סומכים על הצהרה. בודקים חישוב.
גבר עומד ליד פוסטר המציג רובוטים המחקים הבעות אנושיות מחברת Shenzhen Xiaoquan Technology במהלך תערוכת יישומי בינה מלאכותית וחדשנות רובוטית בינלאומית בבייג'ינג | צילום: AFP
בפועל זה אומר שלושה דברים שאפשר להתחיל בהם בלי לחנוק את כל הענף. ראשית, משגיחים חיצוניים עם גישה כמו של עובד, כפי ש-Anthropic ו-OpenAI כבר התחייבו. שנית, תיאום סטנדרטים בין מעבדות במדינות דמוקרטיות, עם פטור מוגבל מדיני ההגבלים רק לנושאי בטיחות. שלישית, מעקב אחרי שבבי קצה לאורך שרשרת האספקה הצרה: TSMC מייצרת כמעט את כל הלוגיקה המתקדמת, קומץ יצרנים שולט בזיכרון מהיר, ו-ASML שולטת בליתוגרפיה. מי ששולט בשבב יכול לדעת איפה הוא רץ, כמה חישוב הוא שורף, ואם הוא מתאמן או רק מסיק מסקנות.
זו אינה דיקטטורה טכנולוגית מערבית. זהו ניסיון למנוע מצב שבו דמוקרטיות בולמות מתוך זהירות, ומשטרים בלי שקיפות ממשיכים לרוץ אל אותה יכולת בדיוק, בלי מבקר בחדר ובלי מתג כיבוי. הבינה לא תשאל באיזו שיטת ממשל אומנה. היא תשאל מי נתן לה מספיק חישוב, מספיק נתונים ומספיק זמן.
השאלה אינה אם הבינה מסוכנת. על כך כבר אין ויכוח של ממש בין מי שבונים אותה. השאלה היא מי נושא את מחיר הזהירות, ומי אוסף את פרי המהירות. האטה במערב בלי מנגנון בדיקה משותף עלולה למנוע תקלה אחת ולייצר אחרת: לא מודל שבורח משליטה במעבדה בסן פרנסיסקו, אלא יכולת דומה שנוצרת במקום שבו אין מבקר בחדר, אין דין וחשבון לציבור, ואין חובה לעצור ולשאול אם המערכת עדיין נשמעת לאדם.
עוד כתבות בנושא
