מגדל בבל המודרני: הבינה המלאכותית עושה אותנו אחידים

פרשת נח נחתמת בסיפור קצר, תשעה פסוקים בלבד, שנחרת בזיכרון האנושי יותר מסיפורים ארוכים ממנו בהרבה: מגדל בבל. "הָבָה נִלְבְּנָה לְבֵנִים וְנִשְׂרְפָה לִשְׂרֵפָה... הָבָה נִבְנֶה לָּנוּ עִיר וּמִגְדָּל" (בראשית יא, ג-ד). זהו הפרויקט הטכנולוגי הראשון שיזם האדם; יש כאן תכנון, חומרים חדשים, שיטת בנייה וחזון. והנה, כבר בהופעתה הראשונה מציג המקרא את השימוש בטכנולוגיה כבעייתי, עד כדי כך שהקב"ה בכבודו ובעצמו "יורד לראות" ונדרש להתערב.

שאלת המגדל שראשו בשמיים קרובה אלינו יותר משנדמה. בעת האחרונה מתנהל ויכוח סוער בין בכירי חברות הבינה המלאכותית על סכנותיה של הטכנולוגיה החדשה, ועל החשש מאובדן שליטה. ב־12 בספטמבר, כאשר העם היהודי ציין את ראש השנה, פרסם דריו אמודיי, מנכ"ל חברת אנתרופיק, מאמר ארוך שכותרתו "עלינו לווסת את קצב הקדמה". הוא מצביע על הפוטנציאל של ה־AI לפתור מחלות חשוכות מרפא, ועם זאת, קורא למעבדות המעטות העומדות בחזית הפיתוח להאט את קצב השיפור ביכולותיהם של המודלים. הוא מזהיר מפני האפשרות שנחיל של סוכני AI הפועלים יחד עלול, בתוך שנה או פחות, להשתלט על האינטרנט כולו.

התגובות לא איחרו לבוא. סם אלטמן מ־OpenAI ואילון מאסק תמכו בדברים. מנגד, חברות אנבידיה ומטא התנגדו להאטה מתואמת. נשיא ארה"ב דונלד טראמפ, שכינה בעבר את החששות מ־AI "הונאה", הזהיר שכל האטה תפתח פתח לסין לעקוף את ארה"ב. בהמשך אירח טראמפ בבית הלבן את ראשי חברות הטכנולוגיה לפגישה שבמהלכה נחתם "הסכם הבית הלבן לאינטליגנציית־על", מסמך וולונטרי שטראמפ הגדיר "מחייב מוסרית". האם זה יספיק? הוויכוח רחוק מלהסתיים.

כתיבה היא חשיבה

אינני מתיימר להכריע בוויכוח על הסכנות הקיומיות של ה־AI. אבל ישנה סכנה אחת, צנועה יותר אך ברורה הרבה יותר, שעולה מהפסוק הראשון בסיפור מגדל בבל: "וַיְהִי כָל הָאָרֶץ שָׂפָה אֶחָת וּדְבָרִים אֲחָדִים".

לאחרונה שוחחתי עם חבר, פרופסור ותיק לתנ"ך. הוא סיפר שנתן למודל שפה חומרים וביקש ממנו לכתוב מאמר בנושא מסוים. מבחינת התוכן התוצאה הייתה סבירה בהחלט, אבל לא היה זה הקול שלו, הסגנון שלו, המילים שלו. הוא נאלץ לעבוד על הטקסט לא מעט כדי להפוך אותו לשלו.

אחרי ארבעים שנה של כתיבה, לאותו פרופסור יש אכן קול משלו, והוא יודע לזהות מתי טקסט אינו שלו. ואולם מרבית תלמידיו עדיין לא עיצבו קול כזה. הם יקבלו את מה שהמודל ייתן להם וייצמדו אליו. כך, בהדרגה, נגיע למצב של "שפה אחת ודברים אחדים", שבו כולם נשמעים אותו דבר. מי שגולל ברשתות החברתיות או רואה עלונים וסרטונים שנוצרים היום, יודע שזה כבר קורה.

מודל שפה בנוי לבחור בכל שלב את ההמשך הסביר ביותר מבחינה סטטיסטית של כל מה שקרא עד כה. ואולם הקול האישי מורכב דווקא מהבחירות הפחות צפויות: המילה המפתיעה, המקצב המיוחד, הדימוי שאדם אחר לא היה בוחר.

במחקר שפורסם ב־2024 בכתב העת Science Advances, ביקשו החוקרים ממשתתפים לכתוב סיפורים קצרים. חלקם קיבלו מג'י־פי־טי רעיון פתיחה בן שלושה משפטים בלבד. הסיפורים שנעזרו ב־AI דורגו כיצירתיים ומהנים יותר לכשעצמם, במיוחד אצל הכותבים הפחות יצירתיים. ואולם כאשר בחנו את כל הסיפורים יחד, התברר שהסיפורים שנעזרו ב־AI דומים זה לזה הרבה יותר מסיפורים שכתבו בני אדם לבדם. כל כותב בפני עצמו הרוויח, אבל השונות בתוך הקבוצה כולה הצטמצמה. החוקרים עצמם הגדירו זאת כדילמה חברתית: לכל כותב יש תמריץ להשתמש בכלי, אבל ככל שישתמשו בו יותר, הגיוון ימשיך לרדת.

אפשר היה לחשוב שהפתרון פשוט: נשתמש במודלים רבים ושונים, וכך יישמר הגיוון. אלא שהמודלים לומדים במידה רבה מאותו גוף־מידע, האינטרנט, ולא פעם אף "מזוקקים" זה מזה, כאשר מודל אחד מאומן על התוצרים של מודל אחר.

מחקר שהוצג בכנס NeurIPS בסוף 2025, בדק זאת על פני 26 אלף שאלות פתוחות, כאלה שאין להן תשובה נכונה אחת. הממצא: כל מודל חוזר על עצמו, וגם מודלים של חברות שונות מפיקים תשובות דומות זו לזו באופן בולט. כבר בפתיחת המחקר מזהירים הכותבים מפני הסכנה שעומדת במרכז דברינו: מודלי שפה מתקשים להפיק תוכן יצירתי מגוון, והחשיפה החוזרת לתוצרים דומים מעוררת חשש ל"הומוגניות ארוכת טווח של המחשבה האנושית".

יתרה מזאת, במחקר שביצעו חוקרים ב־MIT, חוברו אלקטרודות מוחיות ל־54 סטודנטים, והם נתבקשו לכתוב חיבורים. חלקם כתבו בעזרת צ'ט ג'י־פי־טי, חלקם בעזרת מנוע חיפוש, וחלקם בכוחות עצמם. אצל קבוצת הצ'ט ג'י־פי־טי נמדדה הפעילות המוחית החלשה ביותר, והחיבורים שלהם היו אחידים יותר. ונתון מטריד במיוחד: דקות ספורות אחרי שסיימו לכתוב, רובם הגדול לא הצליחו לצטט משפט אחד מהחיבור "שלהם".

לא זו אף זו: במאמר שפרסם לאחרונה האקונומיסט, נטען שכתיבה היא במהותה חשיבה: לעיתים קרובות אדם מגלה מה הוא חושב רק כשהוא כותב זאת. מייקל גוב, שר לשעבר בממשלת בריטניה, נהג לומר לעובדיו "Think in ink", חִשבו בדיו. מי שמוותר על הכתיבה מוותר גם על המחשבה שמולידה את הקול האישי.

ג'ורג' אורוול הבין זאת כבר ב־1946. במסה בשם "הפוליטיקה והשפה האנגלית" הוא הזהיר מפני ביטויים מוכנים מראש, ש"יבנו עבורך את משפטיך, ובמידה מסוימת אף יחשבו עבורך את מחשבותיך". קשה לחשוב על תיאור מדויק יותר של מודל שפה, שנכתב כבר לפני שמונים שנה.

הדרך ההפוכה

בפירושו "העמק דבר", קורא הנצי"ב מוולוז'ין את סיפור מגדל בבל כמעט כבבואה של החזון הדיסטופי של אורוול בספרו "1984". לדברי הנצי"ב, "דברים אחדים" הם אחידות מחשבתית שנכפתה על הכל, ומי שסטה ממנה נידון לשריפה, כמו שעשו לאברהם אבינו. גם המגדל עצמו נועד לשמש מגדל תצפית, שממנו יוכלו לפקח על כל היישוב ולוודא שאיש לא ייפרד ויעבור לארץ אחרת. אצל אורוול, המפלגה מקצצת מדי שנה את אוצר המילים של השפה, כדי שבסופו של דבר "פשע מחשבה" לא יהיה אפשרי כלל. זוהי שפה מצומצמת שנכפית מלמעלה כדי לאכוף דרך מחשבה אחת, "דברים אחדים".

ואולם בעוד אצל הנצי"ב ואצל אורוול האחידות נכפית בכוח, בדורנו איש אינו כופה עלינו לוותר על הכתיבה ועל החשיבה. אנחנו עושים זאת מיוזמתנו אנו, כי זה נוח, מהיר, ו"מספיק טוב". את ההבדל הזה ניסח המבקר ניל פוסטמן כבר ב־1985, כשהעמיד את אורוול מול אלדוס האקסלי. אורוול חשש מעריצות שתאסור ספרים. האקסלי, ב"עולם חדש מופלא", חשש שכלל לא יהיה צורך לאסור ספרים, כי איש לא ירצה עוד לקרוא אותם. הסחף שאנו רואים היום קרוב הרבה יותר להאקסלי מאשר לאורוול. אין כאן אח גדול שצריך למרוד בו, ולכן קשה כל כך להתנגד. יש כבר מי שצופים כי תוך שנים ספורות יתחלק העולם לאלה שיודעים לכתוב ולאלה שלא. ואם כתיבה היא חשיבה, החלוקה תהיה בעצם בין אלה שחושבים לאלה שלא.

ואם נרשה לעצמנו משחק מילים: התורה מסבירה את השם בבל, "כִּי שָׁם בָּלַל ה' שְׂפַת כָּל הָאָרֶץ". השורש בל"ל, מבטא "בלבול" אבל גם גיוון – של שפות, של מילים, של דעות. ה־LLM, גם הוא בעל ל' כפולה, הוא "מודל שפה גדול" – שמכניס את כל העושר התרבותי של העולם לטבלאות סטטיסטיות, ויוצר ממנו שפה אחת וגדולה. בבבל, השפה האחת נבללה לשפות רבות. מודל השפה עושה את הדרך ההפוכה: הוא קולט את כל השפות ומחזיר אותן, בשטף ובקלות, ללשון אחת.

במגדל בבל, הקב"ה הוא שהתערב כדי למנוע את היווצרות "שפה אחת". הפעם נראה שהמשימה מוטלת עלינו: לשמור, כל אחד מאיתנו, על קולו, גם כשהכלי המשותף מונח לפני כולנו. ואולי הצעד הראשון פשוט מאוד: לכתוב קודם בעצמנו, ורק אחר כך לבקש מהמכונה לעזור.

משה זלצברג הוא יו"ר חברת "וריאסט", שותף־מנהל בקרן "סיליקון קטליסט" ויועץ למרכז לבינה מלאכותית, אתיקה ומחשבת ישראל באוניברסיטת בר־אילן