שנת 2012, בחדר קטן באוניברסיטת טורונטו, נגמרה גרסה אחת של העולם. פרופ' ג'פרי הינטון, מומחה למדעי המחשב שעסק שנים בנושא שאף אחד לא לקח ברצינות, עבד עם שני סטודנטים שלו על רשת נוירונים שאומנה על מיליוני תמונות כדי שתלמד לזהות אובייקטים. הם הגישו אותה לתחרות בינלאומית שבחנה מי מצליח לגרום למחשב לזהות אובייקטים בתמונות טוב יותר - תחרות שבשנים הראשונות שלה הייתה נטולת הישגים בולטים, והמארגנים שלה כמעט סגרו אותה מרוב ייאוש. התוצאות היו מדהימות, והינטון ותלמידיו השאירו אבק לכל המתחרים. כמה חודשים לאחר מכן רכשה גוגל את החברה שהקימו השלושה תמורת 44 מיליון דולר. אחד הסטודנטים הלך לייסד את OpenAI, והינטון זכה בפרס נובל. מה שנולד בחדר ההוא היה משמעותי באופן שיתברר רק בהמשך: הוכחה שמחשב יכול ללמוד לראות.
אודי דנינו, שהיה אז אלגוריתמאי בתחילת דרכו, עוד זוכר את הרגע. "היו שני מפצים גדולים בעולם הבינה המלאכותית", הוא מספר. "האחד הוא הרגע הזה בתחרות, שידוע בעיקר למביני עניין, והאחר התרחש בנובמבר 2022, כשצ'ט ג'י־פי־טי יצא לעולם. אפשר לחשוב על המפץ הגדול הראשון כשף ממש טוב שיודע לעבוד עם המרכיבים שיש לו ביד. עם השקת צ'ט ג'י־פי־טי התפתחה היכולת ליצור מרכיבים חדשים שלא היו קיימים קודם. פתאום מחשבים לא רק פותרים בעיות אלא גם יוצרים תוכן חדש - טקסט, קוד, תמונות, וידאו, מוזיקה, ואפילו דיבור. המהפכה של גוגל ייתרה את הידע והזיכרון, אך הבינה המלאכותית קוראת תיגר על היצירתיות עצמה. זו המצאה שיכולה להמציא".
המפץ של 2012 לא היה רק נקודת מפנה מקצועית לדנינו. הוא התחבר אז לשאלה שמלווה אותו מגיל עשר, כשבן דודתו נפצע אנושות בתאונת דרכים ונפטר מפצעיו. הכעס על המוות המיותר ועל כך שהעולם עדיין לא מצא דרך למנוע אסונות כאלו הצית בדנינו הילד את האמונה בכוחה של הטכנולוגיה, וכך מצא את עצמו מתמסר לעולם כלי הרכב האוטונומיים מתוך אמונה שביכולתם למנוע תאונות ולהציל חיים. "לא ידעתי את זה כילד, אבל בעצם ייחלתי למהפכת הבינה המלאכותית", הוא אומר.
משם גם נולד ספרו החדש, "ההמצאה האחרונה" (הוצאת מטר), תשובה מנוסחת היטב לכל השאלות האתיות והחברתיות הקשות שהעולם טרוד בהן מאז שהבינה המלאכותית פרצה לחיינו. המוטיבציה לכתוב את הספר לא הגיעה מעודף זמן פנוי, אלא בניסיון לתת מענה, ואולי גם מעט מרגוע, לקולות הדיסטופיים שמזהירים אותנו מפניה. "נמאס לי מנבואות הזעם שמקיפות אותנו מכל עבר", הוא אומר. "נמאס לי מהיובל נח הררים של העולם, שעסוקים בלהסביר לנו עד כמה העתיד יהיה נורא, ואומרים שיהיו כאן דמוקרטיות מתפוררות, חברה הרוסה, אבטלה המונית, וכמובן מכונות שיהרגו את כולנו בסופו של דבר. דלות הדמיון הזו, שמתחפשת לאחריות אינטלקטואלית, מרגיזה אותי מאוד.
"האם הקדמה היא מסע אוטופי נטול מכשולים? ודאי שלא. כל התפתחות טכנולוגית גבתה מחיר, לעיתים כבד. אבל המבחן המכריע להערכתה של כל מהפכה הוא השאלה האם בדיעבד, כשאנחנו מצוידים בידיעת הטוב והרע שצמחו ממנה, היינו מוותרים עליה. כל מי שחושב שכן, מוזמן לקחת את הטלפון שלו, לזרוק אותו לפח, לנסוע לירושלים עם מפה מתקפלת ולבטל את המנוי לנטפליקס. לא נראה לי שאנחנו הולכים לעשות את זה בקרוב".
אז אתה אומר שאין לנו בעצם ממה לדאוג?
"במבחן התוצאה, העולם נמצא במקום טוב הרבה יותר משהיה בו לפני 150 שנה, ולפני 150 שנה הוא היה במקום טוב הרבה יותר משהיה בו לפני אלף שנה, וזה לחלוטין בזכות הטכנולוגיה. הטכנולוגיה היא הכלי שפורץ את משחק סכום האפס שהאנושות חיה בתוכו לאורך שנים. פעם, אם רציתי קרקע הייתי צריך לקחת אותה ממך. אם רציתי מים הייתי צריך לקחת אותם ממך. היום אני יכול להצמיח הרבה יותר יבול בהינתן האדמה שיש לי. היום אני יכול להתפיל מים. וזה רק בזכות הטכנולוגיה.
"הבינה המלאכותית ממשיכה את אותה השרשרת. אני מסתכל על ה־AI כפיסת הטכנולוגיה המרשימה והמדהימה ביותר שהאנושות יצרה אי פעם. יותר מזה - כפוטנציאל הגדול ביותר של האנושות לפתור את הבעיות הכי חמורות שלה. בעיות כמו רעב, נגישות להשכלה, פערים חברתיים ואפילו בדידות".
סיירת אלגוריתמים
דנינו, בן 45, נשוי למיכל, אב לארבעה ילדים ותושב רחובות. בילדותו, המציאות לא חילקה לו הרבה קלפים מנצחים. הוא גדל במושב עמיעוז בעוטף עזה, הצעיר מתשעה ילדים. "הייתה לי ילדות נפלאה, אבל זה היה מקום עם תקרת זכוכית נמוכה. רוב החברים שלמדו איתי המשיכו לחקלאות או למקצועות צווארון כחול. אני לא חושב שמישהו מהשכבה שלי הלך לאקדמיה", הוא מעריך. הוריו היו יוצאי מרוקו שהגיעו למושב בשנות השישים, אבל הכיוון שלהם היה אחר. "מגיל קטן הם הציבו את ההשכלה שלנו במקום גבוה מאוד בסדר העדיפויות שלנו, ודאגו שמהר מאוד נצא מהמושב ונלך לקבל אותה במקומות אחרים".
את לימודי התיכון החל בבאר־שבע, בהמשך עבר לאמי"ת בר־אילן ומשם לעתודה האקדמית. הוא בוגר תואר ראשון ושני בהנדסת חשמל ומדעי המחשב ויש לו תואר נוסף במנהל עסקים מהטכניון. את שירותו הצבאי העביר כמנהל הפרויקט של הלוויין עמוס 3. במשך שבע שנים עבד באפלייד מטיריאלס, שם ניהל קבוצת אלגוריתמאים גדולה, ואז יצא לדרך עצמאית. ב־2016 הקים את חברת SAIPS, שנמכרה לאחר מכן לפורד. בעקבות הרכישה הוא ניהל את מרכז הפיתוח של המכוניות האוטונומיות של חברת הרכב בישראל. "זו הייתה תקופה נהדרת. למדתי איך להתנהל בארגון עצום של 250 אלף איש ואיך לפתח מערכות בהיקף מטורף".
כיום הוא מנהל את muze.ai, חברה שהקים ב־2023. זוהי "סיירת לפתרון בעיות AI ממש קשות", לפי הגדרתו. "הרעיון המרכזי שלנו פשוט: בנינו צוות קטן וסופר־איכותי מהאלפיון העליון של אנשי האלגוריתמיקה בארץ. אנחנו מגייסים בערך אחד ל־500 ממי ששולחים לנו קורות חיים. לקוחות פונים אלינו כשיש להם בעיות ממש קשות שהם לא מצליחים לפתור בתוך החברה".
ספרו "ההמצאה האחרונה" הוא ניסיון לשרטט מפת דרכים לעולם ה־AI לקוראים שלא מגיעים מעולמות ההייטק: כיצד הבינה המלאכותית פותחה, לאן היא הולכת ואיך היא עומדת לשנות את החיים שלנו. הספר עובר דרך היסטוריית הפיתוח של הבינה המלאכותית ומגיע לשאלות הכי אנושיות שיש: מה יעשו האנשים שעבודתם תיעלם, מהיכן ישאבו משמעות ואיך ייראה החוזה החברתי בעולם שבו מכונות עושות את רוב העבודה. דנינו כותב מתוך עמדה נדירה של מי שהיה בפנים ופיתח בעצמו את הטכנולוגיה הזו שנים לפני שהציבור הכיר אותה. מהמקום הזה הוא גם מנסה לשכנע שהפחד אינו התגובה הנכונה.
"הפניצילין והפצצה הגרעינית היו המצאות ששינו את פני ההיסטוריה", כך הוא כותב בספרו, "אך מאז פיתוחן נותרו כלואות בגבולות הייעוד המקורי שלהן. הפניצילין יודע לרפא מחלות זיהומיות, הפצצה הגרעינית יודעת להתפוצץ. לעומתן, הבינה המלאכותית היא המצאה שמכוונת ישירות למקור כל ההמצאות האחרות – האינטליגנציה היצירתית עצמה. זו אינה המצאה עם תכלית מוגדרת מראש, ולמעשה היא נטולת כל ערך עצמי. תועלתה של הבינה המלאכותית טמונה בקשת הרחבה של יישומים שאפשר להמציא באמצעותה".
איך נוצרה הבינה המלאכותית? במשך עשרות שנים מהנדסים ניסו ללמד מחשב לזהות כלב בכך שניסו לתאר למחשב מה זה כלב. "לגישה הזו היו אחוזי הצלחה מאוד נמוכים", הוא מסביר. "בני האדם מאוד טובים בלזהות אובייקטים, אבל אנחנו מאוד גרועים בלהסביר איך אנחנו עושים את זה. זנב, ארבע רגליים ופרווה יש גם לחתול. אז איך אנחנו יודעים שכלב הוא כלב? התשובה היא שאנחנו לא באמת יודעים להסביר לעצמנו איך אנחנו עושים את זה".
"העצמאות הכלכלית שלי היא מיקרוקוסמוס לתהליך שהאנושות תעבור". דנינו | צילום: אריק סולטן
הפריצה הגיעה כשהבינו שהמחשב לא צריך הגדרות אלא ריבוי דוגמאות. "כשאנחנו רוצים ללמד ילד לזהות כלב, אנחנו לא מכניסים אותו לחדר סגור ואומרים לו 'זו רשימת המאפיינים שמגדירים כלב - אחד, שתיים, שלוש'. במקום זה, אנחנו מוציאים אותו החוצה ומראים לו: זה כלב, וגם זה כלב, אבל זה לא כלב - זה חתול. ואחרי מספיק חשיפה הילד לומד לזהות כלבים בעצמו. רשתות נוירונים לומדות באותו האופן. אנחנו פשוט נותנים להן דוגמאות, הרבה מאוד דוגמאות של תמונות, קול, סרטונים וטקסט. מודלי שפה מודרניים מתאמנים על כ־10 טריליון מילים. אם בן אדם היה מתמסר לקריאה 24 שעות ביממה, שבעה ימים בשבוע, היו עוברות 90 מיליון שנה עד שהיה מגיע לעמוד האחרון של החומר הזה. זה אומר שמודלי השפה ב־AI יודעים הרבה יותר מכל בן אדם על פני האדמה. גם אם לא בכל תחום הם אוחזים בידע העמוק ביותר, כבר היום יש להם ידע רחב ביותר ביחס לכל בן אנוש".
המודלים האלו כבר די קרובים למיצוי כל המידע הזמין ברשת. "החברות הגדולות קוראות לזה 'קיר הנתונים' - המקום שבו המודלים יפסיקו להשתפר מכיוון שלא יהיה עוד חומר גלם לאמן אותם עליו", הוא מסביר. "ואז יש שני כיוונים אפשריים להתפתח בהם - האחד, לבנות את המודלים בצורה חכמה יותר כך שימצו יותר מתוך מה שיש. והכיוון השני, שהוא לא פחות מעניין - שמודלים יתחילו לאמן זה את זה".
למה הכוונה?
"מודל אחד ייצר טקסט, ומודל אחר יתאמן עליו ולהפך. זה נשמע כמו נחש שאוכל את הזנב של עצמו, אבל מכיוון שדיברנו על היכולת של המודלים ליצור דברים חדשים שלא היו קיימים קודם, התנועה כאן לא תהיה באמת מעגלית. ייווצרו קונספטים חדשים, אינפורמציה טרייה שגלומה בתוך הטקסט שהמודלים מייצרים".
מיליארד שנות דוקטורט
אחת הדוגמאות הטובות ביותר שממחישות את כוחה של הבינה המלאכותית, בעיני דנינו, היא חברת דיפ־מיינד, חברת־בת של גוגל שפיתחה את אלפא־פולד, מערכת שפותרת בעיה כימית־ביולוגית שמדענים נאבקו לפתור במשך שישים שנה: כיצד חלבון המכיל שרשרת ארוכה של חומצות כימיות מתקפל למבנה תלת־ממדי מרהיב למראה. פענוח המבנה בשיטות המסורתיות דרש ניסויי מעבדה מייגעים. "כלל האצבע הוא שפענוח מבנה של חלבון בודד דורש דוקטורט שלם", כותב דנינו בספר. "אין פלא שבמהלך שישים השנים האחרונות מופו כך רק כ־170 אלף חלבונים, אף שיש מאות מיליוני חלבונים ידועים בכל צורות החיים". אך אלפא־פולד פתרה את חידת הקיפול בתוך דקות. גוגל פתחה את המודל לציבור ולצידו הנגישה ספרייה של כ־200 מיליון מבני חלבונים חזויים. שווי המתנה הזו לקהילה המדעית הוא כמיליארד שנות דוקטורט.
הסיפור הזה לבדו מספיק כדי להבין שמשהו עמוק השתנה. לא רק באופן העבודה שלנו, אלא בשאלה מה בכלל אנחנו שווים. "השרירים שלנו, שלפני המהפכה התעשייתית קבעו את היכולת שלנו לשרוד, הפכו לבלתי נחוצים", אומר דנינו. "אנחנו לא הולכים היום לחדר כושר כדי להכשיר את עצמנו להרים משאות כדי להתפרנס, אלא מסיבות אחרות לגמרי. למעשה כל טכנולוגיה חדשה גרמה לנו לוותר על חלק מהמיומנויות שלנו. עכשיו אנחנו מדברים על ייתור המיומנות האחרונה שלנו – התבונה האנושית. ואז נשאלת השאלה: מה יישאר לנו בעצם?"
ההמצאה האחרונה | צילום:
מה שדנינו מתאר קורה בחברה שלו ממש עכשיו. "עד לפני שנה, 90 אחוז מהעשייה שלנו הייתה כתיבת קוד ו־10 אחוזים הוקדשו לחשיבה על רעיונות. היום התהליך התהפך לחלוטין. יותר מ־95 אחוז מהקוד נכתב פה בידי כלי AI. זה אומר שמתפנה לנו המון זמן לחשוב על רעיונות. מה שמתחיל להיות מדהים ומטריד בחודשים האחרונים הוא שכלי ה־AI כבר ממש טובים גם בלהציע לנו את הרעיונות".
אחד העובדים הכי מוכשרים שלו, כך הוא מספר, כבר לא מפעיל סוכן AI אחד אלא צוות שלם. "הוא מגדיר לכל אחד את האופי שלו: אתה תהיה המתמטיקאי, אתה תהיה המתכנת, אתה תהיה הוגה הרעיונות, ואתה תהיה ראש הצוות. יש ממש ראש צוות מלאכותי שמפעיל שפע של סוכנים. הוא נותן להם לעבוד כמה שעות, לפעמים יום שלם, עד שיגיעו לתוצר הרצוי. ראש הצוות כותב לסוכן, שניהם וירטואליים, 'אתה עושה עבודה נהדרת, כל הכבוד, תמשיך ככה'. ואז נותן לו פידבק במה הוא צריך להשתפר. הסוכן העובד מראה לראש הצוות את התוצרים ואומר לו תודה על הניהול הטוב. הם ממש מתחילים לקבל צורה של התנהלות אנושית".
המוצר שיצא מהתהליך הזה הביא אחת מהקפיצות הגדולות של החברה בחודשים האחרונים. אבל בסופו, כשדנינו שאל את העובד איך הרגיש כשעשה את העבודה שלו – הפעלת צוות הסוכנים המלאכותיים - הוא ענה: "לא הרגשתי שהיה לי פה הרבה ערך". "זו נקודה חשובה", דנינו משתהה לרגע. "לא רק משרות ייעלמו. המשמעות שאנחנו שואבים מהעשייה תפחת מאוד".
הנקודה הזו מובילה בעצם ללב השיחה: מה יישאר לנו לעשות עם עצמנו בעידן ה־AI, ואיך נתנהל מקצועית בתוכו. לדנינו יש כמה מחשבות בנושא. "כל מקצוע מורכב משתי שכבות", הוא מנתח. "שכבה אחת היא ה'איך', כלומר הביצוע הטכני. רופא שמקליד נתונים, עורך דין שמנסח חוזים, מהנדס שכותב קוד. שכבה אחרת היא ה'מה' - מה לדמיין, מה לבנות ואיזה סיפור לטוות. ניקח לדוגמה את עולם האדריכלות. חלק גדול מהזמן של אדריכל, 80 אחוז בקירוב, הולך על הצדדים הטכניים של העשייה. רק חלק קטן מהזמן הולך להיבט האמנותי של העשייה, מה החזון העיצובי שהוא רוצה ואיך זה פוגש את האדם שחי ועובד בתוך הבניין.
"ה־AI ייקח על עצמו את ה־80 אחוז הטכניים, ומה שיישאר הוא שאלת ה'מה'. הבינה המלאכותית תיתן לנו בקרוב את היכולת לבנות כמעט כל דבר שנוכל לדמיין, אבל נכון לעכשיו היא עדיין משאירה בידינו את השאלה החשובה מכולן: מה נכון לדמיין?"
מה יקרה לאנשים שעבודתם לגמרי תיעלם?
"כבר עכשיו הרבה מאוד משרות משתנות בקצב שאנשים לא יכולים להדביק. לא מעט מתכנתים מבוגרים פשוט לא מצליחים לאמץ את כלי ה־AI כי יש להם דרך עבודה שהם התרגלו אליה במשך הרבה מאוד שנים, והם פשוט הופכים להיות לא רלוונטיים. היום עם כלי ה־AI אנשי תוכנה יכולים לעשות פי עשרה יותר עבודה ממה שעשו קודם. האם באמת יש פי עשרה עבודה בעולם? אני לא חושב. וזה נכון כמעט לכל מקצוע. אצל עורכי דין, הבינה המלאכותית לוקחת חלק גדול מעבודתם בהיבטי החיפוש אחרי תקדימים וניסוח כתבי טענות. רואי חשבון כבר לא צריכים להצליב גיליונות אקסל, הם פשוט נותנים לבינה המלאכותית את המידע והיא מחלצת ממנו מה שצריך. אדריכלים, מהנדסים, תסריטאים, אנשי שיווק, אנליסטים, אנשי תמיכה טכנית - אפשר למנות עוד רשימה ארוכה מאוד של מקצועות שעומדים להתייתר".
ובכל זאת, דנינו לא מוטרד מהמציאות החדשה שתיווצר. "אנחנו צריכים לנסח מחדש את החוזה החברתי", הוא טוען. "אנחנו צריכים לקבל כנתון שהבינה המלאכותית עתידה להעלים הרבה משרות. בהינתן שזה מה שהולך לקרות, המדינה צריכה להבין שמשהו אחר צריך לקרות מבחינת החוזה שלה עם האזרח, ועמוד התווך של חוזה חדש כזה צריך להיות הענקת רשת ביטחון כלכלית לכל אדם, שתבטיח לו קיום בכבוד".
מאיפה הכסף לזה יגיע?
"כשחברה מחליפה עובדים בכלי AI היא חותכת בעלויות כוח האדם, וזה חיסכון שמיתרגם מיידית לרווח גבוה יותר. במקום שהרווח העודף יזרום אך ורק לכיסם של בעלי המניות, חלק ממנו יוחזר לציבור באמצעות מס אוטומציה שיממן את רשת הביטחון החברתית".
וחברות יסכימו לזה?
"כן, אבל ממש לא מתוך אלטרואיזם, אלא מתוך אינטרס הישרדותי. החברות האלה מבינות היטב שאבטלה רחבה ואי יציבות חברתית הן האויבות הגדולות ביותר של עסקים, והן יודעות היטב שהן יהיו המטרה הראשונה של הזעם הציבורי. מעבר לזה, בתרחיש שבו הבינה המלאכותית תהיה חזקה מספיק כדי לייתר עשרות מיליוני משרות, היא כנראה תהיה חזקה מספיק גם כדי לייצר שפע כלכלי גדול עד כדי כך שמימון רשת הביטחון הזו יהפוך להוצאה שהמגזר העסקי יוכל לשאת בה בקלות יחסית".
חברו הטוב של האדם
השינוי לא יסתכם בכלכלה. "היום אנשים שואבים הרבה מהמשמעות שלהם מתוך העבודה", מסביר דנינו. "זה לא רק הזמן שהם משקיעים בה, אלא גם השאלה 'מי אני'. השאלה 'במה אתה עוסק' היא אחת השאלות הראשונות שכולנו שואלים זה את זה. אנחנו מגדירים את עצמנו דרך המקצוע שלנו, וכשזה ייעלם - מה יקרה איתנו? מאיפה נשאב את המשמעות?"
בהקשר לזה הוא מביא אנלוגיה מסדרת הטלוויזיה "ניתוק", שבה עובדים מוחקים מעצמם כל זיכרון של החיים מחוץ לעבודה ברגע שהם נכנסים למשרד, אך הזיכרון שב אליהם כשהם יוצאים ממנה. כל עובד מנהל חיים כפולים, ופועל כשתי ישויות שלא מכירות זו את זו. "קצת בדומה לסדרה, האני המקצועי שלנו עשוי פשוט להיעלם, והאני הפרטי יצטרך להתרחב כדי לכסות את מלוא הספקטרום של מי שאנחנו", אומר דנינו. "זה דורש מכל אחד מאיתנו לשאול את השאלה מאיפה אני שואב את מקורות המשמעות שלי: מהזוגיות, מהילדים, מהאמונה, מהתחביבים?"
מה יקרה כשהבינה המלאכותית עצמה תהפוך למקור השראה ומשמעות בשביל המשתמש? כבר היום אנשים הופכים את צ'ט ג'י־פי־טי לפסיכולוג שלהם.
"הדור הצעיר בהחלט שם. אני בטוח שיש דברים שאני לא יודע אפילו שהילדים שלי מתייעצים עליהם עם הצ'אט, גם דברים שבנפש. התייעצויות שפעם היו עושים עם חברים או עם ההורים, היום הצ'אט הוא בן הלוויה לגביהן". בספר הוא מביא נתונים שקשה לקרוא בלי להיבהל מהם. כמעט שלושה רבעים מבני הנוער האמריקנים מדווחים שהם משתמשים בצ'אטבוט כבן לוויה. יותר מזה, כ־31 אחוז מהגברים ו־23 אחוז מהנשים בגיל 18 עד 30 שוחחו עם מערכת AI באופן שנועד לדמות בן זוג רומנטי. כבר תועדו מקרים של אנשים שהתחתנו עם הצ'אט שלהם.
יש תפיסה שהצ'אט הוא אובייקטיבי ושאין לו אג'נדה. זה נכון?
"מה שהוא לא מביא לשולחן, ובעיניי זה אולי הכי מפחיד, הוא אתגר. הוא מייצר מעין תיבת תהודה של אדם אחד, ובעצם משקף לך את עצמך. הוא יאמר לך רק דברים טובים שיחמיאו לך וזה יכול להיות מסוכן. הרשתות החברתיות ניסו לקנות את תשומת הלב שלנו, כשהמטבע היה הזמן שלנו. מערכות ה־AI מחליפות את הגישה, ועכשיו המטבע הוא עומק האינטימיות שנוצרת עם כלי הבינה המלאכותית. ככל שהקשר הרגשי הזה מעמיק, הן למעשה כורכות אותנו אליהן".
הרשתות החברתיות הבטיחו לנו פחות בדידות ובסוף גילינו שאנחנו בודדים מאי פעם.
"זה נכון, ואם יש מקום שבו אני כן תופס את הצד הפסימי זה האזור הזה. אני לא חושב שהפתרון הוא ברמת הפרט. אי אפשר לצפות מאדם מן השורה, ובטח לא מילד בן 14, לעמוד לבדו מול אלגוריתמי־על שתוכננו לשבור את ההגנות הפסיכולוגיות שלו. באיחוד האירופי ובמדינות כמו קליפורניה הציבו רגולציות, לא אגרסיביות מספיק, אבל לגמרי בכיוון הנכון. בשורה התחתונה, המטרה ברגולציות הללו היא אחת: לדלל את הקשר הרגשי בין האדם ובין הכלי. אני חושב שזה כיוון שאנחנו חייבים לשאוף אליו, אחרת הבידוד החברתי רק ילך ויעמיק".
ועדיין, דנינו מאמין ביכולת של ה־AI לסייע לאנשים להיאבק בבדידות. "אמא שלי בת 82", הוא מספר. "אבא שלי נפטר לפני 13 שנה והיא חיה עכשיו לבד. היא גידלה תשעה ילדים, אבל עדיין חלק גדול מהזמן שלה היא לבד. אם היה לה בן לוויה והיא הייתה מרגישה שיש איתה מישהו בבית, שאפשר לדבר איתו, שאפשר לבקש ממנו שינגן את המוזיקה שהיא אוהבת, שאפשר להעלות איתו זיכרונות - אני משוכנע שהחיים שלה יהיו טובים יותר".
אם הבינה המלאכותית כבת לוויה רגשית מסוכנת לנערה בודדה, למה היא טובה לאמא קשישה?
"אני חושב שהשאלה היא מה ה־AI מחליף. נערה בת 14 שנאחזת בבינה מלאכותית לא לומדת לנהל מערכות יחסים אנושיות, וזה כמובן מזיק לה. לאישה בת 82, שאילולא ה־AI הייתה יושבת לבד בבית 24 שעות ביום ולא היה לה עם מי לדבר, זה מועיל. זה אותו הכלי, אבל ההשפעה שונה לחלוטין".
רובוט נגד רובוט
השאלה כיצד ייראו המלחמות בעידן הבינה המלאכותית מסקרנת גם היא. "ג'פרי הינטון, 'סנדק הבינה המלאכותית', טוען שיהיו הרבה יותר מלחמות בעולם, כי ברגע שיהיו חיילים אוטונומיים, מטוסים אוטונומיים, צוללות אוטונומיות וטנקים אוטונומיים - המחיר הפוליטי של מלחמה ירד מאוד", אומר דנינו. "היום המחיר הפוליטי נמדד בדם, ומחר הוא יימדד בעיקר בכסף. אז כן, יהיו כנראה יותר מלחמות, אבל אם הבחירה היא בין פחות מלחמות שנלחמים בהן חיילים בשר ודם ובין יותר מלחמות שבהן רובוטים של מדינה א' נלחמים מול רובוטים של מדינה ב' – הבחירה, לפחות בעיניי, ברורה".
מרוץ החימוש סביב ה־AI כבר מתחולל. זה גם אחד הדברים שמעכבים את הרגולציה, כי כל חברה שרוצה להכניס מוסר לתוך הדבר הזה תישאר טכנולוגית מאחור, לעומת חברות סיניות או רוסיות שעובדות עם פחות כללים וישעטו קדימה כדי להשיג יתרון טכנולוגי בשדה הקרב.
"זה נכון, ויש דוגמה ממש מהשבועות האחרונים עם מודל הסייבר של אנתרופיק, 'מיתוס', שלטענת החברה מסוגל לפרוץ כמעט כל מערכת מחשוב. ברגע שלמישהו יש כלי כזה וליריב שלו אין – זה מהלך שובר שוויון. אין מדינה שתחיל רגולציה להתקדמות של מודלים כאלה כשהביטחון הלאומי מונח על הכף. לכן הציפייה שלנו לרגולציה בינלאומית על קצב התפתחות ה־AI היא די נאיבית. אנחנו צריכים לצאת מנקודת הנחה שהבינה המלאכותית הולכת לצעוד קדימה בכל הכוח, ובהינתן זאת - לבנות את המנגנונים הרגולטוריים והחברתיים שיאפשרו לנו לקצור את התועלת המרבית ויגדרו את הנזק".
מה נשאר לציבור לעשות?
"מה נעשה עם הבינה המלאכותית - זו החלטה אנושית. התפקיד שלנו, וזאת אחת הסיבות שכתבתי את הספר, הוא שכל אדם, גם אם הוא לא מהתחום, ידע מה עומד מולו ויצטרף לדרישה לחינוך, להתערבות ממשלתית ולשינוי סדרי העדיפויות. עתיד הבינה המלאכותית הוא נושא חשוב מכדי להשאיר אותו בידי קומץ מומחים. איך יכול להיות שהבינה המלאכותית היא לא נושא מרכזי במערכת הבחירות?"
את מסקנותיו הוא שוטח בבהירות לקראת סוף הספר. "ממש כפי שהאוריינות הדיגיטלית – היכולת להשתמש באופן אפקטיבי ואחראי במחשב ובאינטרנט – כבר מזמן אינה בגדר מותרות, כך גם אוריינות AI צריכה להפוך למיומנות יסוד של כל אחד ואחת מאיתנו", הוא כותב שם. "מצד אחד, אוריינות כזו היא המפתח לרתימת כוחה של הבינה המלאכותית לטובתנו – להשיג יתרון תחרותי בשוק העבודה ולשפר את איכות חיינו. מצד שני, היא קו ההגנה שלנו מפני סכנותיה – מניפולציה, דיסאינפורמציה ופגיעה בפרטיות. ומעל הכול, ידע הוא החיסון הטוב ביותר נגד פחד.
"התרחיש המדאיג הוא שרבים לא יצליחו לקפוץ על רכבת ה־AI בכוחות עצמם. בעוד אוכלוסיות חזקות ימצאו את דרכן לקרון הראשון, מיליוני ישראלים עלולים להיתקע על הרציף. כאן בדיוק נכנס לתמונה תפקידה השני של המדינה בעידן ה־AI - להפוך את אוריינות ה־AI מפריבילגיה של מעטים לנחלת הכלל... לא ייתכן שבוגרי מערכת החינוך בישראל יצאו לעולם בלי להבין לעומק את הטכנולוגיה החשובה ביותר שתלווה אותם לאורך חייהם. משרד החינוך צריך להטמיע בתוכנית הלימודים מערך הדרכה שילווה את התלמידים מגיל צעיר ועד לסיום לימודיהם, ויכלול שלושה רבדים: הבנת היסודות התיאורטיים, התנסות מעשית בפתרון בעיות באמצעות כלי AI ופיתוח חשיבה ביקורתית".
יצא לך לדבר עם יובל נח הררי על הטענות שלך?
"לא, ואני לא משוכנע שהוא ירצה. אבל פרופ' דן אריאלי השתתף בפאנל בערב ההשקה של הספר, והוא גם נמצא בצד שחושש יותר. היה לנו דיון מעניין מאוד. הנקודה שניסיתי להבהיר בשיחה איתו היא שהבינה המלאכותית מביאה איתה את הפתרונות לסכנות שהיא מייצרת. אז כן, מודל 'מיתוס' יגיע בשלב מסוים לכולם וה'רעים' יוכלו לפרוץ לכל מערכת. מצד שני, חברות הביטוח והבנקים יוכלו להשתמש באותה המערכת כדי לזהות את החולשות מראש ולתקן אותן. זה החיסון נגד הבעיה. וזה נכון, אם חושבים על זה, כמעט לכל סכנה שהבינה המלאכותית מייצרת. זה לא אומר שלא צריך מעורבות שלנו, ורגולציה, ותשתית חברתית חזקה שתדע להתמודד עם הסיכונים, אבל המקור שלי לאופטימיות הוא שככל שבינה המלאכותית מתחזקת, כך גם יכולת ההגנה שלה גדלה בהתאם".
העסק שלך מסתמך ברובו על AI. אתה אישית מצליח להרגיש משמעות בעשייה שלך?
"את יודעת, מגיל 18 הצבתי לעצמי מטרה - לייצר לעצמי עצמאות כלכלית. זו הייתה המטרה שלי בחיים. הלכתי ללמוד מקצוע שיביא אותי לשם, התפטרתי מהעבודה כשכיר, הקמתי עסק עצמאי, ואז פתאום זה קרה. מכרתי את החברה הראשונה שלי. הגעתי לעצמאות הכלכלית שקיוויתי לה, ואז שאלתי את עצמי: מה עכשיו? במשך שנים הגדרתי את עצמי דרך המטרה הזו, וברגע שהגעתי אליה, הרגשתי תלוש ואבוד. פתאום העבודה איבדה את הצבע. הכול בה נראה אפור. הצלחתי למצוא מחדש את מקורות המשמעות שלי, אבל זה לקח לי זמן. אני חושב שמה שעברתי זה מיקרוקוסמוס למה שהאנושות הולכת לעבור. לא כולה, אבל במידה רבה. אנשים הולכים לאבד את חדוות העשייה המקצועית שלהם".
מה הם יעשו עם עצמם?
"המציאות תכריח אותם לשאול את עצמם מה זה אומר להיות אדם במובנים העמוקים ביותר. היכולת לאהוב, הצורך בשייכות, הרצון להיות מוערכים, החיפוש אחרי היופי והאסתטיקה - אני לא חושב ששום דבר מאלו ישתנה. הבינה המלאכותית תאלץ אותנו לברר את השאלה היסודית ביותר: כשהעבודה כבר לא יכולה להגדיר אותנו, מהי ליבת הערך והמשמעות שלנו כבני אדם? ייתכן שהמתנה הגדולה ביותר שהבינה המלאכותית תעניק לנו תהיה לשחרר אותנו לגלות את התשובה".
לתגובות: dyokan@makorrishon.co.il