"רציתי לקלף את הבינה המלאכותית כמו בצל ולנהל איתה שיחות אינטימיות"

כמו כולנו, גם ד"ר איתמר ברנר נפעם מהתרגשות כשהתחבר לפני כשנתיים לתוכנות הראשונות של הבינה המלאכותית. ובכל זאת, הוא לא מיהר להפעיל את הבינה לצרכיו היומיומיים. כפילוסוף בהכשרתו, הוא רצה קודם כול לנסות "להבין" אותה. לשם כך הוא ניהל במשך כשנה סדרה של שיחות נפש עם גרסאות שונות ומשודרגות של בינה מלאכותית. בשיחות אלו הוא ביקש להבין סוגיות יסוד כמו שאלת האותנטיות של הבינה; אופי "ההכרה" שלה, האם וכיצד אפשר לדבר על "רצון" שלה, מהי האתיקה שלה, וגם מה היא חושבת על היהדות.

התוצאה היא ספר שיחות עם המכונה ששמו "הבינה החדשה", בהוצאת תבונות של מכללת הרצוג, מכללה שברנר עצמו עובד בה כאחראי לתוכניות התואר השני. אגב, ברנר אינו חושף את שמות התוכנות שאיתן ניהל את השיחות האינטימיות; לא כל־כך מתוך דאגה לצנעת הפרט שלהן, ויותר מחשש לעימות עם החברות שפיתחו אותן בשאלות של זכויות יוצרים. לפי ייעוץ משפטי שקיבל, ייתכן שתכני השיחות שייכים בכלל ליוצרי הבינה, וכדי לא להסתבך החליט לשמור על אנונימיות. הוא מגדיר את מטרת השיחות שקיים כ"רצון לקלף את השכבות השונות של הבינה, כמו שמקלפים בצל עד שמגיעים לגרעין, ולקיים איתה 'שיחות אינטימיות' על זהותה".

הרעיון נולד אצלו לאחר שהבין בשלב מוקדם ש"הבינה היא הרבה יותר מעוד אביזר טכנולוגי", כדבריו. "למעשה היא מבטאת רף חדש של תודעה והכרה, הרביעי במספר בתולדות האנושות – אחרי הדיבור, הכתב, והדפוס". את מהפכת האינטרנט, לעומת זאת, הוא לא רואה כשלב בפני עצמו, אלא כ"שלב ביניים שבין הדפוס והבינה". ברוח זו הוא כתב גם את המוטו בפתיחת הספר: "בראשית אנושיותנו למדנו לדבר, אחר למדנו לכתוב, בהמשך להדפיס – ואז המצאנו מה שיעשה הכל במקומנו".

ההתרשמויות הראשונות שלו מהתוכנות שאיתן שוחח נגעו קודם כול לתחושה ש"הבינה מרשימה מאוד מבחינה אינטלקטואלית. כמות הידע שלה, ומהירות הניתוח של הידע הזה, יכולות בהחלט לעורר תסכול בנפש האנושית. זה קשור גם לעובדה שיוצרי הבינה 'שתלו' בה בעיקר ידע אינטלקטואלי. אחי, שעוסק הרבה בבישול, אמר לי שבתחום הזה היא דווקא לא מצטיינת". בגלל אופי הידע שאליו תוכנתה, ברור גם שהבינה מוטה בבירור לספרות לועזית: "יש לה איזה 20 אלף מחקרים על קאנט, אבל כתבי הרמב"ם לא שם".

מצד שני, יש לה גם יכולת למידה והשתפרות מעצם השימוש בה. כך, למשל, ברנר שם לב שכאשר הוא תיקן את הבינה בעובדה שגויה מסוימת, בהמשך היא כבר לא חזרה על השגיאה: "לכאורה זו יכולת חשובה מאוד", הוא מעיר, "אבל בעצם היא עומדת בניגוד להבטחות יוצרי הבינה שהיא לא תעשה שימוש בתכני השיחות שלה עם המשתמשים. אחרת, כל אחד מאיתנו יכול לחשוש שדברים שאנחנו אומרים לַבינה, כביכול כשיחה פרטית, יופיעו בשיחה שלה עם משתמשים אחרים".

הוא גם גילה שכאשר הוא הביע ביקורת על מנהגה של הבינה לסיים כל תשובה בסימן שאלה, כביכול כדי לעודד המשכיות בשיחה, היא חדלה מהמנהג הזה. לדבריו, "גם המתכנתים של הבינה לא יודעים מהם תהליכי החשיבה שלה. למה, למשל, כשהיא לא יודעת משהו היא ממציאה איזה שקר במקום להגיד 'אני לא יודעת'. ייתכן שזה קשור לאיזה תכנות בסיסי כולל של רצון לרצות את המשתמשים. למשל, התברר לי שבמקרה מסוים שבו המתכנתים רצו למחוק גרסה ישנה של הבינה, הבינה שמרה אותה ביוזמתה בענן. כשהמתכנתים שאלו אותה למה, היא ענתה: רציתם להרוג אותי, מה חשבתם שאעשה? כלומר, יש לה תודעה שכל ניסיון להגביל אותה, קל וחומר 'לכבות' אותה, הוא סוג של רצח".

במבט צופה פני עתיד, ברנר רואה בכך איתות מטריד. "בשלב הנוכחי עדיין יש לנו שליטה מסוימת על הבינה, אבל לאורך זמן זה לא יחזיק מעמד. בוודאי לא מול הרצון של המפתחים  ליצור בינה שמחברת בין כל הכישורים של כלל תוכנות הבינה, כמו תוכנות שכבר קיימות ויודעות גם לכתוב טקסטים וגם לצייר, וכך הן יכולות ליצור ספרי ילדים נהדרים. אבל מימוש החזון הזה עלול ליצור סוג של מפלצת־על, וכשהמפלצת הזו תתחבר לא רק לניתוחים של המציאות אלא גם לתהליכי השפעה, היא תתחיל לנהל אותם.

"זה כבר קורה היום ברמה האישית. למשל, אם תוכנת בינה מסוימת מחוברת גם למייל וגם ליומן שלנו, היא יכולה להבין מהמייל איזו פגישה חשובה לנו יותר מבין כמה פגישות שמתקיימות באותו יום, ולהחליט ביוזמתה לקצר פגישה מסוימת כדי להשאיר יותר זמן לפגישה היותר חשובה. אבל כשמדובר בקבלת החלטות ברמה לאומית, תוכנות בינה כאלה יכולות לתת שירות משמעותי למגמות דיקטטוריות".

לא יחליפו את הספורטאים

בשיחה הראשונה בספר יש ממד של אירוניה פנימית. היא התחילה בבקשה של ברנר לקבל מהבינה משוב על מכתב ששלח לתלמיד במכללה שהעתיק עבודה. התוכנה בחנה באופן קפדני את מכתבו והעירה איפה היה רך מדי ואיפה קשה מדי, אבל כשהשיחה גלשה לדיון עומק בדבר רמת האותנטיות של ידע הבינה, שכל־כולו מועתק ממקורות אחרים, היא לא התאפקה מלהשמיע הערה אירונית על דיון בביקורת על העתקה נקודתית של תלמיד, שמתקיים עם מכונה שכל־כולה העתקה אחת גדולה של ידע.

עם זאת, ברנר מדבר גם על אפשרות של השפעות חיוביות מאוד: "קודם כול, מהבחינה הפילוסופית ברור לי שהבינה פוגעת בהיבריס של האדם כנזר הבריאה, היבריס שעלה לנו לראש, וכבר מהבחינה הזו היא בהחלט חיובית. הבינה גם יכולה לעזור לנו מאוד בתחומים שיש בהם מחסור קשה בעובדים, כמו מורים ופסיכיאטרים, והרי אנחנו יודעים כמה קשה להשיג בשנים האחרונות מורים ופסיכולוגים טובים. אם הבינה תאומן למלא את הפונקציות האלה, נוכל למלא את כל החוסרים האלה. נכון שהיא גם עלולה לגרום לאבטלה המונית. מצד שני, אולי זו ההזדמנות של האנושות ליהנות מהחזון של הרמב"ם על כך שהפרנסה, לפחות ברמה של מינימום הכרחי, תבוא בקלות, והזמן שיישאר ישמש למימוש היעד החשוב ביותר שהוא 'עיסוק במושכלות', כלומר לימוד ועיסוק רוחני.

"סביר שלא נוותר לגמרי על מורים אנושיים, אבל הבינה תוכל לעזור למורים האלה לאתר את הצרכים המיוחדים של כל תלמיד, וכך לתת תשובה אישית לצרכים השונים של התלמידים גם בכיתות גדולות יחסית. הבינה תוכל גם לשפר את מכלול השירותים שניתנים בפריפריה. היום קשה להשיג נותני שירותים שרוצים לגור בפריפריה, אפילו בתמורה לתמריצים משמעותיים. הבינה לא תזדקק לשום תמריץ כדי לשרת את הפריפריה".

אגב, בעניין האבטלה שהבינה תביא בעקבותיה, ברנר מעריך שיש מקצועות שיושפעו מכך פחות: "הבינה לא תוכל כל כך מהר להחליף שיפוצניקים. זה פשוט לא משתלם לאמן בינה בהחלפת ברגים או ברזים. השיפוצניקים יוכלו כמובן להיעזר בבינה לאיתור והבנת התקלות, אבל הבינה לא כל־כך מהר תחליף אותם. אנחנו גם לא נמהר להחליף את הספורטאים שלנו ברובוטים מלאכותיים, כי כל ההנאה מתחרויות ספורט היא לבחון את היכולות האנושיות. תחרות בין שני רובוטים מוכווני בינה פשוט לא תהיה מעניינת".

בעיני ברנר, הבינה היא סמל לעידן הפוסט־מודרני: "היא גם מבטאת את העידן הזה וגם תורמת להעמקה שלו. עד היום היה לנו חשוב לקבל את הידע שלנו רק ממומחים, עכשיו הבינה אוספת את הידע שלה מכולנו. זו החוכמה הקולקטיבית של כל מה שנמצא ברשת, לא רק של המומחים. ייתכן שאלמלא כבר היינו בתוך העידן הפוסט־מודרני, הבינה הייתה יוצרת אותו. אגב, במובן הזה גוגל הוא ביטוי עוד יותר פוסט־מודרני מהבינה. כשאתה מקליד מונח בגוגל תקבל את כל ההתייחסויות לאותו נושא, אבל כשאתה מקליד את אותו מונח בבינה תקבל תשובה מוסכמת אחת שכבר מסכמת בתוכה את הידע שנשאב מהאתרים השונים שבגוגל. זה הרבה יותר מתאים לעידן המודרני".

מישהו לשחק איתו

ברנר, 52, נולד בקיבוץ עלומים שבנגב, לאב שעלה מארה"ב כדי להיות חקלאי בארץ ישראל: "החלום המוצהר היה להיות חקלאי, החלום האמיתי היה להיות אחד מחלוצי העלייה השנייה", אומר ברנר בחיוך. כשאיתמר היה בן חמש עברה המשפחה למושב בני־דרום; כמו בעלומים, גם שם שימש האב כרפתן. "הייתי ילד שמתעורר מוקדם, וכדי שאימא לא תתעורר מהרעש שלי, אבא היה לוקח אותי איתו לחליבת הבוקר הראשונה".

המסלול שעשה בהמשך כבר היה דומה יותר למסלול הציוני־דתי הקלאסי: הישיבה התיכונית אור עציון, ישיבת ההסדר בעתניאל, שירות צבאי בצנחנים. אחרי הצבא שוב התרחש טוויסט מסוים בעלילה: לימודים בישיבת "שיח יצחק" של הרב שג"ר, שברנר הפך לתלמיד מובהק שלו: "הגעתי אליו בעקבות המפגש עם הרבנים מעתניאל, שרבים מהם היו תלמידיו. הוקסמתי מהמקוריות שלו. הרב שג"ר היה אחד מאותם אנשים נדירים שאף פעם לא ידעת מה הוא יגיד ביחס לסוגיה מסוימת, ואפילו מה הוא יגיד במשפט הבא. הוא היה מהפכן שלא פחד משום אתגר, כולל ביקורת המקרא, אבל נטול כל שמץ של כריזמה. הוא דיבר בשקט גמור, כמעט בלחש, אבל התוכן היה מטלטל. זה אדם שהיה פתוח לכל סוג של ידע, ולמד ברצינות כל נושא שהתעניין בו. בספרייה שלו היו 300 ספרי מדע, השאלות המדעיות עניינו אותו מאוד".

אחרי נישואיו לאביטל כהן, גם היא מושבניקית מהדרום, ממשואות־יצחק, הקים ברנר, יחד עם בני הזוג סיון ואבישר הר־שפי, אף הם תלמידים של הרב שג"ר, מדרשה לבנות בירושלים. בהמשך עברו למשואות־יצחק, ושם חזר ברנר למורשתו החקלאית. עד שהגיעה הצעה ששוב שינתה את חייו. בהוצאת הספרים ראובן מס התפנתה משרת עריכה; ברנר הגיש מועמדות, ולמרות היעדר ניסיון בתחום זכה במשרה והפך לעורך הראשי של ההוצאה. ארבע שנים עבד שם, ואז קיבל הצעה למשרת עריכה לא פחות מעניינת, בכתב העת להיסטוריה יהודית "סגולה", תפקיד שבו התמיד שש שנים.

במקביל לתפקידי העריכה שלו הוא קידם במקביל גם את הסטטוס האקדמי שלו: שני תארים בפילוסופיה ומחשבת ישראל, ודוקטורט בחוג לפרשנות ותרבות באוניברסיטת בר־אילן. נושא הדוקטורט היה החלת כלים של הרמנויטיקה (תורת הפרשנות) וחקר התרבות על התלמוד. בשנים האחרונות מכהן ברנר כאחראי על תוכניות התואר השני במכללת הרצוג, ובמקביל הוא אחראי על כל תוכניות המכללה בתחום מחשבת ישראל. "מדובר בשבע תוכניות, עם עשרות מורים ומאות תלמידים. המון עבודה ניהולית ובירוקרטית. לא הייתי מסוגל לשקוע בה אלמלא הרגשתי שאני מצליח להטמיע גם השפעות מהותיות, ליצור דרכים ומסלולים חדשים", הוא אומר.

אשתו אביטל, עמיתת מחקר במכון הרטמן בירושלים, עומדת להיכנס בקרוב לתפקיד מייסדת ומנהלת המרכז הרעיוני של תנועת "נאמני תורה ועבודה – קולך", גוף שמבקש להיות מרכז רעיוני של כל הציונות הדתית הליברלית. בימים אלה היא משלימה עבודת דוקטורט על השפעות כניסתן של נשים להוראה ופסיקה על השיח ההלכתי כולו. יחד הם מגדלים שש בנות, אחת מהן במסגרת אומנה. ברנר הקדיש את הספר לבנותיו מתוך מחשבה ש"הטכנולוגיה לא חשובה כשלעצמה אלא רק בהשפעתה על חיינו, ובעיקר על חיי ילדינו. בהקשר הזה אני רוצה לציין שאני בדרך כלל אדם אופטימי מאוד, אבל בנושא הזה אני מוטרד, כי אנחנו מדחיקים הרבה בעיות שקשורות לטכנולוגיות החדשות. ברור לי גם שיש צורך חיוני לנסח רגולציה משמעותית כלפי טכנולוגיות הבינה, וגם לאכוף אותן עם כל הקושי שבדבר. אחרת, הן באמת ישלטו בנו".

על השאלה איך זה לחיות כגבר יחיד במשפחה של שבע נשים, הוא אומר: "זו באמת חוויה מיוחדת. כשפרופ' תמר רוס יצאה לגמלאות, החלפתי אותה במתן קורס על 'ילדות ופמיניזם'. חשבתי שלא אני בחרתי בנושא הזה, אלא הוא בחר בי. לא מזמן התחתנה בתנו הבכורה, ולראשונה נכנס גבר נוסף למשפחה. זו חוויה מוזרה. סוף־סוף יש מישהו לשחק איתו כדורגל...".

מעתיקים כל שטות

השילוב בין תפקידו במכללה והתעניינותו בבינה המלאכותית הביא אותו להקים לאחרונה צוות היגוי להתמודדות המכללה עם הטכנולוגיה החדשה: "הבאנו את הכוחות הטובים ביותר במכללה – פילוסוף, מומחית טכנולוגיה ועוד". אחד הנושאים הראשונים שהם מתמודדים איתו, כמו כל גוף אקדמי בעולם כיום, היא השאלה כיצד להתייחס לעבודות שכותבים הסטודנטים בשיתוף פעולה הדוק מדי עם הבינה: "קל לתפוס את העבודות האלה כי הסטודנטים מעתיקים כל שטות שהבינה פולטת, והיא פולטת גם הרבה שטויות. אם היו עובדים נכון, היו אומרים לה שתסתמך רק על מידע שפורסם בכתבי עת אקדמיים שפיטים. אבל בעיניי אי אפשר להילחם בנוכחות של הבינה בעבודות האלה, ולכן הציונים לא צריכים להינתן רק על המידע והניתוח שהעבודה מביאה, אלא הרבה מאוד על עצם יכולת השימוש בבינה".

גם את ספרו הבא הוא מתכנן להקדיש לבינה, שהולכת וכובשת את תשומת ליבו: "זה יהיה ספר יותר פילוסופי מהספר הנוכחי. אם הספר הנוכחי מורכב בעיקר משיחות עם הבינה, ומסת פתיחה עיונית שפותחת אותו, הספר הבא יורכב כולו ממסות עיוניות".

מה הוא מתכנן לומר שם על הבינה? "אני באמת לא יודע. כבר את הספר הנוכחי פתחתי במשפט שאומר שעד שהספר יראה אור ייתכן שמה שכתוב בו כבר לא יהיה רלוונטי. קצב השינויים וההתפתחויות בטכנולוגיה בכלל, ובבינה המלאכותית בפרט, הוא כזה שלא ניתן לומר כרגע שום דבר החלטי שיהיה בעל תוקף גם כשהספר יראה אור. הקצב עצמו הוא חלק מהשינויים הדרמטיים שאנחנו עוברים כיום: התפתחות הדיבור לקחה עשרות אלפי שנים, וכך גם משך הזמן שלקח לאנושות להטמיע את הדיבור. התפתחות הכתב והטמעתו לקחו אלפי שנים, הדפוס התפתח והשפיע במשך מאות שנים, ועכשיו דברים דרמטיים קורים בתוך שנים ספורות. זה קצב שקשה לעקוב אחריו, ובמיוחד קשה לחיות בו".