אם תבקשו מצ'אט של בינה מלאכותית לבחור מספר אקראי, ברוב מוחלט של המקרים הוא יבחר את המספר 7. זה מפתיע כי היינו מצפים שבחירת מספר אקראי תהיה פונקציה די בסיסית לבינה מלאכותית שכבר מסוגלת לכתוב תוכנות שלמות. אבל מתברר שבמקום לחשוב בעצמה על מספר, היא מנסה לתת את התשובה הנפוצה ביותר שהיא מוצאת ברשת ובאינספור תמלילי שיחה שהוזנו אליה בעבר, והתשובה הזאת היא המספר 7.
הדף שבו קראתי על התופעה הזאת ("בינה מלאכותית – חדשות ועדכונים") חתם את התיאור באזהרה על היחס למודלים של שפה: אל תייחסו להם אישיות, אל תשאלו לדעתם, אל תראו בתשובתם דעה מקצועית. הם בסך הכול מחשבים סטטיסטית איזו מילה הכי מסתבר שתצוץ עכשיו.
החלק המעניין בסיפור הוא שבינה מלאכותית רק מחזקת תופעה קיימת, המכונה במחקר "blue-seven", ולפיה כל חברה נוטה לתשובות אחידות מסוימות כשמבקשים מחבריה לבחור מספר או צבע אקראי. ומכיוון שבארצות צפון אמריקה הנטייה היא לבחור במספר 7 ובצבע הכחול, זכתה התופעה לשמה, ומנועי הבינה שהתאמנו על חומרים מן המדינות האלו אימצו את אותם ההרגלים. כך האחידות מלמדת לא רק על הבינה המלאכותית שאינה מצליחה לחקות חשיבה אנושית עצמאית, אלא היא מלמדת משהו עלינו. אנחנו אוהבים לדמיין שבחירותינו עולות בספונטניות מתוכנו, אף שהתודעה האנושית ספוגה באמונות חברתיות ובהרגלים תרבותיים ופועלת כמו מודל שפה מסונכרן אחד גדול.
הכי מעניין
סיפור של אייזיק אסימוב מתאר עולם עתידי רחוק לזמנו, שבו זכות ההצבעה תתנקז לבן אדם אחד. מצביע אחד בלבד, בסיפור קוראים לו נורמן, יקום בבוקר הבחירות ויענה על סדרה ארוכה של שאלות, ומהן תחושב באופן אוטומטי זהות המנצח.
השתלשלות העניינים בסיפור של אסימוב מתחילה כשהמחשבים הצליחו לזהות את תוצאות הבחירות הסופיות לפי מדגמים הולכים וקטנים. התברר שאם סופרים קלפי בשכונה מסוימת באריזונה, ועוד אחת מאוניברסיטה מסוימת בניו־יורק, וכן הלאה, אפשר להעריך באמצעות כמה אלפי קולות את רצון האומה כולה. וככל שהשתכללו המודלים הם הגיעו למצב שבו אפשר לאתר אדם אחד שכאשר יישאל סדרה של שאלות מעמיקות, יהיה אפשר להגיע לאותה תוצאה.
הבחינה צריכה להיות מדוקדקת, מסבירים לנורמן כשהוא מגיע למרכז ההצבעה. אם למשל נשאל מה דעתך על בית הספר של הבת שלך, לא נסתפק רק בתשובה המילולית, "אני חושב שהוא צפוף", אלא נמדוד את לחץ הדם וההורמונים ובלוטות הזיעה, וכך יוכל המחשב לשפוט בדיוק עד כמה העניין חשוב לך. הוא יבין את רגשותיך טוב יותר ממך עצמך.
המחשב אינו מבקש להחליף את האדם. להפך. התהליך מבוסס על הנחה שלפיה רצון האזרחים כולם נבנה ממה שאזרחים אחרים עושים ואומרים, מה שעושים להם ומה שהם עושים לאחרים, ובסופו של דבר מתעצבת תודעה כוללת, ואפשר לעמוד עליה מתוך בחינה מעמיקה של מוח אחד בלבד.
לכן פוליטיקאים ממשיכים בקמפיינים כרגיל, וכמותם גם רשתות התקשורת ומכוני הסקרים. כל שלט על המרפסת וכל תשדיר ברדיו מזיזים במשהו את אותה תודעה ציבורית, ובדרכים עקלקלות היא תתגלם בסוף בתשובותיו של נורמן.
וכמו בסיפור גם בעולם הממשי. כל שיחת חולין על המרפסת, כל דיון סוער בסעודת שבת, יתגלגלו לתנודות קלות ברשת, והן שישפיעו על נוסח התגובות לפוסטים ולציוצים, ובסופו של דבר גם על הפלט של מנועי הבינות המלאכותיות. חכמינו אמרו שאפילו שיחה קלה שבין איש לאשתו אדם עתיד ליתן עליה דין וחשבון ביום הדין. גם היא מצטרפת לאוצר הדיבורים, גם היא נותנת את הטון שלה ברעש הכולל.
מכאן האתגר העמוק שהפרגוד העוטף את קלפי הבחירות מציב. מלבד העיקרון הדמוקרטי של החשאיות הוא דורש ממני להיפרד לרגע מאותה בינה ציבורית כוללת. להתבונן עליה בריחוק, לבחון מה ספגתי ממנה ואילו רישומים האישיות הפרטית שלי מבקשת להטמיע בתוכה. כמו הכוהן הגדול ביום הכיפורים, לטבול במקווה העצמיות, בטרם אשוב להיות אחד מן העדה בהיכל, אחד מן העצים ביער.
לעוד טורים של הרב אברהם סתיו
