יש הרבה דיסטופיה בשיח על בינה מלאכותית. ובניגוד לדיסטופיות קלאסיות הנשמעות לרוב מפיהם של חובבי תיאוריות קונספירציה הזויים, בתחום הזה גדולי המפחידים הם ראשי התעשייה בעמק הסיליקון. בתיאורים שלהם מככבת סופר־אינטליגנציה, חכמה מאיתנו לאין שיעור, שיום אחד תקום פה ותיטול את ההגה. הדימוי השגור דרמטי: מחשבים שמשתלטים על בני אדם, אלגוריתמים שמנהלים את חיינו, תודעה מלאכותית שמחליפה את האנושית.
אבל ההשתלטות לא חייבת להיראות כמו מרד של מכונות. היא יכולה להופיע במכתב מנומק היטב, חתום בידי רשות ציבורית. טקסט משפטי שמפנה לפסקי דין שלא נכתבו ולנהלים שלא התקיימו. עולם שלם של קביעות שרירותיות שנבנו על יסודות של בדיה, מה שהמקובלים כינו "רקיעין דשווא" – קליפות של משמעות, מבנים ללא קשר למציאות.
התיק שהגיע אל שולחנו של השופט נעם סולברג עסק באב גרוש בהורות משותפת לבן בחינוך מיוחד. האב שכר דירה במרחק 7 ק"מ מבית הספר של הילד, ודרש זכאות להסעה עירונית על בסיס חוזר מנכ"ל משרד החינוך, הקובע תבחינים לאישורי הסעה לילדים של הורים גרושים. עיריית רמת־גן השיבה שהוא לא זכאי להסעה מאחר שמקום המגורים של הבן רשום אצל האם.
הכי מעניין
האב הגיש עתירה מנהלית, והעירייה הגישה כתב תשובה הכולל אסמכתאות משפטיות. אממה, מהר מאוד התברר שכל האסמכתאות שהעירייה הביאה מצוצות מהאצבע. מישהו בייעוץ המשפטי של עיריית רמת־גן ישב וניסח מסמך באמצעות בינה מלאכותית שיצרה מקורות יש מאין, לרבות ציטוטים מחוזר מנכ"ל ושלושה פסקי דין תקדימיים. העירייה הסכימה לבסוף להעניק זכאות להסעה אולם סירבה לשלם לאב הוצאות משפט, וזה ערער לעליון.
"לא עצם השימוש בבינה מלאכותית הוא הפסול, אלא השימוש ללא בקרה", מתריע סולברג. "כאשר האזרח מקבל מרשות מנהלית החלטה הנראית לכאורה מנומקת, אין ביכולתו להרהר אחריה ולגלות כי אותם נימוקים אינם אלא פרי דמיונה של מערכת בינה מלאכותית". בפועל, "במרבית המקרים האזרח ישלים עימה, אף מבלי לדעת שנעשה לו עוול".
עוד כתבות בנושא
העותר קיבל החזר הוצאות בגובה 30 אלף שקלים, אבל נראה שהבעיה עוד תעסיק אותנו לא מעט בעתיד. הדיסטופיה המנהלית לא צומחת מרוע מתוכנן או מקונספירציה טכנולוגית, אלא ממשהו בנאלי הרבה יותר – עייפות של פקידים שמחפשים קיצורי דרך. עובדי מדינה שרק רוצים לסיים את התיק וללכת הביתה.
זוהי הדיסטופיה החדשה. לא צריך שמכונות זדוניות יחליפו את בני האדם, מספיק שבני האדם יוותרו על שיקול הדעת שלהם ויפקידו אותו בידי המכונות. מספיק שפקידים עובדי מדינה יחתמו על החלטות בלי לקרוא עד הסוף, בלי לבדוק, בלי לשאול אם זה בכלל נכון. כי כשהשקר עטוף בלוגו רשמי ובשפה משפטית מהוקצעת, לאזרח הקטן אין כלים להתמודד. לרוב הוא לא ידע בכלל שהוטעה, לא יבין שנעשה לו עוול. כמה אנשים היו משקיעים אנרגיה בבדיקה מעמיקה של תשובת העירייה כדי לגלות שהיא סובבה אותם בכחש?