האפיפיור ליאו ה־14 פרסם השבוע את ההצהרה המפורטת והחשובה ביותר של הכנסייה הקתולית בנושא בינה מלאכותית יוצרת עד כה, בדמות אנציקליקה – ההוראה הגבוהה והסמכותית ביותר שאפיפיור יכול לפרסם – המשווה את שאיפותיה משולחות הרסן של תעשיית הטכנולוגיה העולמית לבוני מגדל בבל המקראיים.
המסמך, שדורש "לנטרל" את הטכנולוגיה המתקדמת במהירות לפני שתדרדר את כבוד האדם לבלי שוב, היא רגע של התנגשות היסטורית, ימי־ביניימית כמעט, בין מוסד האפיפיורות העתיק לבין הטיטנים המודרניים של עמק הסיליקון.
הטקסט המפורט, בן 42,300 מילים, שכותרתו מגניפיקה הומניטס (בלטינית "אנושות מפוארת"), הוא האנציקליקה האפיפיורית הראשונה המוקדשת לנושא טכנולוגי מודרני. האפיפיור ליאו חתם על המסמך בבזיליקת פטרוס הקדוש ב־15 במאי – 135 שנים בדיוק לאחר שקודמו האפיפיור ליאו ה־13 פרסם את המסמך הנודע המכונה ררום נוברום, האנציקליקה משנת 1891 שעסקה במשברי העבודה והניצול במהפכה התעשייתית.
הכי מעניין
האנציקליקה נשלחה לבישופים הקתולים בכל העולם, ומשמשת כמסגרת מוסרית מחייבת ל־1.4 מיליארד חברי הכנסייה. בכך שבחר להתמקד דווקא בבינה המלאכותית כנושא האנציקליקה הראשונה שלו מאז בחירתו לאפיפיורות במאי 2025, ליאו הפך דיון טכנולוגי חילוני למנדט תיאולוגי ומוסרי עמוק – וכך הוא מספר קצת יותר על הכוונות שלו לתקופתו כראש הכנסייה הקתולית.
האפיפיור ליאו ה־14 | צילום: Tiziana FABI / AFP
כאמור, המטאפורה המרכזית של האנציקליקה נשענת במידה רבה על סיפור מגדל בבל שבספר בראשית. האפיפיור משתמש בו כדי להזהיר מפני הנטיות ההומוגניות של הבינה המלאכותית והיוהרה הטמונה באמונה שמערכות מעשה ידי אדם יכולות להחליף אמיתות מוסריות ורוחניות עמוקות. במסמך הזהיר האפיפיור שבינה מלאכותית "שוחקת את שיקול הדעת האנושי" על ידי מתן תשובות מיידיות ונטולות חיכוך הפוגמות ביצירתיות, בכושר ההבחנה ובסבלנות – תכונות הנדרשות כולן לחיפוש האמת.
אולם ליאו שמר את ביקורתו החדה ביותר למגמה הגוברת של אנשים שפונים לבינה המלאכותית היוצרת לצורך תמיכה רגשית, חברוּת או הדרכה רוחנית. בינה מלאכותית "מדמה טיפול ללא קשר", הוא מזהיר, וטוען שמשתמשים עלולים בקלות לבלבל בין אמפתיה מלאכותית לקשר אמיתי. אלגוריתם שאינו מסוגל לחוות כאב לעולם לא יוכל להציע ריפוי אמיתי.
מעבר להשפעות הפסיכולוגיות, מגניפיקה הומניטס מגנה בתוקף את מה שהאפיפיור טוען שהן "צורות חדשות של עבדות" הקשורות לכלכלה הדיגיטלית. בעוד שמנהלים המשתמשים בטכנולוגיה משבחים את יעילות האלגוריתמים שלהם, האנציקליקה מצביעה ישירות על העלות האנושית הטמונה לכאורה בהפעלתם: פועלים במדינות מתפתחות שמתייגים נתונים בשכר מינימלי, וילדים כורים מינרלים נדירים בתנאים מסוכנים. "גופיהם של אנשים אלה צולקו, נפצעו ונשחקו כדי שזרימת החישוב תוכל להימשך ללא הפרעה", כתב האפיפיור.
הצגת האנציקליקה באולם הסינוד בוותיקן כללה תגובה רשמית מצד עמק הסיליקון. נציג חברות הטכנולוגיה היה כריסטופר אולה, מייסד שותף של ענקית הבינה המלאכותית האמריקנית אנתרופיק – שמפתחת את מנוע קלוד.
בתגובתו הודה אולה שמדעני מחשב לבדם אינם יכולים להגדיר את הגבולות המוסריים של הבינה המלאכותית, משום שמפתחים פועלים בתוך "מערכת של תמריצים ואילוצים שלפעמים יכולים להתנגש עם עשיית הדבר הנכון". בין הסיבות לכך מנה אולה לחצים מסחריים, גיאופוליטיקה, גאווה ושאפתנות. "אנחנו זקוקים למבקרים בעלי ידע שיגידו למעבדות מתי אנחנו נכשלים", אמר אולה לקהל, ובירך על התערבות הכנסייה.
האנציקליקה מתייחסת גם לזירה הגיאופוליטית, ומשמיעה אזעקה מפני שילוב הבינה המלאכותית במערכות צבאיות ו"נורמליזציה של מלחמה", לכאורה. במסמך הכריז האפיפיור כי "אסור להפקיד החלטות קטלניות" בידי מכונות, ודרש התערבות דחופה. "אנו נדרשים כעת לבטל את הפיכתה של הבינה המלאכותית לנשק, לשחרר אותה מסוג ההיגיון שהופך אותה לכלי של שליטה, הדרה ומוות", קבע האפיפיור, וקרא ל"מסגרות משפטיות חזקות, פיקוח עצמאי, משתמשים מושכלים ומערכת פוליטית שאינה מתנערת מאחריותה".
מבחינה פוליטית, במסמך נרשמה התנגדות לשליטה המונופוליסטית בתשתית הבינה המלאכותית. בהכרה בכך שבינה מלאכותית יכולה להיות כלי יקר ערך, האפיפיור ליאו הזהיר כי ללא פיקוח, "השולטים בבינה מלאכותית יכפו את חזונם המוסרי, שיהפוך לתשתית הבלתי נראית של מערכות אלה". מסקנתו היא ש"בינה מלאכותית מוסרית יותר אינה מספיקה אם המוסר הזה נקבע בידי מעטים".