יותר מ־700 מדענים, דמויות פוליטיות וסלבריטאים, בהם הנסיך הארי, ריצ׳רד ברנסון וסטיב באנון, קראו היום (רביעי) להפסיק את פיתוחה של בינה מלאכותית היכולה לעלות על יכולות האדם.
"היוזמה קוראת לאיסור על פיתוח תבונת-על (superintelligence) עד שהטכנולוגיה תהיה בטוחה ונשלטת באופן מהימן, ותזכה להסכמה ציבורית", נכתב במכתב פתוח שפרסם מכון Future of Life, עמותה אמריקנית הפועלת נגד הסכנות שב־AI.
עוד כתבות בנושא
בין החותמים: "סנדק ה־AI" וחתן פרס נובל לפיזיקה לשנת 2024 ג׳פרי הינטון; פרופסור למדעי המחשב באוניברסיטת קליפורניה בברקלי סטיוארט ראסל; והחוקר המצוטט ביותר בתחום ה־AI יושוע בנג׳יו מאוניברסיטת מונטריאול.
הכי מעניין
חתמו גם שורה של דמויות ציבוריות נוספות: המיליארדר, מייסד קבוצת וירג׳ין ריצ׳רד ברנסון, שותף־מייסד אפל סטיב ווזניאק, לשעבר יועצו של נשיא ארה"ב דונלד טראמפ סטיב באנון, ויועצת הביטחון הלאומי של הנשיא לשעבר ברק אובמה, סוזן רייס. היוזמה זוכה גם לתמיכתו של מומחה ה־AI של הוותיקן פאולו בננטי, וכן של סלבריטאים כמו הנסיך הארי ורעייתו מייגן, והזמר האמריקאי will.i.am.
הנסיך הארי | צילום: Suzanne Plunkett / POOL / AFP
מרבית מפתחי ה־AI הגדולים שואפים להגיע ל"בינה כללית" (AGI) — שלב שבו ה־AI משתווה לכלל היכולות האינטלקטואליות האנושיות — ואף לתבונת-על, שתעלה עליהן. באירוע שאורגן בידי קבוצת המדיה אקסל שפרינגר בספטמבר, אמר מנכ"ל OpenAI סם אלטמן, שחברתו יצרה את ChatGPT, כי ניתן להגיע לתבונת-על בתוך חמש שנים.
נשיא Future of Life, מקס טגמרק, אמר ל־AFP כי אסור לחברות לכוון למטרה כזו ללא מסגרת רגולטורית. "אנשים רבים רוצים כלים עוצמתיים של AI למדע, לרפואה, לפריון וליתרונות אחרים", הוסיף ביום רביעי אנתוני אגירֶה, ממייסדי המכון. "אבל המסלול שבו צועדות חברות ה־AI — מירוץ ל־AI חכם מהאדם שמיועד להחליף אנשים — רחוק מאוד ממה שהציבור רוצה, ממה שמדענים סבורים שהוא בטוח, או ממה שמנהיגים דתיים מרגישים שהוא נכון".
מנכ"ל OpenAI, סם אלטמן. | צילום: AFP
המכתב הפתוח מהדהד מכתב אחר שפורסם חודש קודם לכן בידי חוקרי AI ועובדי התעשייה במהלך עצרת האו"ם, שקרא לממשלות "להגיע להסכם בינלאומי על קווים אדומים ל־AI" עד סוף 2026.
עוד כתבות בנושא
