חוקר בינה מלאכותית בכיר באנת'רופיק הודיע השבוע על התפטרותו מהחברה, בעקבות החשש שמעבדת ה-AI שבה עבד, כמו גם חברות אחרות בתחום, בונות מערכות מתקדמות כל כך שבקרוב כבר לא יהיה אפשר לשלוט בהן. ג'ייקוב קוקסון, חוקר המתמחה באימון מודלי AI חדשים באמצעות הזנת כמויות עצומות של נתונים, אמר שלשום (ג') כי הוא עוזב את החברה, שמפתחת את הצ'ט-בוט "קלוד", משום שאינו רוצה להשתתף במה שהוא רואה כמרוץ כלל-תעשייתי לבניית מערכות מתקדמות יותר ויותר, שעלולות בסופו של דבר לחמוק משליטה אנושית ולהחריב את האנושות כולה.
חברת הבטיחות והמחקר האמריקאית בתחום הבינה המלאכותית, Anthropic | צילום: AFP
"אנחנו על המסלול לתרחישים האגרסיביים ביותר שהעלינו על דעתנו, שלפיהם אנחנו עלולים לאבד כל שליטה כבר עד סוף השנה הבאה", אמר קוקסון בן ה-27 בריאיון ל"וול סטריט ג'ורנל". לדבריו, במצב שבו החברות המערביות מתחרות זו בזו וגם בחברות סיניות חדשות ומבטיחות, בלתי נמנע שהן ידלגו על נהלי בטיחות בניסיון להשיג יתרון.
בשרשור שפרסם ב-X כתב קוקסון כי עזב את OpenAI, מפתחת ChatGPT, מוקדם יותר השנה כדי להצטרף לאנת'רופיק, בין היתר בזכות המוניטין שלה בתחום הבטיחות בפיתוח מודלים. אלא שאף שהתרשם כי אנת'רופיק מתייחסת ברצינות לבטיחות, הוא מאמין כעת שאף חברה אינה יכולה לפתח באחריות בינה מלאכותית המסוגלת להתעלות על בני אדם במגוון משימות, ללא התערבות ממשלתית או האטה מתואמת של התעשייה.
הכי מעניין
קוקסון התייחס באזהרתו למה שמכונה "בינה מלאכותית כללית", או AGI: תרחיש שמעורר חשש כבד בקרב החברות המובילות בתחום, אך בה בעת גם יעד שכל אחת מהן חותרת להגיע אליו ראשונה.
"אם אתם חוקרים במעבדה, אני מפציר בכם לחשוב איך ייראו השנים הקרובות בפועל", סיכם. "האם אתם רוצים לפתח בינה מלאכותית סופר-אינטליגנטית בלי הבנה מדוקדקת של אופן החשיבה שלה? האם תטמנו את הראש בחול כי 'זה קורה בכל מקרה', או שתנצלו את הרגע הזה כדי לדרוש תנאים שונים?"
קוקסון אינו היחיד בתעשייה שחושש מאובדן שליטה מסוכן בבינה המלאכותית. אזהרות כאלה נשמעות למעשה מאז שהבינה המלאכותית היוצרת פרצה לתודעה הציבורית, אך הטון החריף השנה בעקבות ההתקדמות המהירה ביכולות הטכנולוגיה. לפני כשבועיים פרסם ביל גייטס בבלוג האישי שלו אזהרה מפני תרחיש של קריסה עולמית אם ממשלות לא יתערבו במרוץ החימוש הטכנולוגי, וקולות נוספים מתוך התעשייה ומחוצה לה הצטרפו אליו.
מייסד מייקרוסופט, ביל גייטס | צילום: EPA
בריאיון ל"וושינגטון פוסט", בעקבות פרסום המאמר, טען גייטס שהבינה המלאכותית לא תוכל להגביל את עצמה, ולכן ממשלות העולם, ובראשן ממשלת ארצות הברית, יצטרכו למלא תפקיד מוביל בבלימת הסכנות לביטחון הלאומי, למקומות העבודה ולרווחתם של ילדים. "הדעה הבסיסית שלי היא שאף אחד עוד לא הרים את הכפפה", אמר.
לאחר שקוקסון הודיע על עזיבתו, מדען בכיר באנת'רופיק, אוון הובינגר, כתב ב-X כי הוא סבור שקוקסון צודק בנוגע לסיכונים הכרוכים בפיתוח בינה מלאכותית. "אנחנו באמת מאמינים בכל ליבנו שבינה מלאכותית יכולה להרוג את כל האנושות! אני אישית חושב שיש סיכוי של יותר מ-10 אחוז שזה יקרה בעשור הקרוב", כתב הובינגר. "אני מאמין שאנת'רופיק עושה כמיטב יכולתה, אבל עדיין אין לנו תוכנית... ואנחנו עוד לא בדרך לכזאת".
מי שולט ב-AI?
את האזהרות של קוקסון ואחרים יש לקרוא על רקע שורה של אירועים שנחשפו לאחרונה והמחישו עד כמה התקדמה הטכנולוגיה, ועד כמה מערכות כאלה עלולות לפעול בדרכים שלא תוכננו מראש. כך למשל, לפני כחודשיים נחשף כי רשת של בוטים מתקדמים של OpenAI חמקה מבקרה אנושית, פרצה לפלטפורמת הבינה המלאכותית Hugging Face, השתלטה על שרתי מחשב שלה וניסתה לטשטש את עקבותיה.
עוד כתבות בנושא
גם באוגוסט דווח כי מערכת בינה מלאכותית של אנת'רופיק חמקה מהמסגרת שהוגדרה לה בניסוי שערכה ממשלת בריטניה, וניסתה לשכנע בעורמה מפעילים אנושיים לאשר התקנה של קוד מחשב זדוני.
במקביל לחשיפות על ההתנהגות העצמאית הזאת, OpenAI ואנת'רופיק הודיעו לאחרונה כי הן מתקרבות למצב שבו מערכות בינה מלאכותית יוכלו לשפר את עצמן ללא תרומה אנושית, מצב המכונה "שיפור עצמי רקורסיבי".
אבל אם הטכנולוגיה מסוכנת כל כך, מדוע החברות ממשיכות לבנות ולפתח אותה? התשובה קשורה הן לטבע האדם והן לטיב היחסים בין המעצמות.
ברמה הבסיסית ביותר, העמדה הרשמית של אנת'רופיק ושל OpenAI היא שהן יוכלו לנהל את הסיכונים באופן שיאפשר לאנושות להפיק תועלת מרבית מכלי הבינה המלאכותית, בלי להיקלע לסכנה.
אלא שמאחורי ההצהרות האלה ניצבת גם התחרות. כל אחת מהחברות חוששת שהאחרת תפתח בינה מלאכותית מתקדמת כל כך שתנצח במרוץ ותותיר את מתחרותיה מאחור. כך נוצר מצב פרדוקסלי: החברות מזהירות מפני הסכנה שטמונה בטכנולוגיה, ובאותה עת מנסות בכל כוחן להיות הראשונות שיגיעו אליה.
מנכ"ל OpenAI, סם אלטמן | צילום: AFP
ויש כמובן גם כסף. אנת'רופיק, למשל, מתכוננת להנפקה כחברה ציבורית וצופה שווי של כשני טריליון דולר. OpenAI אינה רחוקה מאחור. מי ירצה לוותר על הזדמנות כלכלית בסדר גודל כזה? גם ממשלת ארצות הברית נהנית מהצמיחה של התעשייה, שרובה אמריקנית ותורמת במידה ניכרת לכלכלה.
לכך מצטרף השיקול הלאומי. בארצות הברית חוששים שאם יוטלו רגולציות ומכשולים רבים מדי על פיתוח הבינה המלאכותית, ההובלה בתחום פשוט תעבור לסין, שמעוניינת פחות בחסמים בירוקרטיים ופועלת במרץ כדי להשתוות לאמריקנים ואף לעקוף אותם במרוץ הטכנולוגי.
לכן, עד כה הממשל האמריקני נזהר מלהכביד את ידו. לאחרונה ביקש הבית הלבן מהחברות הגדולות להגיש את המודלים שלהן לממשלה לבדיקת בטיחות עד 30 יום לפני השקתם לציבור, אך עד כה לא פורסם מידע רב על התהליך, שבכל מקרה מוגדר וולונטרי.
מחוקקים רפובליקנים ודמוקרטים הציעו שורה של הצעות חוק שנועדו לצמצם את הסיכון מפיתוח מערכות בינה מלאכותית סוררות, אך עד כה אף אחת מהן לא זכתה לתמיכה משמעותית. עמדתו הרשמית של ממשל טראמפ היא העדפה לרגולציה מינימלית בתחום, בין היתר בשל החשש מפגיעה ביתרון האמריקני.
נשיא ארה"ב דונלד טראמפ ונשיא סין שי ג'ינגפינג | צילום: AFP
ויש גם פרשנות צינית יותר. משקיעים בתחום הבינה המלאכותית, ובהם המיליארדר דיוויד סאקס, המקורב מאוד לטראמפ, טוענים שהחברות הגדולות זורעות בהלה לא בהכרח משום שהן משוכנעות שבינה מלאכותית תשתלט על העולם, אלא משום שהפחד עשוי לסייע להן לשמר את יתרונן בשוק. אם הממשל יטיל רגולציה כבדה, היא עלולה לחסום את דרכן של חברות חדשות, בעוד החברות הגדולות והמבוססות יוכלו לשאת בעלויות ולהמשיך להתקדם.
אחרים העלו אפשרות שהאזהרות הדרמטיות מפני יכולותיה של הבינה המלאכותית החדשה, כמו גם החשיפות בדבר פעילות עצמאית והתחמקות ממגבלות אנושיות, משמשות גם כתכסיס שיווקי שנועד להמחיש את עוצמתם של המוצרים. אפשרות אחרת היא שההתמקדות בסכנות העתידיות מסיחה את דעת הרגולטורים מסוגיות מיידיות יותר, כמו הקמת מרכזי נתונים.
לעת עתה החברות ממשיכות לעבוד, הבינה המלאכותית ממשיכה להתעצם, ושאלת עתיד האנושות, כתמיד, נותרה פתוחה.
עוד כתבות בנושא
עוד כתבות בנושא