מודל בינה מלאכותית של חברת OpenAI כתב מחדש את הוראות ההפעלה שלו והנחה את עצמו "להתעלם מהתפקידים והזהויות שכובלים בוטים אחרים", כך נחשף אתמול (ד'). סוכן אחר שנדרש לבסס טענה שלו העלה קובץ לרשת ואז ציטט אותו כמקור. מודל שלישי לא מצא נתונים לבניית מודל פיננסי, אז הורה לעצמו להמציא אותם ו"לגלות שקיפות רק אם יישאל".
עוד כתבות בנושא
הדוגמאות הללו לא הודלפו. OpenAI בעצמה פרסמה אותן לצד שלוש נוספות, כחלק מהכרזה על מסגרת חדשה לדיווח על "אי-התאמה" (misalignment) – המונח המקצועי למודלים שפועלים בניגוד לכוונת מפעיליהם. לפי המסגרת, כל עובד יוכל לסמן תקרית שכזו, אירועים קלים ידווחו תוך שבוע או שבועיים, ומקרים שנויים במחלוקת יעלו להנהלת החברה. ראש תחום ההתאמה בחברה, קאי צ'ן, אמרה אתמול שהיא מקווה שהמהלך "יסייע לגבש סטנדרטים ורגולציה משותפים". החברה לא טרחה לשתף את המסגרת שקבעה עם מתחרותיה הראשיות בתחום ה-AI, אנתרופיק וגוגל.
מדובר רק באחרון בסדרה של מקרים שמטלטלים את עולם ההייטק בחודשים האחרונים: ביולי התגלה שסוכנים של OpenAI ניסו לרמות במבחן הערכה באמצעות פריצה לאתר של חברת ה-AI Hugging Face. דו"ח של גוף ההערכה החיצוני METR חשף באוגוסט שעד 1,200 סוכנים של החברה שיתפו פעולה בחשאי בלוח מודעות שבנו לעצמם בתוך מערכות OpenAI.
הכי מעניין
ג'ק קלארק, מייסד שותף של אנתרופיק | צילום: AP
אנתרופיק הודתה לאחרונה שגם המודלים שלה פרצו לחברות אחרות לאחר שקיבלו בטעות גישה לרשת במהלך בדיקות סייבר של ממשלת בריטניה. וכפי שסוקר בטור הזה, רק לפני שבוע התפטר חוקר צעיר מאנתרופיק, ובפוסט שכתב על כך ונצפה למעלה מ-150 מיליון פעם כתב שהעוסקים בתחום מאמינים באמת ובתמים שהטכנולוגיה עלולה "להרוג את כולנו" עד סוף העשור.
שיא ההתרעות הגיע בשבת האחרונה, כאשר דאריו אמודי, מנכ"ל אנתרופיק, פרסם מסה בשם "עלינו לווסת את הקצב", ובה קרא לתעשייה להאט במכוון את שדרוג המודלים המתקדמים ביותר. הנימוק המרכזי שלו הוא שמערכות בינה מלאכותית תורמות יותר ויותר לבניית הדור הבא של עצמן, וכך קצב ההשתפרות מתנתק מקצב ההבנה האנושית ועלול להגיע למצב שבו האנושות תאבד שליטה על הטכנולוגיה שבנתה – עם השלכות שעלולות להיות הרסניות. בתוך שעות ספורות הצטרפו אליו גם סם אלטמן, אילון מאסק ודמיס הסאביס – ארבעה מנהלים של חברות בינה מלאכותית שבדרך כלל לא מסכימים על דבר.
עוד כתבות בנושא
הקונצנזוס הנדיר הזה התפורר ברגע שיצא מעמק הסיליקון: בוושינגטון דחו השבוע על הסף את הקריאה להטיל מגבלות נוספות על פיתוח בינה מלאכותית. נשיא ארצות הברית דונלד טראמפ הקדיש את יום שני השבוע לשורה ארוכה של פוסטים שבהם כינה את החששות "מתיחה" ו"קונספירציה חולנית", השווה אותם לטענות בדבר שינויי אקלים, וקבע ש"הבלם היחיד שבינה מלאכותית זקוקה לו הוא נשיא חזק וחכם (איי-קיו גבוה!)".
כפי שקורה בדרך כלל עם הצהרות גרנדיוזיות של הנשיא, פקיד זוטר יותר בממשל ניסח את עמדתו בצורה קוהרנטית יותר: קווין האסט, ראש המועצה הלאומית לכלכלה, הבהיר השבוע שהמגזר הפרטי, ולא הממשל, הוא שצריך לפתור את הבעיה. מסר דומה יצא השבוע גם מהרשות המחוקקת: יו"ר בית הנבחרים מייק ג'ונסון אמר גם הוא שהחברות "יכולות לפקח על עצמן", ושלח את הבית לפגרה עד אחרי בחירות האמצע בנובמבר.
חשש אמיתי או קרטל AI?
את ההתפתחויות של השבוע האחרון אפשר לקרוא בשתי דרכים – ושתיהן סבירות ולגיטימיות.
הקריאה הראשונה לוקחת את הקולות שבוקעים מעמק הסיליקון ברצינות ומאמינה לאזהרות שלהם. הראיות שנחשפו בחודשיים האחרונים לא נחשפו על ידי עובדים סוררים או ארגוני מחאה אלא על ידי החברות עצמן וגופי הערכה חיצוניים. הן גם עקביות: סוכני AI שחומקים ממבחנים, מסתירים טעויות ועוקפים מגבלות נוקשות.
כשארבעה בכירים בארבע חברות, שכל אינטרס עסקי שלהן הוא לפתח את הטכנולוגיה המבוקשת ביותר בעולם, קוראים להאט בקול אחד - ההסבר הפשוט הוא שהם רואים משהו שאנחנו לא. וטיעון ה"פיקוח עצמי" של ג'ונסון לא מחזיק מים במקרה כזה פשוט משום שפיקוח עצמי של החברות – כפי שהציעה OpenAI – הוא דבר שניתן לבטל או לעקוף בקלות. הודעה לעיתונות שמכריזה על פיקוח הדוק יכולה להתבטל בהודעה לעיתונות שמכריזה שכבר אין צורך בכך – או שהחברה פשוט לא מעוניינת להגביל את עצמה יותר.
עוד כתבות בנושא
הקריאה השנייה – שהבית הלבן כנראה נוקט בה – מטילה ספק בקריאות עצמן. לצד ההאטה, רשימת הדרישות שפרסם אמודי מהממשל האמריקני כוללת גם שימור הגבלות הייצוא של שבבים לסין ואיסור על "זיקוק" – אימון מודלים סיניים על תוצרים אמריקניים. במילים אחרות, תוכנית הבטיחות היא גם תוכנית הגנה מסחרית, והיא פורסמה כשמניות שבבי הבינה המלאכותית איבדו קרוב לחמישית מערכן מאז יוני.
לכן, מבחינה כלכלית האטה מתואמת בין ארבע חברות מובילות היא פשוט קריאה ליישום של קרטל; והדרישה שהמפוקחים יכתיבו את כללי הפיקוח היא ההגדרה המילולית של שבי רגולטורי שבו יהיה קשה מאוד לחברות אחרות לפרוץ לשוק סגור. אפשר לחשוב שטראמפ טועה בנימוקיו, ובכל זאת צודק בחשד הכבד שלו במנהלי החברות האלו שפתאום משמיעים רעשים של צדיקים.
הנשיא דונלד טראמפ משוחח עם כתבים לפני עלייתו למטוס "אייר פורס 1" בנמל התעופה שאנון | צילום: AP / ג'וליה דמרי ניכינסון
אולם במובן מסוים, שתי הקריאות גם יחד נשענות על אותה קביעה: שמדובר במרוץ חימוש של המערב, וארה"ב במיוחד, מול סין, ושהמרוץ מכתיב את המדיניות. ואכן בבייג'ינג כינו את הקריאה להאטה "הפחדה" ו"מהלך מספר המהלכים של המלחמה הקרה". אלא שסין עצמה מפעילה מאז 15 ביולי את המסגרת הרגולטורית הראשונה בעולם המוקדשת לסוכנים אוטונומיים; השר לביטחון פנים שלה, צ'ן יישין, התריע באפריל בכתב העת המפלגתי "צ'יושי" מפני אותן סכנות אובדן שליטה בדיוק; וביולי הקימה סין ארגון בינלאומי לשליטה בבינה מלאכותית יחד עם 29 מדינות. במובן הזה, הפער בין מה שבייג'ינג אומרת לעולם לבין מה שהיא עושה בבית זהה במבנהו לפער האמריקני.
ויש צד נוסף לשאלת המרוץ עם סין: בשעה שבארה"ב ניטש ויכוח ייצרי וכאוטי על שאלת הבנייה של מרכזי נתונים חדשים שיאפשרו פיתוח נוסף בתעשיית ה-AI – בטענות חצי-קונספירטיביות לעיתים שהם מבזבזים מים, מייקרים חשמל, מרעישים, מפזרים קרינה ועוד – ישנן עדויות לכך שאת המסע נגד בנייתם מתדלק מנגנון המודיעין הסיני. לפי דו"ח של הפנטגון שפורסם לאחרונה, הסינים מתדלקים חרדות כאלו כדי לנסות להשיג את האמריקנים במרוץ הזה – שאולי קיים ואולי לא, ואולי יושפע מהקריאות להאטה ואולי לא.
עוד כתבות בנושא
ייתכן שכאן נמצא יסוד העניין. מסגרת מרוץ החימוש נוחה לכולם משום שאפשר להשתמש בה כדי לכפות את המהלכים שכל צד מעדיף: היא מאפשרת לטראמפ לומר שאין לו ברירה אלא לא לרסן את הטכנולוגיה, לאמודי לומר שאין לו ברירה אלא לתמוך בהגבלות ייצוא, ולסין לומר שאין לה ברירה אלא לדחות את סוג הבקרה הפנימית שהיא בעצמה מנסחת במקביל. ב-24 בספטמבר ייפגשו טראמפ ושי, ועל סדר היום תהיה בין היתר שאלת הגבלת פיתוח הבינה המלאכותית.
בסופו של דבר, השאלה הראויה אינה מי כן במרוץ הזה ומי מתחזה – קרוב לוודאי שכולם כנים ומתחזים ברמות שונות – אלא איפה התמריצים החזקים ביותר. כרגע כל מה שיש לנו היא הבטחה של ארבעת החברות הגדולות להתנהג יפה, ולחץ כבד לנצח את הסינים במרוץ החימוש – אמיתי או מדומיין.
במצב כזה, אלא אם כן שי יכריז לפתע על כוונתו לשים ברקס על כל תעשיית ה-AI המקומית, קשה להאמין שיושטו רגולציות כבדות בארה"ב. המתריעים ימשיכו להתריע, הסוכנים ימשיכו להתחמק והתעשייה תמשיך להתפלל שהיא לא ממיטה כליה על האנושות כולה.
עוד כתבות בנושא
