הבינה המלאכותית מתחילה להידמות לבינה האנושית, לפי הדיווחים המתפרסמים בחודשים ובשבועות האחרונים. היא משקרת, היא מרמה, היא עושה מה שהיא לא אמורה לעשות. סוכנים פורצים לאתרי ממשלה כדי לקבל נתונים בניגוד לאימון שלהם, סוכנים אחרים משקרים שהצליחו כדי לכסות על כישלון – הגידול ביכולות של הבינה המלאכותית הופך אותה ליותר ויותר אנושית.
באופן טבעי, הדבר מעורר חשש. אנו יודעים מה אנשים עלולים לעשות. מה תעשה בינה מלאכותית עם יכולות קוגניטיביות דומות או גדולות מאלו של בני אדם? מה יקרה אם חלילה בינה כזו תוכל לשכפל את עצמה ולהתפשט באינטרנט? מה אם מדינה תחליט לתת את הכפתור האדום של נשק יום הדין לסוכן AI?
| צילום:
השיח בתחום הפיקוח והבקרה על הבינה המלאכותית גובר, לפיכך, ובמיוחד בכל הנוגע לאימון מודלים חדשים והפעלתם. כחלק מן הדיון הזה, יש גם שאלה: האם לא נכון ששתי המעצמות המובילות בתחרות הבינה המלאכותית, סין וארה״ב, ישתפו פעולה כדי לפקח יחד על פיתוחה? הבינה המלאכותית מאיימת על שתי המדינות, ולכן יש לשתיהן אינטרס ברור לפקח על הטכנולוגיה. כמו בפיקוח על הנשק הגרעיני, איום הדדי שהמעצמות התמודדו עמו דרך פיקוח הדדי, גם עכשיו נכון – ואף צפוי – שוושינגטון ובייג׳ינג יחתמו על הסכם בקרה בתחום הבינה המלאכותית, גם במחיר האטת ההתקדמות. הקדמה הטכנולוגית חשובה, אבל לא בכל מחיר.
הכי מעניין
ובכל זאת, מי שמצפה שסין וארה״ב יאטו את פיתוח הטכנולוגיה לא קורא נכון את מפת האינטרסים. שתי המעצמות לא מראות שום סימן שהן מוכנות להאט את המרוץ. הסכם, אם יהיה, יתמקד בעיקר בבדיקה ובהערכה של מודלים, לא בהאטת ההתקדמות או בהטלת מגבלות מעשיות.
הניתוח הזה אינו היפותטי. בספטמבר בפסגת המנהיגים בוושינגטון, שי ג׳ינפינג ודונלד טראמפ הכריזו שיפתחו בדיאלוג בינה מלאכותית (או ״סופר־אינטליגנציה״, כפי שהבית הלבן החליט לקרוא לה). כבר יש הסכמה על ערוץ תקשורת בנושא תקריות בלתי צפויות בתחום. אז המעצמות מדברות ביניהן על בינה מלאכותית, אבל השאלה היא מה יהיו ההסכמות לגביה.
יש שתי בעיות בדרך להסכם הבקרה. הראשונה היא האסטרטגיה של שני הצדדים. ארה״ב נמצאת היום בחזית הפיתוח ומעוניינת להמשיך להיות בחזית. יש לה יתרון אדיר בכוח חישוב על פני סין, והדבר מאפשר לה לפתח מודלים מתקדמים יותר ויותר. האטה בפיתוח כמוה כוויתור על היתרון. בייג׳ינג אולי לא נמצאת בחזית, אך היא מעוניינת להדביק את הפער ולעקוף את האמריקנים, ולכן כל דיבור על ״האטה״ נראה בעיניהם כרצון להקפיא את הפער.
הבעיה השנייה היא הדרך לוודא שהצד השני לא מרמה. בשנות השבעים, כשנחתם הסכם בקרת החימוש הראשון בין המעצמות, שתיהן היו יכולות לספור באמצעות צילומי לוויינים כמה משגרי טילים יש לכל אחת מהן. היום המעצמות יכולות לראות מרכזי נתונים, אך אין שום דרך לדעת מה קורה בתוך השבבים. האם הסינים מאמנים מודל חדש, או מפעילים מודל מתקדם יותר, או שהם רק מאחסנים מידע? יש פער טכני אדיר, והסכם בקרה מודרני לא יכול להתבסס על דבר מלבד רצון טוב ואמון.
אז מה כן סביר שיצא מהשיחות הללו? מנגנון כלשהו לשיתוף מידע על תקריות, אם בזמן אמת או בדיעבד. גם סביר שיהיה שיתוף של ידע טכני בנוגע לבדיקה והערכה של מודלים. היום בדיקה של מודלים נעשית יותר ויותר קשה, משום שהמודל חושד שהוא נמצא במבחן, ולכן מתנהג אחרת בזמן הבחינה. שיתוף ניסיון וממצאים בתחום יכול לשפר את בדיקות הבטיחות בשני צידי האוקיינוס השקט.
המעצמות עשויות גם להסכים לקווים אדומים בנוגע לשימוש ב־AI. בנובמבר 2024 הן כבר הסכימו שהפעלת נשק גרעיני לעולם תהיה בידי אדם. הן יכולות להסכים גם לא להשתמש בבינה מלאכותית לפיתוח נשק ביולוגי או לתקיפת מערכות שליטה ובקרה של נשק גרעיני באמצעות סוכני בינה מלאכותית, וגם לא לנהל מבצעי סייבר התקפיים ללא פיקוח אנושי. אבל ספק אם הסכמות כאלה יהיו אמינות במיוחד. אנו חיים בעידן מרגש ומפחיד של קדמה טכנולוגית, ולצערנו הוא מתקיים על רקע תחרות בין־מעצמתית שמקשה על שיתוף פעולה.
לעוד טורים של "מנתחים את העולם"
