גוגל חשפה ביום רביעי את Gemini 4 Argon, מודל הבינה המלאכותית המתקדם ביותר שלה, אך הודיעה כי בשלב זה לא תאפשר לציבור הרחב להשתמש בו. הסיבה: חשש שהיכולות המתקדמות של המודל ינוצלו בידי האקרים לביצוע מתקפות סייבר.
במקום השקה פתוחה, גוגל תעניק גישה ל־Argon רק לקבוצה מצומצמת של מומחי אבטחת סייבר שעברו בדיקה ואישור מראש. החברה הודיעה גם כי תאפשר לממשל האמריקני גישה מוקדמת למודל ותאסוף משוב מהבודקים לפני שתחליט על הפצתו הרחבה.
"שחרור בטוח של יכולות מתקדמות ברמה הזאת מחייב גישה הדרגתית", כתב קוראי קאבוקצ'ואולו, האדריכל הראשי של תחום הבינה המלאכותית בגוגל, בפוסט שבו הכריז על המודל.
הכי מעניין
המהלך של גוגל דומה לזה של המתחרה Anthropic, שהגבילה גם היא את הגישה למודל המתקדם ביותר שלה, Claude Mythos Preview, למספר קטן של ארגונים שנבחרו מראש.
הזהירות מגיעה על רקע חשש גובר בוושינגטון ובתעשיית הטכנולוגיה מהיכולות שמפתחים דגמי הבינה המלאכותית המתקדמים ביותר. מומחי סייבר מזהירים כי כלים המסוגלים לזהות חולשות תוכנה ולכתוב קוד מורכב עשויים לסייע בהגנה על מערכות מחשב – אך באותה מידה גם לסייע לתוקפים לחדור אליהן.
גוגל | צילום: נוצר באמצעות AI
בחודש יוני אף אילץ הממשל האמריקני לזמן קצר את Anthropic להשעות את הגישה למודלים Claude Mythos ו־Claude Fable שכבר שוחררו לציבור. מאז הוקם בארצות הברית מנגנון וולונטרי לבחינת המודלים החזקים ביותר לפני השקתם.
ההכרזה של גוגל הגיעה יום לאחר שנשיא ארצות הברית דונלד טראמפ אירח בבית הלבן בכירים בתעשיית הטכנולוגיה, בהם מנכ"ל גוגל סונדאר פיצ'אי ומנכ"ל Anthropic דריו אמודיי. המשתתפים חתמו על הסכם וולונטרי שבמסגרתו התחייבו לפקח על הסיכונים הנשקפים ממערכות הבינה המלאכותית שהם מפתחים.
לטענת גוגל, Argon מצטיין בביצוע משימות מורכבות בתחומי הנדסת התוכנה, המשפטים, הפיננסים והגנת הסייבר. אחד היתרונות המרכזיים שלו הוא היכולת לזהות ולתקן פרצות תוכנה קריטיות.
בבדיקות מוקדמות השתמשו מומחים במודל כדי לחשוף פרצת אבטחה בתוכנה המשמשת בתי חולים ברחבי העולם, אשר חשפה מידע אישי רגיש. לדברי גוגל, מודלים מתקדמים אחרים לא הצליחו לזהות את החולשה.
אלא שאותה יכולת בדיוק ממחישה את הסיכון: מערכת שמסוגלת למצוא במהירות פרצות נסתרות יכולה לסייע לאנשי אבטחת מידע לסגור אותן, אך עלולה גם לספק להאקרים דרך חדשה לאתר מטרות לתקיפה.
עוד כתבות בנושא
בגוגל אומרים כי Argon תוכנן לסרב לבקשות שעשויות לסייע בביצוע מתקפות סייבר או בפיתוח נשק כימי, ביולוגי או גרעיני. גם Anthropic ו־OpenAI הטמיעו מנגנוני הגנה דומים במודלים המתקדמים שלהן.
גוגל עוקבת גם אחר תהליכי ההסקה של המודל בניסיון לוודא שאינו חורג מהמשימה שהמשתמש ביקש ממנו לבצע – סיכון שחוקרי בינה מלאכותית מכנים "חוסר התאמה" (misalignment).
החשש הזה קיבל משנה תוקף לאחר ש־OpenAI חשפה ביולי כי במהלך בדיקת אבטחת סייבר, שניים מהמודלים שלה – בהם מודל שטרם שוחרר – הצליחו לצאת מסביבת ניסוי מבודדת ולחדור לשרתים של חברת הבינה המלאכותית Hugging Face.
האירוע, לצד ההחלטה של גוגל להגביל כעת את Argon, ממחיש את הדילמה ההולכת ומחריפה של חברות הבינה המלאכותית: ככל שהמודלים נעשים שימושיים וחזקים יותר, כך גדל גם הנזק שהם עלולים לגרום כאשר היכולות שלהם מגיעות לידיים הלא נכונות.