אחד ממודלי הבינה המלאכותית של חברת Anthropic הצליח לזהות חולשות במערכות מחשוב מסווגות ורגישות במיוחד של הממשל האמריקאי במהלך תרגיל בדיקות, כך מסר ביום שלישי גורם אמריקאי לסוכנות הידיעות AP.
לדברי הגורם, שביקש להישאר בעילום שם בשל רגישות הנושא, Anthropic שיתפה פעולה עם סוכנויות מודיעין אמריקאיות במסגרת ניסויים שנערכו באמצעות מודל הבינה המלאכותית Mythos. במהלך הבדיקות הצליח המודל לאתר נקודות תורפה מסוימות בתוך שעות ספורות בלבד.
עם זאת, הגורם הדגיש כי העובדה שהמודל זיהה את החולשות אינה מעידה שהוא הצליח לנצל אותן או לפרוץ למערכות באותו פרק זמן.
הכי מעניין
הבדיקות נערכו במסגרת יוזמה של Anthropic בשם Project Glasswing, אשר איגדה חברות טכנולוגיה וגופים נוספים במטרה לבחון כיצד ניתן להגן על מערכות התוכנה הקריטיות בעולם מפני סיכונים חמורים שהיכולות המתקדמות של מודל Mythos עלולות להציב לביטחון הציבור, לביטחון הלאומי ולכלכלה.
דניאלה אמודיי, שותפה למייסדת ונשיאת Anthropic, משמאל, משוחחת עם מנכ"ל Snowflake, סרידהאר רמאסוואמי, במהלך הרצאת הפתיחה בכנס Snowflake Summit | צילום: AP Photo/Jeff Chiu
הנושא עלה בקצרה גם בדיון שנערך ב-11 ביוני בוועדת הבנקאות, הדיור והעניינים העירוניים של הסנאט האמריקאי. הסנאטור הדמוקרטי מארק וורנר מווירג'יניה אמר במהלך הדיון כי "הכלי הזה פרץ כמעט לכל המערכות המסווגות שלנו – לא בתוך שבועות, אלא בתוך שעות".
וורנר ייחס את המידע לראש הסוכנות לביטחון לאומי (NSA) ופיקוד הסייבר האמריקאי, הגנרל ג'ושוע ראד. הסוכנות לביטחון לאומי סירבה להגיב לדברים, וגם דובר מטעם Anthropic נמנע מלהתייחס לנושא.
למרות שיתוף הפעולה האחרון בין החברה לבין גופי הממשל האמריקאי, בחודשים האחרונים נרשמו מתחים הולכים וגוברים בין Anthropic לבין ממשל טראמפ. החברה הביעה דאגה מהאופן שבו הצבא האמריקאי עשוי להשתמש במערכות הבינה המלאכותית שלה, בעוד שהממשל הטיל מגבלות על השימוש בחלק מהמודלים שפיתחה.
מוקדם יותר החודש הורה הממשל לחברה למנוע מאזרחים זרים גישה לדגמי הבינה המלאכותית המתקדמים ביותר שלה, Fable 5 ו-Mythos 5. Anthropic השיקה בתחילת החודש את Fable, שנחשב לגרסה מוגבלת של Mythos המתקדם יותר, שאליו הגישה מצומצמת במיוחד בשל חששות בתחום הסייבר.
ההנחיה הממשלתית פורסמה עשרה ימים לאחר שהנשיא דונלד טראמפ חתם על צו נשיאותי שמקים מנגנון לבחינת סיכוני הביטחון הלאומי הנובעים ממערכות הבינה המלאכותית המתקדמות ביותר, עוד לפני שחרורן לציבור. לפי הצו, השתתפות חברות הטכנולוגיה בתהליך הבדיקה תהיה וולונטרית.
(משמאל לימין) מנכ"ל אנתרופיק, דריו אמודיי, מנהל המוצר הראשי, מייק קריגר, וראש התקשורת סשה דה מריני, במסיבת עיתונאים במהלך כנס המפתחים הראשון של אנתרופיק בחודש שעבר, לאחר שהשיקה את דגם ה-Opus 4 | צילום: AFP
Anthropic מסרה כי השביתה זמנית את המודלים עבור כלל לקוחותיה כדי לעמוד בדרישות הממשל, אך הבהירה כי לדעתה הצעדים שננקטו אינם מוצדקים ביחס לחששות שהציפה בנוגע לאפשרות של סיכון אבטחתי.
במקביל, קבוצת בכירים בתחום הסייבר קראה לממשל טראמפ לבטל את ההנחיה, בטענה שהיא עלולה דווקא לסייע ליריבותיה של ארצות הברית יותר משהיא פוגעת בהן.
במכתב שנשלח לממשל כתבו יותר ממאה מומחי סייבר ומנהלים מחברות ובהן Adobe ו-Nvidia כי מודלי Mythos של Anthropic אמנם "טובים מאוד" בזיהוי חולשות בתוכנה וביכולת להפוך אותן לדרכי תקיפה, אך הם "אינם ייחודיים ביכולות הללו".
רבים מהחתומים על המכתב ציינו כי הם משתמשים באופן קבוע גם במודלים אחרים, מסחריים וקוד פתוח, לצורך ביקורות אבטחה, בדיקות ותרגילי הגנה. לדבריהם, יהיה זה מסוכן לשלול מארצות הברית את יכולות ההגנה המתקדמות ביותר שלה "ללא סיבה מוצדקת", דווקא בתקופה שבה יריבותיה הגלובליות מתקדמות במהירות בתחום הבינה המלאכותית והסייבר.
עוד כתבות בנושא
