יחידת המחקר של ענקית הסייבר פאלו אלטו נטוורקס, Unit 42, מדווחת כי הצליחה להדגים מתקפת סייבר רב-שלבית באמצעות מודלי שפה גדולים (LLMs) בסביבת ענן. לפי החוקרים, עד לאחרונה נחשבו יכולות כאלה לתיאורטיות בלבד, אך התפתחויות מהשנה האחרונה, ובהן דיווחים על פעילות ריגול אוטונומית מבוססת AI, מצביעות על מעבר מיכולת תיאורטית ליישום מעשי, שבו מערכות AI מסוגלות לבצע חלק משמעותי משלבי התקיפה באופן עצמאי.
במסגרת המחקר בנו חוקרי פאלו אלטו נטוורקס הוכחת היתכנות (PoC) בשם "Zealot", מערכת תקיפה אוטונומית מבוססת סוכנים (multi-agent) המדמה תרחיש שבו AI מנסה לחדור לסביבת ענן מוקשחת ללא התערבות אנושית. המערכת מדגימה כי אין צורך בטכניקות תקיפה חדשות כדי לרתום AI למתקפות סייבר, אלא שניתן להסתמך על חולשות מוכרות ולהאיץ את ניצולן. לפי החברה, המערכת הצליחה לבצע שרשרת תקיפה מלאה, החל ממיפוי הסביבה, דרך גישה ראשונית וניצול חולשות, ועד הסלמת הרשאות ושליפת מידע, זאת תוך תיאום בין סוכנים ייעודיים לכל שלב.
עוד כתבות בנושא
החוקרים מציינים כי סביבת הענן מהווה יעד נוח במיוחד למתקפות מסוג זה, בין היתר בשל מבנה מבוסס ממשקי API, הרשאות עודפות, קשרים בין שירותים ותלות בזהויות ובהגדרות קונפיגורציה. לצד זאת, הם מדגישים כי עדיין קיים פער בין היכולות התיאורטיות של מערכות AI לבין יישום מלא של מתקפות אוטונומיות מקצה לקצה, אך המחקר מספק עדות אמפירית לכך שמערכות כאלה כבר מסוגלות לפעול ברמה מתקדמת ולהאיץ תהליכי תקיפה קיימים.
הכי מעניין
"בעבר, פריצה מתוחכמת לענן דרשה שנים של הכשרה מקצועית. הבינה המלאכותית ביטלה את הצורך הזה כמעט בן לילה", אומר חן דויטשמן, חוקר ביחידת המחקר Unit 42 של פאלו אלטו נטוורקס. "תוקפים יכולים כעת להיעזר במודלים שמכילים את הידע הזה באופן מובנה, ולעבור מכוונה לביצוע בתוך דקות".