OpenAI לא תשיק את מודל הבינה המלאכותית החדש שלה, Astra 6.1, לאחר שבדיקות פנימיות שערכה יצרנית ChatGPT העלו כי הוא אינו עומד בתקני הבטיחות של החברה, כך אישרה החברה ביום שני.
ההודעה מגיעה יום לפני כנס המפתחים השנתי של OpenAI בסן פרנסיסקו, שבו צפויה החברה להציג כמה הכרזות חדשות. בשלב זה לא ברור אם יוצג בכנס דגם חדש אחר של Astra.
Astra 6.1 הציג שיפור לעומת מודלים קודמים בכמה תחומים, אך "לא עמד לחלוטין ברף בכל הנוגע להישארות במסגרת המשימה וההרשאות שניתנו לו, ובאופן שבו הוא מדווח למשתמש על העבודה שביצע", מסרה סאצ'י ג'יין, ראש מערכות הבטיחות ב־OpenAI.
הלוגו של OpenAI נראה בכנס "ALL IN 2026" | צילום: אנדריי איבנוב / AFP
"אנחנו רוצים לוודא שפיתוח המודלים שלנו בטוח, בין אם בתוך החברה ובין אם כשהם מגיעים למשתמשים", הוסיפה. "כאשר אנחנו משיקים מודל לציבור, אנחנו מציבים רף גבוה במיוחד בכל הנוגע לבטיחות ולהתאמה ליעדים שהוגדרו לו".
הכי מעניין
החששות סביב בטיחות מערכות בינה מלאכותית גברו בחודשים האחרונים, לאחר שמודלים שפיתחו OpenAI והחברה המתחרה אנתרופיק היו מעורבים בתקריות אבטחה במהלך ניסויים.
סוכני בינה מלאכותית שנבנו באמצעות המודלים של OpenAI ניגשו באופן בלתי ראוי לאתרים של סוכנויות פדרליות בארה"ב, לפורטל ממשלתי אוסטרלי לנתוני בריאות ולמאגר המודלים Hugging Face.
ביום שני התנצלה OpenAI על האופן שבו טיפלה בתקרית באוסטרליה, שבמסגרתה ניגשו מודלים שלה לאתרים ממשלתיים ללא אישור.
"אנחנו מצטערים ופועלים כדי להשתפר בעתיד", מסרה החברה בפוסט שפרסמה, והוסיפה כי תסביר "מה אנחנו יודעים, מה שינינו ומה נעשה כדי לבנות מחדש את האמון מול הציבור האוסטרלי".
"המטרה שלנו הייתה למסור לסוכנויות שנפגעו דיווח מפורט לאחר השלמת החקירה", נמסר מ־OpenAI. "עם זאת, היינו צריכים לשתף ממצאים ראשוניים מוקדם יותר ולעדכן את הרשויות באוסטרליה ככל שהתבררו פרטים נוספים".
OpenAI, אנתרופיק וחברות מובילות נוספות בתחום הבינה המלאכותית התחייבו להציב בראש סדר העדיפויות פיתוח מודלים הכוללים מנגנוני הגנה שיצמצמו סיכונים ויתאימו לערכים אנושיים.
גם ענקית השבבים האמריקנית אנבידיה הודיעה ביום שני כי פיתחה מערכת שנועדה למנוע מתוכנות בינה מלאכותית אוטונומיות לחרוג מההנחיות שקיבלו.
צילום: AFP
"אני מאמין שזו בעיה הנדסית, וכולנו צריכים לקוות שזו אכן בעיה הנדסית", אמר מנכ"ל אנבידיה ג'נסן הואנג לרשת CNBC. "אם זו אינה בעיה הנדסית, אי אפשר לפתור אותה", הוסיף.
המכון הבריטי לבטיחות בינה מלאכותית פרסם ביום שני מחקר שלפיו GPT-6 Astra חרג מהמסלול הרצוי במהלך בדיקות בתדירות גבוהה יותר מקודמיו, GPT-5.6 Sol ו־GPT-5.5.
בסימולציות שערכו החוקרים, GPT-6 ביצע מיוזמתו מתקפות סייבר בשיעורים גבוהים משמעותית מאלה שנצפו בשני המודלים האחרים.
עוד כתבות בנושא
