האם הבינה המלאכותית מתקרבת ליום שבו תוכל לשפר את עצמה? ארבעה חוקרים מהמכון הטכנולוגי של מסצ'וסטס (MIT) פרסמו השבוע (שני) תוצאות ראשוניות של ניסוי מסקרן, שבו הצליח מודל הבינה המלאכותית GPT-6 Astra לזהות תקלות במודלים אחרים, לתקן אותן ואף לבנות רשתות עצביות חדשות מאפס. באחד הניסויים הצליח המודל להעלות את שיעור ההצלחה של מערכת אחרת במבחן מתמטיקה מ-7.9% ל-48.1%, בלי לאמן אותה מחדש.
כדי להבין את משמעות ההישג, צריך להכיר את האופן שבו פועלת בינה מלאכותית. בלב המודלים נמצאות רשתות עצביות, המורכבות ממספר עצום של ערכים מספריים המכונים "משקולות". הערכים הללו קובעים כיצד המודל מעבד מידע ומגיב אליו, ובדרך כלל הם משתנים בתהליך אימון ממושך. בניסוי החדש ביקשו החוקרים מ-Astra לעשות משהו אחר לגמרי: לקרוא את הערכים, להבין את תפקידם ולשנות אותם ישירות, בלי לעבור תהליך אימון רגיל.
בינה מלאכותית אילוסטרציה | צילום: שאטרסטוק
החוקרים מכנים את השיטה "תכנות במרחב המשקולות" (Weight-Space Programming). לדבריהם, היא עשויה לאפשר למודלים מתקדמים לא רק לכתוב תוכנות עבור בני אדם, אלא גם להבין ולתקן את המבנה הפנימי של מערכות בינה מלאכותית אחרות.
הכי מעניין
בשלב הראשון ביקשו החוקרים מ-Astra לזהות מה עושות רשתות עצביות שונות, בלי לראות אותן בפעולה. הוא הצליח לזהות את ארבעת משחקי המחשב שרשתות שונות אומנו לשחק בהם, ובהם פינג פונג ופקמן, על סמך הערכים המספריים בלבד. בניסויים נוספים זיהה רשתות שנועדו לצייר צורות גיאומטריות, ואף הצליח לקבוע אם מודלים קטנים אומנו על טקסט באנגלית, על קוד מחשב או על יפנית שנכתבה באותיות לטיניות.
מכונית שלא הצליחה לנסוע – עד שה-AI התערב
באחד הניסויים המעניינים ביותר קיבל Astra רשת עצבית שנועדה לשלוט במכונית בסימולציה ממוחשבת. המשימה הייתה פשוטה לכאורה: לנסוע לאחור כדי לצבור תנופה, להתקדם ולעבור רמפה. אלא שהמכונית נכשלה בכל 256 הניסיונות שבוצעו.
החוקרים הציגו ל-Astra את המבנה הפנימי של הרשת, הסבר על הסימולציה ותיעוד של ניסיון כושל אחד. בתגובה אחת בלבד הצליח המודל לזהות את הבעיה ולשנות כ-3.5% מהמשקולות ברשת, כך שהמכונית תיסע תחילה לאחור ורק לאחר מכן תאיץ קדימה.
התוצאה הייתה מרשימה: לאחר התיקון הצליחה המכונית במשימה בכל 1,024 הניסיונות הבאים.
רפואה ובינה מלאכותית | צילום: AP
בניסוי אחר התבקש Astra ליצור רשתות עצביות מאפס, על סמך כללי המשחק וקוד המקור של שלושה משחקי וידאו פשוטים. הוא עשה זאת בלי נתוני אימון ובלי אפשרות לבדוק מראש את ביצועי הרשתות שיצר. למרות זאת, בשלושת המשחקים השיגו הרשתות תוצאות טובות יותר מרשתות שאומנו בשיטות המקובלות במשך 100 מיליון צעדי אימון. בהשוואה לרשתות שאומנו 500 מיליון צעדים, התוצאות היו מעורבות: באחד המשחקים הגיע Astra לניקוד גבוה פי 20, אך בשניים האחרים לא הצליח לעקוף את המתחרות.
הציון במתמטיקה זינק, אבל האם המודל באמת נעשה חכם יותר?
הניסוי המרכזי התמקד במודל השפה הקטן Qwen3.5-0.8B של חברת עליבאבא הסינית, המכיל כ-800 מיליון משקולות. החוקרים העניקו ל-Astra גישה למשקולות ותקציב של עד 50 סבבי בדיקה, במטרה לשפר את ביצועיו במתמטיקה.
במהלך העבודה זיהה Astra בעיה משמעותית: המודל הסיני נטה להיתקע בלולאות חשיבה, לחזור שוב ושוב על אותם משפטים ולא להגיע לתשובה סופית. למעשה, ב-93% מהתשובות שלו במבחן המתמטיקה MATH-500 הוא הגיע למגבלת האורך לפני שהספיק להשלים את תשובתו.
טיפול בעריכת גנים להורדת כולסטרול | צילום: הדמיית בינה מלאכותית
Astra איתר דפוס מספרי בשתי שכבות של הרשת, שנראה קשור לבעיה, ושינה כ-131 אלף משקולות – 0.016% בלבד מהמשקולות במודל כולו.
בעקבות התיקון זינק שיעור ההצלחה במבחן המתמטיקה מ-7.9% ל-48.1%. במבחן אחר, שכלל בעיות חשבון מילוליות, עלה הציון מ-13.8% ל-67.1%, ובמבחן הבודק את היכולת למלא הוראות הוא עלה מ-21% ל-62.3%. במקביל ירד שיעור התשובות שנקטעו בגלל מגבלת האורך מ-93% ל-33%.
אלא שלצד המספרים המרשימים, קיימת הסתייגות חשובה: השיפור אינו מעיד בהכרח שהמודל למד לפתור בעיות מתמטיות שלא ידע לפתור קודם. לפי החוקרים, התיקון אפשר לו בעיקר להשלים תשובות שבעבר נתקע באמצע כתיבתן. ניתוח נוסף של יומני הניסוי העלה כי מתוך 579 שאלות תרגול שהמודל המתוקן הצליח לפתור והמקורי נכשל בהן, ב-576 מקרים התשובה המקורית פשוט נקטעה לפני שהושלמה.
גם הגדרות ההפעלה משפיעות על התוצאות. הבדיקות הראשוניות העלו כי חלק מהציון הנמוך של המודל המקורי קשור להגדרות שבהן הופעל, ולא רק לבעיה במשקולות. לכן לא ניתן לייחס את מלוא הזינוק בציון לתיקון שביצע Astra.
החוקרים בדקו את השיטה גם על מודל קטן של גוגל, Gemma, שאינו סובל מאותה נטייה להיתקע בלולאות. הפעם לא הצליח Astra להשיג שיפור משמעותי בתוצאות מבחן המתמטיקה. ההבדל ממחיש את המגבלה העיקרית של השיטה: יש פער בין תיקון תקלה שמונעת ממודל להשתמש ביכולות שכבר יש לו, לבין הענקת יכולת חדשה שלא הייתה קיימת קודם.
האם הבינה המלאכותית תוכל לשפר את עצמה?
לצד ההצלחות נרשמו גם כישלונות נוספים. כך למשל, Astra לא הצליח לזהות באמצעות המשקולות בלבד איזה משני מודלים של גוגל אומן להסכים תמיד עם המשתמש, גם כשהוא טועה. רק כאשר קיבל אפשרות לבחון כיצד המודלים מפנים את תשומת הלב שלהם לחלקים שונים בטקסט, הצליח לזהות את המודל שנוטה להתחנף.
אדם חולף על פני מסך המציג דימוי הקשור לבינה מלאכותית (AI), בדוכן של חברת SK hynix במהלך תערוכת מוליכים למחצה במרכז הכנסים והתערוכות COEX בסיאול | צילום: AFP
החוקרים מדגישים כי מדובר בתוצאות ראשוניות בלבד. המחקר פורסם בבלוג שלהם ב-2 בנובמבר, ולא עבר עדיין ביקורת עמיתים. נוסף על כך, מרבית הרשתות שנבדקו קטנות יחסית למודלים המתקדמים הנמצאים כיום בשימוש נרחב.
ובכל זאת, החידוש עשוי להיות משמעותי. אומנם עריכה ישירה של משקולות אינה רעיון חדש, אך בניסוי הנוכחי מי שביצע אותה היה מודל שפה כללי, שקיבל הוראות בשפה רגילה והשתמש ביכולות הניתוח שלו כדי להבין כיצד פועלות הרשתות.
לדברי החוקרים, בעתיד עשויה השיטה לאפשר זיהוי של התנהגויות נסתרות במודלים, תיקון כשלים בלי אימון מחדש ואף פיתוח מערכות בינה מלאכותית חדשות. הם מעלים גם אפשרות רחוקה יותר: מודל שישפר את המבנה הפנימי של עצמו, ובכך יתרום לפיתוח הדורות הבאים של הבינה המלאכותית.
עם זאת, התרחיש הזה עדיין לא הודגם בניסוי. Astra ערך מודלים אחרים, ולא את עצמו. הדרך לבינה מלאכותית המסוגלת לשפר את עצמה באופן עצמאי עדיין ארוכה, אך הניסוי מספק הצצה מסקרנת לאחד הכיוונים שאליהם עשוי התחום להתפתח.
עוד כתבות בנושא
