מארק צוקרברג הציג היום (שני) את החזון שלו לעתיד הבינה המלאכותית, שבמרכזו ניסיון להנגיש יכולות AI מתקדמות לכמה שיותר אנשים ולאפשר למפתחים ולמשתמשים להפעיל אותן באופן פתוח ועצמאי. כחלק מהמהלך הכריזה Meta על Muse Glimmer, מודל AI חדש של Meta Superintelligence Labs (MSL), הכולל 30 מיליארד פרמטרים.
Muse Glimmer הוא המודל הראשון של MSL שמשוחרר תחת רישיון Apache 2.0. המשמעות היא שמפתחים יכולים להוריד את המודל, להריץ אותו בעצמם, לבצע בו שינויים ולהתאים אותו לצרכים וליישומים שלהם, בהתאם לתנאי הרישיון.
עוד כתבות בנושא
אחד המאפיינים הבולטים של המודל הוא היכולת להריץ אותו באופן מקומי, ישירות על מחשב אישי וללא תלות בשירות ענן. לפי Meta, המודל מתאים בין היתר למחשבי Mac המצוידים בשבבי M4 או M5 וב-32GB זיכרון ומעלה, וכן למחשבים עם כרטיסי NVIDIA RTX 5090 או AMD Radeon AI PRO.
הכי מעניין
אבל Meta לא מייעדת את Muse Glimmer רק לשיחות ולמענה על שאלות. המודל תוכנן גם כמודל שמסוגל לבצע משימות מורכבות המורכבות מכמה שלבים ולעבוד עם כלים חיצוניים.
המפתח יכול להגדיר למודל משימה ולקבוע לאילו כלים תהיה לו גישה. משם Muse Glimmer מסוגל לתכנן את שלבי הביצוע, להפעיל את הכלים הזמינים לו, לבדוק את התוצאות ולהמשיך בתהליך גם כאשר אחד השלבים נכשל. היכולות האלה מיועדות, בין היתר, למשימות כמו כתיבת קוד, איתור ותיקון תקלות וחיפוש מידע.
המודל הוא גם מולטי-מודלי ורב-לשוני: הוא תומך בעבודה עם טקסט ותמונות ביותר מ-100 שפות.
חברת Meta | צילום: AFP
הרצת מודלי AI גדולים על חומרה מקומית היא אתגר משמעותי, בעיקר בשל דרישות הזיכרון וכוח החישוב. כדי להתמודד עם המגבלה הזו, Meta מציעה גם גרסה דחוסה של Muse Glimmer, שמפחיתה באופן משמעותי את כמות הזיכרון הדרושה להפעלתו.
לצד זאת, המודל כולל את טכנולוגיית DFlash, שנועדה להאיץ את זמני התגובה בזמן שהמודל פועל באופן מקומי. השילוב בין דחיסת המודל לבין האצת ההרצה אמור להפוך יכולות שבעבר דרשו תשתיות ענן חזקות לנגישות יותר גם על מחשבים אישיים חזקים.
Muse Glimmer זמין כבר כעת דרך Hugging Face. בהמשך צפויה Meta להרחיב את אפשרויות ההרצה והשימוש בו באמצעות שורת פלטפורמות וכלים פופולריים, בהם Together AI ורבים נוספים.
השקת Muse Glimmer היא רק חלק מהמהלך הגדול של Meta. צוקרברג הודיע כי בשבועות הקרובים מתכננת Meta לשחרר גם גרסה פתוחה של Muse Spark 1.2, שתאפשר למפתחים להוריד ולהריץ גם את המודל הזה באופן עצמאי.