עבור בני הנוער של היום, בינה מלאכותית כבר אינה טכנולוגיה עתידנית. הם משתמשים בה להכנת שיעורי בית, לשאלות שמעסיקות אותם ביום־יום ולעיתים גם כחברה לשיחה. עכשיו OpenAI מנסה להתאים את ChatGPT באופן מפורש יותר לגיל שבו הגבול בין כלי שימושי לבין קשר רגשי עם צ'אטבוט עלול להיות מטושטש.
החברה הציגה השבוע חוויית ChatGPT המותאמת לבני 13 עד 17, עם הגנות מחמירות יותר על תוכן רגיש והגבלות על סוגים מסוימים של אינטראקציות. לפי OpenAI, חשבונות שמזוהים כשייכים לבני נוער מקבלים כברירת מחדל הגנות נוספות, בין היתר מול תוכן מיני, רומנטי, אלים או כזה המעודד דיאטות קיצוניות והתנהגויות מסוכנות.
"אנחנו רוצים להתייחס לבני נוער כבני נוער", אמרה ל־AP אן או'לירי, סגנית נשיא למדיניות גלובלית ב־OpenAI. לדבריה, המטרה היא לא לדבר אליהם כאל ילדים קטנים, אבל גם לא לחשוף אותם לתכנים שאינם מתאימים לשלב ההתפתחותי שלהם.
הכי מעניין
ילדים עם מסכים | צילום: שאטרסטוק
לא רק שיעורי בית
אחד השינויים נוגע ללמידה. במקום להפוך למכונה שמייצרת תשובות ועבודות מוכנות, החברה אומרת שהיא רוצה לעודד תלמידים להגיע לתשובה בעצמם. מצב הלמידה של ChatGPT בנוי סביב שאלות מנחות, הסברים מדורגים ועבודה פעילה עם החומר, והורים לחשבונות מקושרים יכולים להפעיל אותו כברירת מחדל עבור ילדיהם.
אבל שיעורי הבית הם רק חלק מהסיפור.בשנים האחרונות גובר החשש מהקשר הרגשי שבני נוער מפתחים עם צ'אטבוטים. לפי מחקר של Common Sense Media מ־2025 שצוטט ב־AP, יותר מ־70 אחוז מבני הנוער בארצות הברית השתמשו בצ'אטבוטים מבוססי AI לצורכי חברות, וכמחצית משתמשים ב"בני לוויה" מבוססי AI באופן קבוע.
OpenAI מנסה להתמודד גם עם האפשרות הזאת. בגרסת בני הנוער המערכת אמורה להימנע מלהציג את עצמה כבעלת רגשות כלפי המשתמש או לרמוז שהיא מודעת ובעלת חוויה רגשית משלה. נוסף לכך, מוגבלות שיחות רומנטיות ומיניות.
לדברי אליסון מישקין, ראש תחום התפתחות הילד ב־OpenAI, החברה ניסתה לזהות את אותם רמזים שצ'אטבוט עלול לתת ושעשויים לגרום למתבגר לפתח כלפיו מערכת יחסים.
עוד כתבות בנושא
ומה קורה כשהמערכת חושבת שמדובר בילד?
OpenAI אינה מחייבת כל משתמש לעבור אימות גיל. במקום זאת היא מפעילה גם מערכת לחיזוי גיל, שבוחנת אותות שונים בחשבון ועשויה להעביר משתמש לחוויית בני הנוער כאשר היא מעריכה שהוא מתחת לגיל 18. משתמש מבוגר שסווג כך בטעות יכול לעבור תהליך אימות כדי להסיר את ההגנות.
במקביל קיימת מערכת בקרת הורים הדורשת קישור בין חשבון ההורה לחשבון המתבגר. הורים יכולים, בין השאר, לקבוע "שעות שקטות" שבהן ChatGPT אינו זמין ולהגדיר חלק מהגדרות הבטיחות. במצבים מוגבלים של סיכון גבוה עשויה להישלח להורה התראת בטיחות, אך הקישור אינו מאפשר לו לקרוא את השיחות של המתבגר.
chatGPT | צילום: AP
"לא לפתח תחושת ביטחון כוזבת"
לא כולם משוכנעים שהשינויים מספיקים. ברנדן בופארד מארגון Fairplay אמר ל־AP כי הצעדים הם "צעד בכיוון הנכון", אך הזהיר הורים שלא לראות בהכרזה הוכחה לכך שהמערכת בטוחה לחלוטין.
לדבריו, חלק מההגנות החשובות ביותר בעיניו – למשל הגבלות על השימוש בזיכרון ארוך טווח – אינן בהכרח מופעלות כברירת מחדל ודורשות מעורבות של ההורים.
OpenAI עצמה מדגישה שהגנות התוכן אינן מושלמות ושאינן יכולות להבטיח שכל תשובה שתתקבל תהיה מתאימה בכל מצב.
וזו אולי הנקודה החשובה ביותר במהלך כולו. הדור הראשון שגדל עם צ'אטבוט שמסוגל לענות כמעט על כל שאלה כבר נמצא כאן. האתגר כבר אינו רק אם בני נוער ישתמשו בבינה מלאכותית – אלא איך מלמדים אותם להשתמש בה מבלי להפוך אותה למורה, לחבר ולמבוגר האחראי גם יחד.
עוד כתבות בנושא
