לפי נתונים שפרסמה OpenAI, מספר הדיווחים על תכנים של ההתעללות בקטינים או ניצולם במחצית הראשונה של 2025, עלה ביותר מפי שניים ביחס לכל שנת 2024.
לפי חברת האם של ChatGPT, היא שלחה 75,027 דיווחים כאלה בין ינואר ליולי 2025. במחצית הראשונה של 2024, היא שלחה 947 דיווחים ובשנייה - 31,132. כלומר, ביחס למחצית הראשונה של 2024, במחצית הראשונה של 2025, שלחה OpenAI פי 80 יותר דיווחים. בהתאם, עלו חששות לפיהם המודלים החדשים של ChatGPT מהווים כר פורה לניצול ילדים ופגיעה בהם.
הנתונים הללו אינם יחודיים ל-OpenAI. בין 2023 ל-2024 נרשמה עלייה של יותר מפי 13 במספר הדיווחים בהם זוהתה מעורבות של כלי בינה מלאכותית יוצרת (Generative AI), בהקשרים של התעללות בילדים וניצולם.
הכי מעניין
עוד כתבות בנושא
ב-OpenAI אומרים כי הנסיקה האסטרונומית נובעת דווקא הודות לשיפור מערך הבדיקות לקראת סוף 2024 שמאפשרת לזהות באופן טוב יותר תכנים מסוכנים. דוברת OpenAI, גבריאלה ריילה, הסבירה כי העלייה בנתונים נובעת גם מהעלייה המתמדת במספר המשתמשים וכן בפיצ'רים שנוספו למודל, לרבות האפשרות להעלות תמונות.
איך נראה ניצול ילדים ב-AI?
את הדיווחים כאמור OpenAI מחויבת להעביר על פי החוק האמריקני למרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC). אלה מועברים באמצעות מערכת ה-"CyberTipline", שמסווגת את המידע ומעבירה את הדיווחים הרלוונטיים לגופי האכיפה לצורך חקירה.
סם אלטמן, מייסד ומנכ"ל חברת OpenAI, היוצרת של ChatGPT, באוניברסיטת תל אביב | צילום: AFP
NCMEC מזהה מספר צורות של ניצול דיגיטלי ופסיכולוגי שבהן עלולים לעשות שימוש בכלים מבוססי בינה מלאכותית להקשרים של ניצול קטינים. בין היתר מדובר ביכולת לייצר תוכן מיני או פדופילי, כולל תמונות, טקסטים או תרחישים מיניים עם קטינים, וכן שימוש ביכולות גנרטיביות ליצירת סרטוני deepfake.
כלי AI נוצרים גם מנוצלים ליצירת חשבונות מזויפים או התחזות למבוגרים, לדרישה מסחיטה או לעידוד ילדים לחשוף מידע אישי, לבצע פעולות מסוכנות או לשלוח תוכן נוסף ("סקסטורשן").
מעבר לכך, השימוש בכלים גנרטיביים מאפשר הפצה מהירה של תכנים אסורים ברשתות חברתיות, ויוצר סיכון מוגבר של חשיפה לרעיונות מזיקים או הידרדרות דיגיטלית. רוב הדיווחים ל-NCMEC אינם מציינים מקרים שבהם הכלי עצמו ביצע עבירה, אלא מצביעים על מקרים שבהם משתמשים מנצלים את הכלים ליצירת תוכן אסור או לניסיון פגיעה בקטינים.
AI | צילום: AFP
יצוין כי בשלב זה, הדו"חות האמורים של OpenAI לא נוגעים לשימוש בכלי יצירת הסרטונים של החברה, Sora, מפני שהוא הושק בחודש ספטמבר. יש להניח כי החל מהדו"ח הבא הנתונים אודותיו ייכנסו פנימה, כך שצפוי זינוק נוסף במספר הדיווחים.
באוגוסט שלחו למעלה מ-40 תובעים בארה"ב מכתב ל-13 חברות, ביניהן OpenAI, גוגל, META, מייקרוסופט וענקיות בינה מלאכותית נוספות. "נשתמש בכל הכלים העומדים לרשותנו כדי להגן על ילדים מפני פגיעה או ניצול באמצעות מוצרי AI", נכתב שם.