מלזיה ואינדונזיה הפכו למדינות הראשונות שחוסמות את גרוק, צ’אטבוט הבינה המלאכותית שפיתחה חברת xAI של אילון מאסק, על רקע חששות גוברים בקרב רשויות ברחבי העולם כי נעשה בו שימוש לרעה ליצירת תמונות מיניות מפורשות וללא הסכמה.
הצעדים משקפים הגברת פיקוח על כלי בינה מלאכותית יוצרת, המסוגלים להפיק תמונות, צלילים וטקסט מציאותיים, וכן חשש שאמצעי ההגנה הקיימים אינם מצליחים למנוע את ניצולם לרעה. צ’אטבוט גרוק, שניתן לגישה דרך פלטפורמת הרשת החברתית X של מאסק, ספג ביקורת על יצירת תמונות שעברו מניפולציה.
בשבוע שעבר הגביל גרוק את יצירת ועריכת התמונות למשתמשים משלמים בלבד, בעקבות תגובת נגד עולמית על דיפ־פייקים מיניים של אנשים, אך מבקרים טוענים שהמהלך לא פתר את הבעיה במלואה.
הכי מעניין
אילון מאסק מציג את גרוק 2 . | צילום: מסך מיוטיוב
בקשת תגובה שנשלחה בדוא״ל מטעם סוכנות הידיעות AP ל־xAI נענתה בהודעה אוטומטית מכתובת התמיכה לתקשורת, שבה נכתב: “Legacy Media Lies”. זה היה אותו מסר שהתקבל מכתובת דוא״ל אחרת, כאשר התבקשה תגובה בנוגע לתגובת הנגד העולמית.
רגולטורים בשתי המדינות בדרום־מזרח אסיה אמרו כי מנגנוני הבקרה הקיימים אינם מונעים את יצירתו והפצתו של תוכן פורנוגרפי מזויף, במיוחד כזה המעורב בו נשים וקטינים. ממשלת אינדונזיה חסמה זמנית את הגישה לגרוק ביום שבת, ולאחריה עשתה זאת מלזיה ביום ראשון.
״הממשלה רואה בדיפ־פייקים מיניים ללא הסכמה פגיעה חמורה בזכויות האדם, בכבוד האדם ובבטיחות האזרחים במרחב הדיגיטלי״, אמרה שרת התקשורת והעניינים הדיגיטליים של אינדונזיה, מיוטיה חפיד, בהצהרה ביום שבת. המשרד מסר כי הצעד נועד להגן על נשים, ילדים והציבור הרחב מפני תוכן פורנוגרפי מזויף שנוצר באמצעות בינה מלאכותית.
טלפון סלולרי, אפליקציות | צילום: EPA
ממצאים ראשוניים הראו כי לגרוק אין אמצעי הגנה יעילים המונעים ממשתמשים ליצור ולהפיץ תוכן פורנוגרפי המבוסס על תמונות אמיתיות של תושבי אינדונזיה, כך אמר אלכסנדר סאבר, מנכ״ל הפיקוח על המרחב הדיגיטלי, בהצהרה נפרדת. לדבריו, פרקטיקות כאלה עלולות להפר זכויות לפרטיות ולדימוי כאשר תמונות עוברות מניפולציה או משותפות ללא הסכמה, ולגרום לפגיעה נפשית, חברתית ותדמיתית.
בקואלה לומפור הורתה רשות התקשורת והמדיה של מלזיה ביום ראשון על הגבלה זמנית של גרוק, לאחר שלדבריה נעשה “שימוש חוזר ונשנה לרעה” בכלי ליצירת תמונות שעברו מניפולציה, מגונות, מיניות וללא הסכמה, לרבות תוכן שבו מעורבים נשים וקטינים.
אילון מאסק. | צילום: EPA
הרגולטור מסר כי ההודעות שנשלחו החודש ל־X Corp ול־xAI בדרישה לחיזוק אמצעי ההגנה נענו בעיקר בהסתמכות על מנגנוני דיווח מצד משתמשים. ״ההגבלה מוטלת כצעד מניעתי ומידתי כל עוד ההליכים המשפטיים והרגולטוריים נמשכים״, נמסר, תוך הוספה כי הגישה תישאר חסומה עד שיוטמעו אמצעי הגנה יעילים.
חקירה נפתחה בבריטניה
גרוק, שהושק ב־2023, ניתן לשימוש חופשי ב־X. משתמשים יכולים להפנות אליו שאלות בפלטפורמה ולתייג פוסטים שיצרו בעצמם או תגובות לפוסטים של משתמשים אחרים. בקיץ שעבר הוסיפה החברה תכונת מחולל תמונות בשם Grok Imagine, שכללה מצב המכונה “spicy mode”, היכול לייצר תוכן למבוגרים.
בינה מלאכותית. | צילום: שאטרסטוק
ההגבלות בדרום־מזרח אסיה מגיעות על רקע פיקוח הולך ומתגבר על גרוק במקומות נוספים, ובהם האיחוד האירופי, בריטניה, הודו וצרפת. ביום שני הודיעה רשות הפיקוח על התקשורת בבריטניה כי פתחה בחקירה רשמית לבדיקת השאלה האם גרוק “עמד בחובותיו להגן על אנשים בבריטניה מפני תוכן שאינו חוקי”.
הרשות, Ofcom, אמרה כי תמונות שיצר גרוק ובהן מיניות של ילדים או הפשטה של אנשים עשויות להיחשב לפורנוגרפיה או לחומר של פגיעה מינית בילדים. ״התוכן שנוצר וששותף באמצעות גרוק בימים האחרונים היה מטריד מאוד״, אמרה שרת הטכנולוגיה ליז קנדל.
עוד כתבות בנושא
