חברת בינה מלאכותית בריטית אמרה שהיא שוקלת מחדש את אמצעי ההגנה שלה לאחר שתוכנת האודיו שלה שימשה לשכפול קולות של סלבריטאים כדי שיגידו אמירות גזעניות והומופוביות.
חברת Eleven Labs צייצה ביום שני שזה היה "סוף שבוע מטורף" והודתה שמצאה "מספר הולך וגדל של מקרי שימוש לרעה של שיבוט קול", ימים ספורים לאחר שהוציאה גרסה ניסויית של התוכנה.
אמנם החברה לא מסרה פרטים על המקרים, אבל הפורום האינטרנטי 4chan הוצף ב-"deep-fake" (זיוף עמוק) של קולות ידוענים שאמרו אמירות גזעניות, סקסיסטיות והומופוביות. מקור התוכנה ששימשה לזיוף התברר מרבים מהפוסטים בפורום שהזכירו את Eleven Labs. כמו כן חלק מהמשתמשים טוענים שנחסמו על ידי החברה ואילו אחרים סיפקו קישורים לגרסת הניסוי של הכלי.
הסלבריטאים שנפלו קורבן של משתמשי הפורום הידוע לשמצה בהומור הפוגע שלו, תוך שימוש בבינה מלאכותית, כללו, בין השאר, את כוכבי סרטי הארי פוטר והבמאים קוונטין טרנטינו וג'ורג' לוקאס.
חברת Eleven Labs הצהירה על טכנולוגיית השיבוט הקולי שלה כבעלת "פוטנציאל לחולל מהפכה באופן שבו תוכן מיוצר, מועבר ויוצר אינטראקציה במגוון תעשיות". בפרסומיה, הפיקה החברה סרטון של השחקן לאונרדו דיקפריו שמדובב על ידי כמה סלבריטאים אחרים.
החברה צייצה בטוויטר כי הטכנולוגיה שלה יושמה "ברוב מכריע של המקים באופן חיובי", אך אמרה כי יש צורך ב"אמצעי הגנה נוספים". בין האפשרויות שהיא שקלה היו אימות ידני של כל בקשת שיבוט או החמרה של נהלי אימות החשבונות.
תוכנות בינה מלאכותית נחשפות לכמויות עצומות של נתונים – תמונות, אודיו, טקסט או וידאו – המאפשרים להן לחזות בעצם איזה פלט המשתמש ירצה. תוכנת הטקסט ChatGPT כבשה את העולם בסערה עם היכולת שלה ליצור טקסטים ברמה גבוהה יחסית עם מספר הנחיות קטן בלבד. כלי הדמיה כמו Dall-E 2 ו-Midjourney מאיימים לשפר את עולם האמנות והעיצוב בעזרת יכולתם ליצור תמונות מורכבות בסגנון של אמנים מפורסמים.
מן הצד השני, מומחים רבים מביעים חשש שטכנולוגיית שיבוט, במיוחד באודיו ווידאו, עלולה להוביל למבול של deep-fake ודיסאינפורמציה. ראוי לציין שכמה חברות בינה מלאכותית עומדות בפני תביעות של אנשים שטוענים שהחברות הפרו זכויות יוצרים על ידי שימוש בחומר שלהן כבסיס למודלים של בינה מלאכותית.
