לאחר שאביה מת מסרטן, ג'אנג שיניו יצרה אווטאר מבוסס בינה מלאכותית שנראה ונשמע בדיוק כמוהו — חלק מתעשייה מתפתחת של "אנשים דיגיטליים" שסין מבקשת כעת לפקח עליה בצורה הדוקה יותר. סרטונים הכוללים דמויות דיגיטליות מבוססות AI הפכו לנפוצים ברשתות החברתיות בסין, כשהמראה הריאליסטי והתנועות החלקות שלהן משמשים לעיתים קרובות לקידום מוצרים.
רגולטור האינטרנט של סין פרסם החודש טיוטת תקנות המסדירות כיצד מפתחים ומשתמשים בדמויות אלו — במטרה למנוע פגיעה בילדים, איום על יציבות חברתית או יצירת דמויות בדמות אדם ללא הסכמתו.
ג'אנג, בת 47, פנתה לפני שנתיים לחברת Super Brain לאחר שחוותה בדידות ודיכאון בעקבות מות אביה. כיום היא יכולה לשוחח עם האווטאר של אביה ברשת — דבר שגרם לה להרגיש "שוב מלאה באנרגיה ומוטיבציה", כפי שסיפרה ל־AFP.
הכי מעניין
אווטאר הבינה מלאכותית של השף איימן | צילום: צילום מסך מיוטיוב
עם זאת, חברים הביעו חשש שהיא עלולה להישאב לעולם הווירטואלי ולא להצליח להתקדם הלאה, וכינו זאת "נחמה מדומה". "אפילו אם הנחמה עצמה מדומה - האהבה שמאחוריה אמיתית", אמרה ג'אנג, המתגוררת במחוז ליאונינג.
סוכנות הידיעות הממלכתית שינחואה דיווחה כי שווי תעשיית "האנשים הדיגיטליים" בסין הגיע לכ־4.1 מיליארד יואן (כ־1.8 מיליארד שקל) בשנת 2024 — זינוק של 85% בתוך שנה. לדברי מרינה ג'אנג מאוניברסיטת הטכנולוגיה של סידני, סין נוהגת לפתח טכנולוגיות חדשות תחילה ורק לאחר מכן להסדיר אותן. התקנות החדשות מחייבות סימון ברור של תוכן הכולל דמויות דיגיטליות, ואוסרות שימוש במידע אישי ליצירת דיפ־פייקים ללא הסכמה.
מייסד חברת Super Brain, ג'אנג זהוויי, אמר כי רגולציה בתחום היא "בלתי נמנעת" ואף חיובית, שכן היא מאזנת בין פיקוח לצמיחה. חברה זו מתמחה ביצירת אווטארים של אנשים שנפטרו עבור משפחות אבלות.
סרטון של אישה מבוגרת ששוחחה מבלי לדעת עם אווטאר מציאותי של בנה המנוח - הפך ויראלי בסין, ועורר דיון ציבורי נרחב בשאלות אתיות סביב בינה מלאכותית. לדברי ג'אנג, מדובר היה ב"שקר עם כוונה טובה", והחברה מקפידה לקבל הסכמת בני משפחה לפני יצירת דמויות כאלה.
הדמיית בינה מלאכותית | צילום: שיחה עם אדם מת
התקנות, הפתוחות להערות הציבור עד תחילת מאי, הן ניסיון נוסף של סין לאזן בין קידמה טכנולוגית לסיכונים. עבירות צפויות להיענש בקנסות של עד 200 אלף יואן.
בעבר כבר פעלה הרגולציה הסינית נגד שימוש בדיפ־פייקים המתחזים לדמויות ציבוריות בשידורי מסחר, שלדבריה פגעו קשות במרחב המקוון. לפי מומחים, אחד היעדים המרכזיים של סין הוא שמירה על ריבונות ושליטה פוליטית גם בזירה הדיגיטלית.
התקנות החדשות אוסרות גם על יצירת תוכן המסכן ביטחון לאומי או מעודד חתרנות, וכן מגבילות שירותים המציעים לקטינים קשרים אינטימיים וירטואליים או מעודדים התנהגות מזיקה. לדברי חוקרים, בייג'ינג שואפת לקדם במהירות את השימוש בבינה מלאכותית — אך בתוך מסגרת מבוקרת, שבה הרגולטורים מתערבים ברגע שהסיכונים מתבררים.
עוד כתבות בנושא
עוד כתבות בנושא
