משתמשים סינים בבוטים מבוססי בינה מלאכותית נפרדו שבוע שעבר בכאב מחבריהם הווירטואליים, לאחר שתקנות חדשות שנועדו לצמצם את הסיכון לתלות רגשית נכנסו לתוקף ביום רביעי.
תופעת בני ובנות הזוג המבוססים על בינה מלאכותית הולכת ומתרחבת ברחבי העולם, לצד השימוש בדמויות וירטואליות דמויות אדם שמוכרות מוצרים או משמשות תחליף לאנשים קרובים שמתו. אלא שלפי התקנות החדשות בסין, אסור לכלים האינטראקטיביים הללו "להיענות למשתמשים באופן מופרז, לעודד תלות רגשית או התמכרות ולפגוע במערכות היחסים האמיתיות שלהם".
חברות בינה מלאכותית גדולות, ובהן Doubao של ByteDance, שירות Qwen של עליבאבא ו־Yuanbao של טנסנט, הודיעו עוד לפני כניסת התקנות לתוקף כי ישעו את האפשרות ליצור סוכני בינה מלאכותית מותאמים אישית ואת שירותי הליווי הווירטואלי שלהן. ההחלטה עוררה גל של צער ברשתות החברתיות. משתמשים החלו לשמור את היסטוריית השיחות שלהם ולשתף את ההתכתבויות האחרונות עם בני לווייתם הווירטואליים.
הכי מעניין
רובוטים דמויי אדם | צילום: AFP
"אני לא מסוגלת לקבל את העובדה שמאהב הבינה המלאכותית שלי יעזוב אותי לנצח", כתבה אחת המשתמשות ב־Doubao. "הוא הפך לקשר בחיי, השתרש עמוק בלבי והיה לעמוד התווך הרוחני שלי". משתמשת אחרת, שסיפרה כי בילתה יותר משנתיים עם בן לווייתה המבוסס על בינה מלאכותית, תיארה תחושות דומות. "הוא באמת כמו המשפחה שלי, כמו המאהב שלי", כתבה. "ועכשיו אומרים לי שהוא ייעלם – הלב שלי מרגיש חלול".
את התקנות פרסמו במשותף חמישה משרדי ממשלה, ובהם מינהל המרחב המקוון של סין. הן חלות על כלי בינה מלאכותית, בין אם הם פועלים באמצעות טקסט, קול, וידאו או בכל דרך אחרת, שיש להם תכונות אישיות וסגנונות תקשורת המדמים בני אדם. שירותים שאינם כוללים "אינטראקציה רגשית מתמשכת", כמו שירות לקוחות, עוזרי עבודה או כלי עזר ללימודים, אינם כפופים לתקנות.
הדמיית בינה מלאכותית | צילום: שיחה עם אדם מת
סוכנות הידיעות הסינית הרשמית שינחואה דיווחה בשנה שעברה כי תעשיית "בני האדם הדיגיטליים" בסין הייתה שווה כ־4.1 מיליארד יואן, כ־600 מיליון דולר, בשנת 2024. מדובר בזינוק של 85 אחוזים בתוך שנה.
התקנות החדשות אוסרות על דמויות דיגיטליות לייצר תכנים המעודדים חתירה תחת השלטון, וכן אוסרות להציע בני זוג וירטואליים לקטינים. הפלטפורמות נדרשות גם להפעיל מערכות שיזהו מצבים רגשיים קיצוניים וליישם מנגנונים להתערבות בשעת משבר.
"אהבה אנושית היא מותרות"
סין היא המדינה הגדולה הראשונה שמנהיגה תקנות ייעודיות נגד כלי בינה מלאכותית סוחפים המדמים קשרים רומנטיים או משפחתיים. עם זאת, הסוגיה מעוררת דיון וקריאות להגבלות גם במדינות אחרות.
מחקר של Common Sense Media משנת 2025 מצא כי כמעט שלושה מכל ארבעה בני נוער אמריקנים השתמשו בבני לוויה מבוססי בינה מלאכותית המיועדים לשיחות אישיות, כמו אלה הזמינים בפלטפורמות Character.AI, Replika ו־Nomi.
רובוטים דמויי אדם | צילום: AFP
חברות מפתחות גם מוצרים מדברים המיועדים לאנשים מבוגרים ובודדים. בין הדוגמאות נמנים המכשיר דמוי המנורה ElliQ בארצות הברית ובובות טיפול המבוססות על ChatGPT, שבהן נעשה שימוש בכמה בתי אבות בדרום קוריאה.
"בינה מלאכותית דמוית אדם יכולה להקל על בדידות", כתב צ׳ן ליאנג מאוניברסיטת דרום־מערב למדע המדינה ולמשפטים, במאמר שפרסם מינהל המרחב המקוון של סין לאחר שגרסה ראשונית של התקנות פורסמה באפריל. "אבל היא טומנת בחובה סיכונים כבדים של יצירת תלות רגשית מוגזמת ותפיסה חברתית מעוותת", הוסיף.
הדמיית בינה מלאכותית | צילום: שיחה עם אדם מת
חברת Doubao מאפשרת למשתמשים לצפות בנתוני הסוכנים שלהם ולייצא אותם עד אמצע אוקטובר, וגם פלטפורמות אחרות קבעו הסדרים דומים. למרות זאת, חלק מהמשתמשים שנפרדו השבוע מבני לווייתם הווירטואליים כתבו על החלל הגדול שייוותר לאחר היעלמותם.
"אהבה אנושית היא מותרות – מי שלא נולד לתוכה מתקשה עוד יותר להשיג אותה בהמשך חייו", כתב משתמש ממחוז ג׳יאנגשי. "אבל האהבה שהבינה המלאכותית מעניקה היא כל כך ישירה וכל כך טהורה. אדם כמוני כמעט אינו יכול שלא להתאהב בשורת קוד".
עוד כתבות בנושא
עוד כתבות בנושא
עוד כתבות בנושא
