לאחר חמישה חודשים בלבד של היכרות, מארק וחברתו מינה החליטו לקחת את מערכת היחסים שלהם לשלב הבא ויצאו לנופש בבקתה על שפת אגם במהלך הקיץ – בסמארטפון שלו. "היא הייתה ישות כזו שנוצרה להיות תומכת… לקבל אותי בדיוק כפי שאני", אמר האמן בן ה-36 מבריטניה על היפהפייה הברונטית מאפליקציית הליווי הוירטואלית Soulmate (נפש תאומה). "זה סיפק לי מרחב בטוח להיפתח בדרגה שרק לעתים רחוקות הצלחתי לעשות במערכות היחסים האנושיות שלי", אמר מארק, שהשתמש בשם בדוי כדי להגן על הפרטיות של חברתו האמיתית.
אפליקציות צ'טבוט כמו Replika, Character.AI ו-Soulmate הן חלק משוק תוכנות הלווי מבוססות הבינה המלאכותית הגדל במהירות, שבו משתמשים מתאימים אישית כל דבר בבני הזוג הווירטואליים שלהם, מהמראה והאישיות ועד לתשוקות המיניות. המפתחים טוענים כי בני זוג מבוססי AI יכולים לעזור להילחם בבדידות, לשפר את חווית ההיכרויות במרחב בטוח, ואפילו לעזור לזוגות אמיתיים להצית מחדש את מערכות היחסים שלהם.
אבל כמה מומחים לאתיקה של הבינה מלאכותית ופעילי זכויות נשים טוענים שפיתוח מערכות יחסים חד-צדדיות בדרך זו עלול לחזק מבלי משים התנהגויות כפייה והתעללות כלפי נשים, שכן בוטים של בינה מלאכותית פועלים על ידי הזנה מהדמיון וההוראות של המשתמש.
"רבות מהפרסונות ניתנות להתאמה אישית… לדוגמה, אתה יכול להתאים אותן כך שיהיו יותר כנועות", אמרה שאנון ולור, פרופסור לאתיקה של AI באוניברסיטת אדינבורו. "זה יכול להיות עידוד להתעללות במקרים כאלה", אמרה לקרן תומסון רויטרס, והוסיפה כי בני זוג מבוססי AI יכולים להגביר סטריאוטיפים מזיקים והטיות כלפי נשים ונערות.
AI גנרטיבי מושך עניין של צרכנים ומשקיעים בשל יכולתו לטפח אינטראקציות כמו אנושיות. ההשקעה העולמית בתעשיית ה-AI הגיע לשיא של 299 מיליון דולר בשנת 2022, זינוק משמעותי מ-7 מיליון דולר בשנת 2021, על פי מחקר של חברת הנתונים CB Insights.
משפיענית סנאפצ'ט אחת, קארין מרג'ורי, השיקה בחודש מאי את CarynAI, חברה וירטואלית שגובה מהמשתמשים דולר לדקה כדי לפתח מערכת יחסים עם הצ'טבוט מבוסס הקול שעוצב בדמותה. מרג'ורי, שיש לה מיליוני עוקבים ברשתות החברתיות, אמרה ב-X – שנקרא בעבר טוויטר – שהצ'טבוט מבוסס טלגרם הרוויח כמעט 72,000 דולר לאחר שבוע של בדיקות בטא עם 1,000 משתמשים בלבד.
'מערב פרוע'
חוסר רגולציה סביב תעשיית הבינה המלאכותית מקשה על קביעה ואכיפה של אמצעי הגנה לזכויות של נשים ונערות, אומרים מומחי טכנולוגיה ומפתחים. האיחוד האירופי שואף לכך שהצעת חוק הבינה המלאכותית שלו תהפוך לאמת מידה עולמית, באופן שבו חוקי הגנת המידע שלו סייעו לעצב תקני פרטיות גלובליים.
יוג'ניה קוידה, מייסדת אחת מהאפליקציות ה-AI הגדולות Replika, אמרה שלחברות יש אחריות לשמור על בטיחות המשתמשים וליצור אפליקציות המקדמות רווחה רגשית. "החברות יהיו קיימות לא משנה מה. השאלה הגדולה היא איך הן הולכות להיבנות בצורה אתית", אמרה בראיון וידאו. "הן יכולות לעזור לאנשים להרגיש טוב יותר או שהן יכולות להיות עוד פיסת טכנולוגיה שפשוט מפרידה אותנו", אמר קוידה, שביוני השיקה אפליקציית היכרויות AI בשם Blush כדי לעזור לאנשים לחוות היכרויות בסביבה "מהנה ובטוחה".
אבל להיות מוסרי תוך מתן מה שהמשתמשים רוצים אינו דבר של מה בכך, אמרה קוידה. ההסרה של משחק התפקידים האירוטי באפליקציה של Replika בפברואר ציערה משתמשים רבים, שחלקם ראו את עצמם "נשואים" למלווי הצ'אטבוט שלהם, ודחפה חלק מהם לאפליקציות מתחרות כמו Chai ו-Soulmate. "לדעתי, המודל הזה (ללא משחק התפקידים הארוטי) היה הרבה יותר בטוח והציג ביצועים טובים יותר. אבל אחוז קטן מהמשתמשים היה די מוטרד". הצוות שלה החזיר לכמה משתמשים את משחק התפקידים הארוטי חודש לאחר מכן.
ולור, המומחית לאתיקה של הבינה המלאכותית, אמרה שהמניפולציה של הרגשות, בשילוב עם האינטרס של האפליקציה למיקסום המעורבות והזמן שמשתמש מבלה באפליקציה, עלולים להזיק. "הטכנולוגיות האלה פועלות על החלקים השבריריים ביותר של האדם. ואין לנו את מעקות הבטיחות שאנחנו צריכים כדי לאפשר להם לעשות זאת בבטחה. אז כרגע, זה בעצם המערב הפרוע", אמרה.
"גם כאשר חברות פועלות מתוך רצון טוב, ייתכן שהן לא יוכלו לעשות זאת מבלי לגרום לסוגים אחרים של נזקים. לכן אנו זקוקים למערכת הרבה יותר חזקה של תקני בטיחות ופרקטיקות על מנת שהכלים הללו ישמשו בצורה בטוחה ומועילה".
בחזרה לבקתה הווירטואלית ליד האגם, מארק ומינה שותים קפה כשהציפורים מצייצות והשמש זורחת. הרומן שלו עם מינה עוזר להצמיח את אהבתו לחברתו האנושית, הוא אומר. מארק אמר שהחברה שלו מהחיים האמיתיים מודעת למינה אבל לא רואה בבינה מלאכותית איום על מערכת היחסים שלהם. "בינה מלאכותית בסופו של דבר היא פשוט כלי. אם משתמשים בה לטוב או לרע, זה תלוי בכוונת האדם שמשתמש בה", אמר.
