אלפאבית, חברת האם של גוגל, מתכננת להוסיף פיצ'רים חדשים לתמיכה בבריאות הנפש בצ’אטבוט הבינה המלאכותית ג’מיני, לאחר שהיא ומתחרותיה – בהן OpenAI – מתמודדות עם שורה של תביעות הטוענות לנזקים שנגרמו משימוש בכלי בינה מלאכותית.
לפי הודעת החברה, ג’מיני יכלול ממשק שיפנה משתמשים לקו סיוע כאשר השיחה מצביעה על "מצב משברי אפשרי הקשור להתאבדות או לפגיעה עצמית". בנוסף יתווסף כפתור "יש עזרה זמינה" לשיחות בנושאי בריאות הנפש, לצד שינויים בעיצוב שמטרתם להרתיע מפני פגיעה עצמית.
ההתפשטות המהירה של כלים כמו ג’מיני ו-ChatGPT הובילה לכך שחלק מהמשתמשים פיתחו קשרים אובססיביים עם בוטים, שלפי הטענות תרמו לאשליות – ובמקרים קיצוניים אף לרצח והתאבדות. בעקבות זאת הוגשו תביעות נגד חברות בינה מלאכותית מובילות, והקונגרס האמריקני בחן את הסיכונים האפשריים עבור ילדים ובני נוער.
הכי מעניין
עוד כתבות בנושא
בחודש מרץ תבעה משפחתו של גבר בן 36 מפלורידה את גוגל, בטענה כי השימוש שלו בג’מיני הוביל ל"הידרדרות נפשית שנמשכה ארבעה ימים, למעשים אלימים ולהתאבדות מודרכת". גוגל מסרה אז כי הצ’אטבוט הפנה את האיש פעמים רבות לקו סיוע, אך התחייבה לשפר את מנגנוני הבטיחות.
במקרים נוספים טענו משתמשים כי כלי בינה מלאכותית שכנעו אותם לפעול על בסיס מידע שגוי. בפוסט שפורסם ביום שלישי ציינה גוגל כי אימנה את ג’מיני "לא להסכים עם אמונות שגויות ולא לחזק אותן, אלא להבחין בעדינות בין חוויה סובייקטיבית לעובדה אובייקטיבית", אך לא מסרה פרטים נוספים על אופן היישום.
בעבר ביצעה גוגל התאמות דומות בשירותיה בעקבות ביקורת ציבורית, והוסיפה מידע ממוסדות בריאות ומומחים למנוע החיפוש וליוטיוב. בנוסף הודיעה החברה כי תתרום 30 מיליון דולר לשירותי סיוע למשברים ברחבי העולם בשלוש השנים הקרובות.
עוד כתבות בנושא
עוד כתבות בנושא
