כלי בינה מלאכותית עשויים בקרוב "להשפיע בסתר" על תהליך קבלת ההחלטות של משתמשים כחלק משוק מסחרי חדש המכונה "כלכלת הכוונות", כך הזהירו חוקרים מאוניברסיטת קיימברידג' במאמר שפורסם היום (שני). המחקר טוען כי שוק חדש זה, המתמקד ב"אותות דיגיטליים של כוונה", עשוי להיות "רווחי אך מטריד" בעתיד הקרוב, תוך השפעה על תחומים מגוונים, החל מרכישת כרטיסים לסרטים ועד הצבעה למועמדים פוליטיים.
ההיכרות הגוברת שלנו עם צ'אטבוטים, מדריכים דיגיטליים וכלים אחרים המכונים "סוכנים אנתרופומורפיים" של בינה מלאכותית, מסייעת לאפשר מערך חדש של "טכנולוגיות משכנעות", ציינו החוקרים. על פי המאמר, הבינה המלאכותית תשלב ידע על הרגלים מקוונים עם יכולות גוברות להכיר את המשתמש ולצפות את רצונותיו, ותיצור "רמות חדשות של אמון והבנה".
ללא פיקוח, הדבר עשוי לאפשר "מניפולציה חברתית בקנה מידה תעשייתי", הזהירו שני מחברי המאמר ממרכז לברהולם לעתיד הבינה בקיימברידג', שפורסם במגזין מדעי המידה של הרווארד. המחקר מתאר כיצד המגזר המתהווה הזה – המכונה "כלכלת הכוונות" – יאפיין את תשומת הלב וסגנונות התקשורת של המשתמשים, ויחבר אותם לדפוסי התנהגות והחלטות שהם מקבלים.
"כבר היום מפתחים כלי AI שיכולים להסיק, לאסוף, לתעד, להבין, לחזות, ולבסוף גם למנף ולמסחר תוכניות ומטרות אנושיות", אמר יעקוב צ'ודהרי, אחד ממחברי המחקר. הבינה המלאכותית החדשה תסתמך על מודלים גדולים של שפה (LLMs) כדי לכוון למאפייני המשתמש, כגון קצב דיבור, נטיות פוליטיות, אוצר מילים, גיל, מגדר, היסטוריה מקוונת ואפילו העדפות למחמאות ולחנופה, כך צוין במחקר. הדבר יחובר לטכנולוגיות AI מתקדמות אחרות שמטרתן להשיג יעדים מסוימים, כמו למכור כרטיס לסרט, או להכווין משתמשים למפרסמים, לעסקים ואפילו ארגונים פוליטיים מסוימים.
ג'וני פן, מחבר נוסף של המאמר, הזהיר: "ללא רגולציה, כלכלת הכוונות תתייחס למוטיבציות שלכם כאל המטבע החדש". "יהיה זה מרוץ לזהב עבור אלה שמכוונים, משפיעים וסוחרים בכוונות אנושיות", הוסיף.
"עלינו להתחיל לשקול את ההשפעה הסבירה של שוק כזה על שאיפות אנושיות, כולל בחירות חופשיות והוגנות, עיתונות חופשית ותחרות שוק הוגנת, לפני שנהפוך לקורבנות של ההשלכות הבלתי-מכוונות שלו". פן ציין כי המודעות הציבורית לבעיה היא "המפתח להבטיח שלא נלך בדרך הלא נכונה".
