גל עצום של סרטונים ותמונות שנוצרו באמצעות בינה מלאכותית מציף את הרשתות החברתיות מאז פרוץ המלחמה במזרח התיכון – וחוקרים מזהירים כי מדובר בכמות חסרת תקדים של מידע מטעה שקשה יותר ויותר להבחין בינו לבין תיעוד אמיתי.
בפלטפורמת X של אילון מאסק נפוצים לאחרונה סרטונים שנראים מציאותיים במיוחד: חיילים אמריקנים כביכול בשבי איראן, עיר ישראלית חרבה, או שגרירויות אמריקניות בוערות. חלק מהתכנים הללו הופקו באמצעות AI אך מוצגים כצילומים אמיתיים מהמלחמה.
בינה מלאכותית של גרוק המציגה חיילים אמריקאיים שבויים | צילום: מתוך רשת X
לדברי חוקרי דיסאינפורמציה, היקף התכנים המזויפים גדול יותר מאשר בכל עימות קודם. רבים מהמשתמשים ברשתות החברתיות מתקשים להבחין בין תיעוד אמיתי לבין הדמיות שנוצרו במחשב.
הכי מעניין
בניסיון להתמודד עם התופעה הודיעה X בשבוע שעבר כי תעניש יוצרים שיפרסמו סרטוני מלחמה שנוצרו באמצעות AI מבלי לציין זאת במפורש. לפי המדיניות החדשה, חשבונות כאלה יושעו מתוכנית חלוקת ההכנסות של הפלטפורמה למשך 90 יום, והפרות נוספות עלולות להוביל להשעיה קבועה.
אך חוקרי דיסאינפורמציה ספקנים לגבי האפקטיביות של המהלך. "הפידים שאני עוקב אחריהם עדיין מוצפים בתכני AI על המלחמה", אמר ג'ו בודנר מהמכון לדיאלוג אסטרטגי.
לדבריו, אחד החשבונות הפופולריים ב-X פרסם סרטון AI המתאר תקיפה גרעינית איראנית על ישראל – פוסט שזכה ליותר צפיות מהודעת החברה על המאבק בדיסאינפורמציה.
בדיקות של צוותי בדיקת העובדות של AFP ברחבי העולם מצאו שורה ארוכה של סרטונים מזויפים: חייל אמריקני בוכה בתוך שגרירות מופצצת, חיילים אמריקנים כורעים לצד דגלי איראן, ואפילו צי אמריקני שלם מושמד.
חוקרים מזהירים כי מודל התמריצים של X, שבו חשבונות פרימיום יכולים להרוויח כסף לפי כמות הצפיות והמעורבות, דווקא מעודד הפצת תכנים סנסציוניים – גם אם הם שקריים. לדבריהם, גם אם המדיניות החדשה תאכף במלואה, משתמשים רבים שמפיצים סרטוני AI כלל אינם משתתפים בתוכנית ההכנסות ולכן אינם מושפעים ממנה.
כתוצאה מכך, מומחים מעריכים כי הפלטפורמה תתקשה לעצור לחלוטין את גל הדיסאינפורמציה – במיוחד בזמן מלחמה, כאשר תמונות וסרטונים דרמטיים מתפשטים במהירות עצומה ברשת.
עוד כתבות בנושא
