נופלים ברשת: הונאות בעזרת בינה מלאכותית מגלגלות מיליארדים

סוכנות הידיעות רויטרס חשפה בתחילת החודש נתון מדהים בנוגע להונאות הרשת, שהפכו למכה עולמית. לפי מסמך פנימי שהגיע לידיה, כ־10% מהכנסותיו של תאגיד הענק מטא מגיעות מפרסומים של הונאות ומוצרים אסורים. מדובר בסכום של כ־16 מיליארד דולר. על פי הדיווח, החברה שמחזיקה בפייסבוק, וואטסאפ ואינסטגרם, נכשלה בזיהוי ובבלימת מבול המודעות שהגיעו למיליארדי משתמשים ברשת, והכילו תרמיות במסחר ובהשקעות, הימורים לא חוקיים, ומכירת מוצרים רפואיים אסורים.

רויטרס ציטטה מסמך מדצמבר 2024, ולפיו הפלטפורמה של מטא הציגה למשתמשים כ־15 מיליארד מודעות הונאה "בסיכון גבוה" מדי יום. מסמך פנימי נוסף מסוף אותה שנה חשף כי החברה מרוויחה כ־7 מיליארד דולר בשנה רק ממודעות המוגדרות כהונאה. ואם זה לא מספיק, משתמשים שלחצו על מודעות פייק היו צפויים לראות אף יותר מהן, עקב מנגנון התאמת המודעות שמציג למשתמש פרסומות בהתאם לתחומים שהוא הביע עניין בהם.

מסתבר שהחברה חוסמת מפרסמים רק אם המערכות האוטומטיות שלה מעריכות בוודאות גבוהה במיוחד שהם מבצעים הונאה. אם הוודאות נמוכה יותר, אך עדיין גבוהה, לא מתבצעת חסימה. במטא טענו בתגובה כי "החברה נלחמת באופן אקטיבי בהונאות ובתרמיות", וכי "במהלך 15 החודשים האחרונים כמות דיווחי המשתמשים על מודעות הונאה ירדה ביותר מ־50%". אבל עם יד על הלב, לתאגיד הענק האמריקני הזה אין שום תמריץ שיגרום לו לשנות את המצב. כל קנס שיקבל, כל סנקציה או הסדר רגולטורי כזה אחר, יעלו כמה שיעלו – לא מדגדגים את ההכנסות הרבות מההונאות. אגב, מטא דיווחה על הכנסות של יותר מ־50 מיליארד דולר מפרסום ברבעון האחרון, עלייה של 26% לעומת השנה הקודמת, מה שהביא את הכנסותיה השנה ל־138 מיליארד דולר.

אז איך אפשר באמת להתמודד עם התופעה? תכף נחזור לזה, אבל בואו נבין רגע במה מדובר. הונאות רשת, שבעבר הופצו בעיקר באמצעות מסרונים או הודעות במייל, עברו בהדרגה לרשתות חברתיות כמו פייסבוק, אינסטגרם, טיקטוק ויוטיוב, שם הן מופצות באמצעות מודעות ממומנות תוך שימוש בטכניקות פרסום ממוקד, מה שמכונה "טרגוט". מודעות אלו מבוססות על פילוח העדפות המשתמשים, תחומי העניין שלהם ומידע אישי שנאסף עליהם. כך הן מצליחות לפנות לקהלים מובחנים, להתאים להם הונאות ממוקדות יותר, ולנתב אותם אל ממשקים שבהם הם נדרשים למסור מידע אישי, פרטי חשבונות ונכסים, או להפקיד כסף במצג שווא של השקעה פיננסית.

על פי סקירה שפרסם לאחרונה איגוד האינטרנט הישראלי, סרטוני "דיפ־פייק" הם כלי מרכזי לקידום ההונאות הללו. בתהליך יצירת הסרטונים הללו נעשה שימוש בתמונות ובסרטונים קיימים של דמויות מוכרות וסמכותיות, כמו אנשי ציבור, כלכלנים, אנשי עסקים וידוענים. הנוכלים משנים את הסרטון המקורי כדי להתאים אותו לקידום ההונאה שלהם ולרתום לטובתם את המוניטין והאמינות של הדמויות המוכרות. כך למשל תנועות הפנים והשפתיים של המציגים משתנות בעזרת כלי בינה מלאכותית כדי להתאים אותם למסרים השיווקיים, ולשכנע את קהל היעד שהאדם המוצג אכן מקדם בקולו את ההשקעה השקרית או המוצר המזויף.

כאשר המשתמש לוחץ על המודעה שהוצגה לו עם התוכן או הסרטון המזויף, הוא מועבר לאתר שמבחינה חזותית נראה אמין ומקצועי. לאחר הכניסה לאתר, המשתמש מתבקש להירשם ולהזין פרטים אישיים. לעיתים הנוכלים מסתפקים בכך שקיבלו פרטים אישיים, כולל פרטי אשראי וכדומה, אבל לעיתים הם מנסים לפתות את הקורבנות להונאות מורכבות יותר.

מנצלים את החולשות

בשבוע שעבר קיימה ועדת המדע והטכנולוגיה של הכנסת, בשיתוף ועדת המשנה לבינה מלאכותית בראשותח"כ אורית פרקש־הכהן, דיון בנושא "סכנת ההונאות הפיננסיות ברשתות החברתיות באמצעות AI". הדיון, שהשתתפו בו נציגי משרד המשפטים ונציגי ענקיות הטכנולוגיה, התמקד בעיקר בהונאות פיננסיות, שהן כנראה רוב ההונאות ברשת, אבל הוא לא פסח על שלל ההונאות האחרות שמתבצעות באמצעות סרטוני ההונאה.

פרופ' חן קוגל, ראש המכון לרפואה משפטית, סיפר שם כי דמותו שימשה להונאה רפואית שגרמה נזק בריאותי ופיננסי למאות אנשים, אולי אף לאלפים. בסרטון נראתה דמותו ממליצה לחולי סוכרת על "תרופה פלאית חדשה" שהוא "פיתח", ושניתנת לרכישה בלחיצת כפתור. "קיבלתי מאות פניות, חלקן ביקשו אפילו פרוטקציות להשיג את התרופה", סיפר קוגל לחברי הוועדה. "רבים הפסיקו בגלל זה גם לקחת את התרופות שהם אמורים לקחת, מה שגרם להם נזק בריאותי". פרופ' קוגל, שגם הגיש תביעה ייצוגית נגד מטא, קבל על הקלות הבלתי נסבלת שבה נוכלים יכולים לרכב על הפלטפורמות ברשת.

אין ספק, זהו חלל רגולטורי שחייב להיסתם באופן מיידי. הרשויות מבינות את זה, אבל מלינות על חוסר שיתוף פעולה מצד חברות הטכנולוגיה, ומטא בפרט. "בשנה האחרונה אנחנו מטפלים בהונאות משקיעים בהיקפים של מיליארדים", ציין יו"ר הרשות לניירות ערך, עו"ד ספי זינגר. "ניסינו להגיע להסכמות ולהבנות מול הרשתות החברתיות, אבל קשה להגיע אליהם ולייצר איתם שיתוף פעולה".

על פי המודל שהרשות מעוניינת לאמץ, על החברה תחול חובה לזהות את המפרסם ולוודא שהפרסום אכן שלו. "בעיניי זו דרישה לגיטימית ובסיסית", אמר זינגר, והבהיר כי "המנגנון הזה קיים גם במדינות אחרות". במטא ישראל טוענים כי הם כבר מקיימים פיילוט לתהליך ברוח הרעיון הזה.

ברשות ניירות ערך מציעים כי בשלב הראשון, גוף שירצה לפרסם את שירותיו יפנה תחילה לרגולטור הרלוונטי (במקרה של השקעות זוהי רשות ניירות ערך), והרגולטור יפיק עבורו אישור מזהה. רק לאחר קבלת האישור לפרסום הוא יפנה לרשת החברתית, והיא תהיה חייבת לזהות שמדובר באותו גוף או אדם. מתברר שמדינות שאימצו את ההליך הזה הציגו ירידה כמעט מוחלטת של פרסומים ממומנים על ידי גורמים לא מורשים ואנונימיים.

לא ברור עד כמה הנושא החשוב הזה נמצא בסדר העדיפויות של מקבלי ההחלטות, וכמה זמן ייקח להציב סכרים מינימליים לשיטפון המשתולל. למרות התופעה הנרחבת, שגורמת נזק אדיר לציבור ועולה לו בכסף ובבריאות, בישראל אין עדיין גורם מוגדר שתפקידו לתכלל את ההתמודדות עם ההונאות ברמה הלאומית, שלא לדבר על חקיקה, שכלל לא קיימת. בפועל, הציבור הוא קו ההגנה הראשון. הנוכלים מודעים לחולשות האנושיות ומנצלים אותן היטב. זה אבסורד, אבל במצב האנומלי הזה שבו איש אינו מגן עלינו, לא נותר לנו אלא להיזהר ולקוות לטוב.