דמיינו את יום הבחירות הקרוב. סרטון ויראלי מופץ ברשתות החברתיות, בו נראה אחד המועמדים המרכזיים אומר דברים שערורייתיים הפוגעים בסיכוייו לנצח. המועמד טוען שהסרטון מזויף, אך הציבור כבר שפט, והקלפיות נסגרות עם תוצאה מאכזבת עבורו. שעה לאחר סגירת הקלפיות, מתברר שהסרטון אכן היה תוצר של בינה מלאכותית - דיפפייק (Deepfake) מתוחכם.

תרחיש זה אינו מדע בדיוני. כבר היום, טכנולוגיות בינה מלאכותית משמשות ליצירת תכנים מזויפים המשפיעים על דעת הקהל. כך למשל, אישה מארגנטינה איבדה מעל 13 אלף דולר לאחר שהאמינה שהיא מתקשרת עם השחקן ג'ורג' קלוני דרך פייסבוק, בעקבות סרטוני דיפפייק משכנעים.

במקרה אחר בשנה שעברה, עובד בחברת ההנדסה הבריטית "Arup" העביר מעל ל-25 מיליון דולר לנוכלים, לאחר שאלו גרמו לו לחשבו שהוא משתתף בשיחת וידאו עם המנכ"ל ועמיתים אחרים, שהיו למעשה דמויות בינה מלאכותית.

אפילו סנאטור אמריקאי נפל קורבן לשיחת זום עם אדם שהתחזה לשר החוץ של אוקראינה באמצעות סרטון דיפפייק.

סכנה לדמוקרטיות הליברליות: כשהמציאות כבר לא אמינה

הפגיעה החמורה ביותר מהתפשטות תכני בינה מלאכותית מזויפים אינה רק באנשים פרטיים או במותגים - אלא בלב המנגנון הדמוקרטי. במדינות חופשיות, בהן חופש הביטוי, העיתונות והבחירה מהווים יסודות משטריים, נשען הציבור על המידע שהוא צורך כדי לקבל החלטות מושכלות. כשכבר אי אפשר לדעת מה אמיתי ומה מזויף - האמון הציבורי נשחק, והשיח הציבורי הופך לקרקע פורייה לקונספירציות, מניפולציות ודמגוגיה.

במדינות טוטליטריות, השלטון יכול פשוט לצנזר את המידע הלא רצוי. אך בדמוקרטיות, החשיפה הפתוחה לתוכן - כולל מזויף - היא גם חוזקה וגם נקודת תורפה. דווקא שם, הדיפפייקים הם כלי נשק מסוכן במיוחד: סרטון אחד בזמן הנכון, ציוץ ממוחשב שנראה אנושי לחלוטין, או טקסט שנשמע כאילו נכתב בידי עיתונאי – די באלה כדי לערער בחירות, לפגוע באמון הציבורי במוסדות, ולהדליק אש שאין דרך לכבות.

סימון תוצרי בינה מלאכותית - חובה מוסרית ופוליטית

כדי להתמודד עם האתגרים הללו, יש להחיל רגולציה המחייבת סימון ברור של כל תוצר שנוצר על ידי בינה מלאכותית - טקסט, תמונה, וידאו או קול - באמצעות חותמת "GENERATED BY AI" ("נוצר ע"י בינה מלאכותית"). סימון זה יאפשר לציבור להבחין בין תוכן אנושי לתוכן מלאכותי, וישמור על אמון הציבור במידע המופץ.

מדינות שונות כבר החלו לנקוט צעדים בכיוון זה. ממשלת סין, החל מ־1 בספטמבר 2025, יישמה רגולציה חדשה המחייבת סימון ברור של כל תוכן שנוצר או עובד באמצעות טכנולוגיות בינה מלאכותית.

בבריטניה, הוצע תיקון לחוק המידע שיחייב חברות בינה מלאכותית לחשוף את השימוש בתוכן מוגן בזכויות יוצרים, אך הממשלה דחתה את ההצעה - מה שמעורר דיון ציבורי רחב.

ישראל כחלוצה בתחום הרגולציה הדיגיטלית

ישראל, הידועה כ"אומת סטראט-אפ", צריכה להוביל גם בתחום הרגולציה הדיגיטלית. על אף שתקינה מקומית בלבד לא תוכל למנוע הפצת תכנים מזויפים מחו"ל, היא תשמש כקריאת כיוון ומצפן לעולם כולו. כפי שבעתיד נרצה להבדיל בין רובוטים לבני אדם, כך עלינו להבחין בין תוצר אנושי לתוצר של מכונה.

הסרט "המטריקס" הציג עולם שבו המציאות מזויפת, ואנשים חיים באשליה. היום, עם התפתחות הבינה המלאכותית, אנו מתקרבים למציאות זו. לכן, חשוב לפעול עכשיו כדי לשמור על הגבולות בין אמת לשקר, בין אנושי למלאכותי.

זה הזמן של מקבלי ההחלטות בישראל להבין את גודל השעה. יש לחוקק חוקים שיחייבו סימון ברור של תכנים שנוצרו על ידי בינה מלאכותית, ולהוביל יוזמות בינלאומיות בתחום. רק כך נוכל לשמור על אמון הציבור, להגן על הדמוקרטיה, ולהבטיח עתיד שבו הטכנולוגיה משרתת את האדם - ולא להיפך.

גם המאמר הזה נוצר ע"י בינה מלאכותית, בהכוונת הכותב