שעות ספורות לאחר שהאפיפיור פרסם מסמך בן 47 עמודים ובו אזהרות מפני הסכנות הטמונות בבינה מלאכותית, החלו לצוץ ברשתות החברתיות האשמות מפתיעות: האם המסמך עצמו נכתב, לפחות בחלקו, באמצעות AI?
צילום: Tiziana FABI / AFP
החשד התעורר בעקבות Pangram, כלי פופולרי המשווק כ"גלאי בינה מלאכותית", שקבע כי חלקים מהטקסט נוצרו באמצעות AI. וכך נולדה במהירות השאלה המתבקשת: האם האפיפיור השתמש בבינה מלאכותית כדי לכתוב על הסכנות שבבינה מלאכותית?
בעולם שמתמלא במהירות בטקסטים שנוצרו בידי מכונות, גלאי AI מציעים לכאורה פתרון פשוט. מורים משתמשים בהם כדי לאתר עבודות חשודות של תלמידים וסטודנטים, וברשתות החברתיות תוצאותיהם הופכות לעיתים ל"הוכחה" לכך שמישהו פרסם טקסט שלא כתב בעצמו.
הכי מעניין
אלא שהמציאות מורכבת יותר. מחקרים מצאו כי Pangram מצליח לזהות טקסטים שנוצרו ב-AI בשיעורי הצלחה גבוהים במקרים רבים, אך כמו גלאים אחרים – גם הוא אינו חסין מטעויות.
ב"וושינגטון פוסט" החליטו לבדוק עד כמה קל לבלבל אותו. טקסט שנוצר באמצעות בינה מלאכותית הוזן למערכת, ולאחר מכן הוחלפו בו בהדרגה ביטויים במשפטים שנכתבו בידי בני אדם. המטרה הייתה לראות כמה שינויים נדרשים עד שהמערכת תשנה את פסק הדין ותקבע שהטקסט אנושי.
אחת ההנחות הרווחות היא שסימני פיסוק מסוימים – למשל מקפים ארוכים, המזוהים בשנים האחרונות עם כתיבה של צ'אטבוטים – מסגירים מיד את ה-AI. אלא שהבדיקה הראתה שהחלפת המקפים בפסיקים כמעט לא שינתה את התוצאה. למעשה, אפשר היה לגרום למערכת לזהות את הטקסט כאנושי גם בלי לוותר עליהם.
אז מה בדיוק גורם לגלאי להחליט שטקסט נוצר בידי מכונה? התשובה המפתיעה היא שאיש אינו יכול להצביע על סימן אחד ברור – אפילו לא החברה שפיתחה את הכלי.
עוד כתבות בנושא
בדומה לצ'אטבוטים עצמם, גם מערכות הגילוי הן במידה רבה "קופסה שחורה". הן מאומנות על כמויות עצומות של טקסטים שנכתבו בידי בני אדם לצד טקסטים שנוצרו באמצעות AI, ולומדות לזהות דפוסים עדינים המבדילים ביניהם. הן יכולות לספק תוצאה, אבל בדרך כלל אינן מסוגלות להסביר במדויק כיצד הגיעו אליה.
הגישה הזו נחשבת מוצלחת יותר מדור מוקדם של גלאי AI, שלעיתים הפיקו תוצאות אבסורדיות. בעבר, למשל, היו מערכות שקבעו כי מסמכים היסטוריים שנכתבו מאות שנים לפני המצאת המחשב נוצרו באמצעות בינה מלאכותית.
אולם גם המערכות החדשות ניתנות להטעיה.
כתב ה"וושינגטון פוסט" הזין טקסט שנוצר ב-AI לכלי מסוג "Humanizer" – שירות שנועד לשנות את הניסוח כך שייראה אנושי יותר. גרסה קודמת של Pangram השתכנעה בעקבות השינוי שמדובר בטקסט אנושי. הגרסה החדשה, שהושקה בחודש שעבר, טובה יותר בזיהוי ניסיונות כאלה, אבל כבר קיימים שירותים הטוענים כי הם מסוגלים לעקוף גם אותה.
במילים אחרות, מדובר במרוץ מתמשך: ככל שהגלאים משתפרים, משתפרים גם הכלים שנועדו להערים עליהם.
מוזיאון האמנויות הראשון בעולם בתחום הבינה המלאכותית, ביום הפתיחה ב-20 ביוני 2026 בלוס אנג'לס, קליפורניה | צילום: Getty Images via AFP
הרבה יותר קל להאשים AI מאשר להוכיח שאדם הוא מכונה
העיתון ניסה גם את הכיוון ההפוך: לקחת טקסט חדשותי שנכתב כולו בידי אדם ולשנות בהדרגה חלקים ממנו באמצעות בינה מלאכותית. במקרה הזה התברר שקשה בהרבה לגרום ל-Pangram לקבוע שטקסט אנושי נכתב על ידי AI.
הסיבה היא שהמערכת תוכננה לצמצם ככל האפשר "תוצאות חיוביות שגויות" – כלומר מקרים שבהם אדם נחשד שלא בצדק בשימוש בבינה מלאכותית.
זהו הבדל משמעותי במיוחד כאשר משתמשים בגלאים במערכת החינוך. דבר אחד הוא לא לזהות טקסט שנוצר ב-AI; דבר אחר לגמרי הוא להאשים תלמיד או סטודנט ברמאות על סמך תוצאה שגויה.
גם Pangram עצמה מזהירה מפני הסיכון. בתנאי השימוש של החברה נכתב כי האשמות שווא בשימוש בבינה מלאכותית עלולות לגרום לפגיעה במוניטין, למצוקה ולנזקים נוספים, וכי למערכת יש שיעור טעויות שאינו אפסי.
ובכל זאת, החברה מפעילה גם בוט ברשת X, שאליו יכולים משתמשים לתייג פוסטים ולקבל מיד פסק דין אם הטקסט נראה אנושי או נוצר באמצעות AI.
עוד כתבות בנושא
ככל שהטקסט קצר יותר, הבעיה גדולה יותר
אחת מנקודות התורפה המרכזיות של גלאי AI היא טקסטים קצרים.
בריאן ג'בריאן, פרופסור באוניברסיטת קרנגי מלון שחקר את יכולותיהם של גלאים כאלה, מסביר שככל שיש פחות מילים – כך יש למערכת פחות רמזים שעליהם היא יכולה להסתמך.
קחו למשל משפט פשוט כמו "שלום, אני בריאן". אין הרבה דרכים שונות לנסח מסר כזה, ולכן קשה מאוד לקבוע אם נכתב בידי אדם או מכונה. לעומת זאת, כאשר מוסיפים כמה פסקאות, מצטברים דפוסי ניסוח רבים יותר שהמערכת יכולה לנתח.
Pangram עצמה אינה מאפשרת לבדוק טקסטים קצרים מ-50 מילים. לפי נתוני החברה, שיעור הטעויות בטקסטים שאורכם פחות מ-100 מילים הוא בערך כפול מזה של טקסטים באורך 100 עד 149 מילים.
המשמעות היא שדווקא אחד השימושים הפופולריים ביותר בגלאים – בדיקת פסקה קצרה או פוסט ברשת החברתית – נעשה בתנאים שבהם הם פחות אמינים.
בעיה נוספת היא האופן שבו מוצגות התוצאות. גם בטקסט קצר יכולה Pangram להציג קביעה נחרצת שלפיה "100 אחוז מהטקסט" הוא אנושי, נוצר ב-AI או נעזר בו, בעוד שבעמוד הפירוט מתברר לעיתים שרמת הביטחון של המערכת דווקא נמוכה.
לדברי ג'בריאן, השימוש בגלאים כדי "לתפוס שקרנים" או לבייש אנשים מפספס את הסוגיה המרכזית. ככל שהשימוש בבינה מלאכותית הופך לחלק רגיל מתהליך הכתיבה, החלוקה הפשוטה בין "נכתב בידי אדם" ל"נכתב בידי מכונה" נעשית פחות רלוונטית.
"נצטרך להביא בחשבון את האופן שבו אנשים משתמשים ב-AI בתהליך הכתיבה", אמר. לדבריו, נדרשות דרכים מורכבות יותר לתאר את צורות העבודה החדשות, במקום תווית של טוב או רע.
Pangram כבר הוסיפה קטגוריה של "AI-assisted" – טקסט שנכתב בסיוע בינה מלאכותית. אלא שגם היא מעלה שאלות חדשות: האם מי שאישר השלמת משפט אוטומטית בג'ימייל כתב טקסט "בסיוע AI"? ומה לגבי מי שכתב בעצמו מסמך ורק ביקש מצ'אטבוט לתקן את הדקדוק?
מנכ"ל Pangram, מקס ספרו, הסביר כי הטכנולוגיה של החברה בוחנת את היחסים בין המילים ומעריכה עד כמה סביר שהן נוצרו בסדר מסוים על ידי AI. ככל שהטקסט קצר יותר, כל מילה בודדת משפיעה יותר על התוצאה – ולכן אפילו שינוי של מילה אחת עשוי לפעמים להפוך את הסיווג.
בינה מלאכותית | צילום: שאטרסטוק
ואולי הפתרון בכלל יהיה סימן סודי
יש גם כיוון אחר לחלוטין לזיהוי טקסט שנוצר באמצעות בינה מלאכותית: במקום לנחש לפי סגנון הכתיבה, להטמיע בתוך הטקסט סימן דיגיטלי סמוי.
חברת Anthropic, המפתחת את הצ'אטבוט Claude, הודיעה כי פלטי הטקסט שלה צפויים לכלול "סימני מים" סמויים כחלק מהיערכות לדרישות הרגולציה של האיחוד האירופי. החברה מתכוונת לספק כלי שיאפשר לבדוק אם טקסט מסוים כולל תוכן שנוצר באמצעות Claude, אם כי הפרטים המלאים עדיין אינם ברורים.
ומה לגבי השאלה שממנה הכול התחיל – האם האפיפיור באמת השתמש בבינה מלאכותית כדי לכתוב את המסמך שלו?
הוותיקן לא השיב לפניית ה"וושינגטון פוסט". כך שבינתיים, התשובה נותרת בין האפיפיור – לבין מי שמעליו.