הניסוי התחיל ב־24 תמונות רגילות: חתונה, רחוב עירוני, תחרות ריצה. פרופ' פטי מייס ממעבדת המדיה של המכון הטכנולוגי של מסצ'וסטס (MIT) ועמיתיה הציגו אותן ל־200 משתתפים. לאחר הפסקה, חלקם ראו שוב את אותן תמונות, ואחרים נחשפו לגרסאות ששונו באמצעות בינה מלאכותית: הבעות הפנים הוחלפו, אנשי צבא נוספו לתמונות, ובאחרות הופיעו סימנים של שינויי אקלים.
לאחר מכן נערך מבחן זיכרון. התוצאות הדאיגו את החוקרים: המשתתפים שנחשפו לתמונות ששונו הציגו עלייה משמעותית בזיכרונות כוזבים. מטריד עוד יותר היה הביטחון הגבוה שבו החזיקו בזיכרונות האלה.
"אני חושבת שכל זה מסוכן מאוד", אמרה מייס.
הכי מעניין
עד כה התמקד חלק גדול מהדיון הציבורי בסכנה שבינה מלאכותית תגרום לנו להפסיק לחשוב בעצמנו. אבל מחקרים חדשים מעלים אפשרות נוספת: הטכנולוגיה אינה משפיעה רק על האופן שבו אנחנו חושבים, אלא גם על מה שאנחנו זוכרים.
ניסויים שכללו אירועים פוליטיים, תיעוד פשעים ואפילו סרטים שלא הופקו מעולם מצביעים על כך שתמונות ושיחות שנוצרו באמצעות בינה מלאכותית עלולות לשתול פרטים שגויים בזיכרון, ולגרום לאנשים להאמין שאירועים מסוימים התרחשו באמת.
חולת האלצהיימר משתמשת בטלפון כדי לשוחח עם צ'אטבוט מבוסס בינה מלאכותית בשם "ליבאנה" (Livanna), במוסד טיפולי לאנשים הסובלים ממחלות ניווניות של מערכת העצבים, בספטפון | צילום: AFP
כשהמחשב הופך לזיכרון נוסף
הזיכרון האנושי אינו מושלם. אנחנו שומרים רק חלק קטן מהמידע שאנחנו נחשפים אליו, פרטים מיטשטשים עם הזמן, וזיכרונות עשויים להשתנות בכל פעם שאנחנו נזכרים בהם.
בינה מלאכותית עשויה לכאורה לפתור חלק מהמגבלות האלה. היא מסוגלת לאגור כמויות עצומות של מידע ולשלוף בתוך שניות פרטים שאדם שכח. אלא שהיא אינה מסתפקת בשמירת המידע: היא גם מפרשת, מסכמת ומשחזרת אותו, ולעיתים עושה טעויות.
מייס, מחלוצות המחקר בתחום הבינה המלאכותית, עוסקת שנים בפיתוח טכנולוגיות שנועדו להרחיב את היכולות האנושיות ולא להחליף אותן. העניין שלה בנושא הפך גם לאישי כאשר אמה החלה לשכוח פרטים מחיי היומיום.
קבוצת המחקר שלה פיתחה מערכות בשם Memoro ו־MemPal, המשתמשות בבינה מלאכותית ובמכשירים לבישים כדי לתעד חלקים מחיי היומיום ולאפשר לאנשים להיזכר בהם מאוחר יותר.
שכחתם מה מישהו אמר בשיחה? המערכת עשויה להזכיר לכם. אינכם זוכרים היכן הנחתם את המפתחות? ייתכן שתוכל לסייע במציאתם.
ניסויים ראשוניים בקרב מבוגרים הניבו תוצאות מעודדות, ומייס מקווה שבעתיד כלים כאלה יסייעו לאנשים עם ירידה בזיכרון לשמור על עצמאותם.
אבל ככל שהמחשבים הופכים להרחבה של הזיכרון האנושי, מתעוררת שאלה חדשה: מה קורה לזיכרונות שאנחנו יוצרים בעצמנו?
עוד כתבות בנושא
האם אנחנו מפסיקים להפעיל את המוח?
בניסוי אחר מקבוצת המחקר של מייס, שפורסם בשנה שעברה וטרם השלים ביקורת עמיתים, התבקשו 54 משתתפים לכתוב חיבורים בנושאים שונים.
קבוצה אחת כתבה ללא עזרים מקוונים, קבוצה שנייה השתמשה בחיפוש גוגל ללא תשובות שנוצרו באמצעות בינה מלאכותית, וקבוצה שלישית נעזרה בצ'אטGPT.
במהלך הכתיבה נמדדה הפעילות החשמלית במוחם. המשתתפים שכתבו ללא עזרה הציגו את דפוסי הקישוריות החזקים והנרחבים ביותר בין אזורי המוח. משתמשי גוגל נמצאו באמצע, ואילו משתמשי צ'אטGPT הציגו את הקישוריות החלשה ביותר.
כאשר התבקשו המשתתפים לצטט מתוך החיבורים שכתבו זמן קצר קודם לכן, אלה שנעזרו בבינה מלאכותית התקשו יותר לזכור את דבריהם.
הסיבה האפשרית קשורה לאופן שבו נוצרים זיכרונות. כדי שמידע ייקלט, אנחנו נדרשים להקדיש לו תשומת לב, להתאמץ, ליצור קשרים ולשלוף אותו מחדש. בינה מלאכותית עשויה לחסוך מאיתנו חלק מהמאמץ הזה.
גדעון נוה, פרופסור חבר בבית הספר וורטון של אוניברסיטת פנסילבניה, חושש פחות מתרחיש שבו הבינה המלאכותית משתלטת על האנושות, ויותר מעתיד שבו בני אדם יפסיקו להפעיל יכולות שהמכונות מבצעות במקומם.
"מה שסביר יותר שנראה הוא הידרדרות של בני האדם, ולא השתלטות של הבינה המלאכותית", אמר. הוא חושש מעולם שבו "החשיבה הופכת לאפשרות בלבד".
סטיבן שו, מרצה בכיר בדרגת פרופסור עוזר בקינגס קולג' לונדון, מצביע על מחקרים שבהם אנשי מקצוע שהתרגלו להסתמך על בינה מלאכותית התקשו לבצע משימות בלעדיה.
מחקר שפורסם ב־2025 ובחן 19 רופאים מנוסים וכ־1,500 בדיקות קולונוסקופיה מצא כי לאחר שהרופאים החלו להשתמש באופן שגרתי בבינה מלאכותית, יכולתם לזהות בעצמם גידולים טרום־סרטניים ירדה בכ־20 אחוזים.
עם זאת, החוקרים מדגישים כי הראיות עדיין ראשוניות. המחקרים אינם מוכיחים ששימוש רגיל בבינה מלאכותית גורם בהכרח להידרדרות קוגניטיבית או לאובדן זיכרון קבוע.
כיצד בינה מלאכותית משפיעה על הזיכרון שלנו? מחקרים חדשים | צילום: AP
זוכרים סרט שמעולם לא צולם
אחת התגליות המטרידות נוגעת ליכולתה של הבינה המלאכותית לעוות זיכרונות קיימים ואף ליצור זיכרונות מאירועים שלא התרחשו.
בניסוי אחד, משתתפים שצפו בסרטון המתעד פשע ולאחר מכן נשאלו עליו בידי צ'אטבוט מבוסס בינה מלאכותית הציגו פי שלושה יותר זיכרונות כוזבים.
בניסוי אחר, משתתפים שהעלו רעיונות בעזרת בינה מלאכותית התקשו כעבור שבוע להבחין בין רעיונות שהגו בעצמם לבין רעיונות שהציעה המכונה.
בניסויים נוספים, כמעט מחצית מהמשתתפים זכרו בטעות גרסאות מחודשות של סרטים שמעולם לא הופקו, ובהן גרסה של "מטריקס" בכיכובו של ויל סמית'.
מחקר אחר הראה שסרטונים שנוצרו בבינה מלאכותית גרמו לאנשים להאמין שהם זוכרים שערוריות פוליטיות שלא התרחשו. עם זאת, החוקרים מצאו שסרטוני זיוף עמוק לא היו בהכרח יעילים יותר מטקסט בהיווצרות זיכרונות כוזבים.
גם הידיעה שהמידע נוצר בבינה מלאכותית לא תמיד עוזרת
במחקר שערכה מטאה סים מאוניברסיטת ג'ורג'טאון השתתפו 331 אנשים שצפו בסרטון אנימציה קצר שבו מכונית פוגעת בהולך רגל.
כעבור יום או יומיים קיבלו המשתתפים סיכום של התאונה שנוצר באמצעות בינה מלאכותית. חלקם קיבלו תיאור מדויק של תמרור שהופיע בסרטון, ואחרים קיבלו סיכום שבו התמרור זוהה באופן שגוי, אך בביטחון.
בקרב המשתתפים שקראו את הסיכום המדויק, כמעט 84 אחוזים זכרו נכון את התמרור. בקרב מי שקיבלו את הסיכום המטעה, שיעור הזוכרים נכון ירד לכ־45 אחוזים.
אפילו כשהמשתתפים ידעו שהסיכום נוצר באמצעות בינה מלאכותית, הדבר לא הגן עליהם מפני השפעת המידע השגוי.
לממצאים האלה עשויות להיות השלכות רחבות. בתי משפט מסתמכים על זיכרונות של עדים, בתי חולים משתמשים בבינה מלאכותית לסיכום מידע רפואי, וגופי אכיפה בוחנים שימוש בכלים כאלה לסיכום תיעוד ממצלמות גוף.
במקרים רבים הפתרון המקובל הוא להשאיר אדם בתהליך, כדי שיוכל לזהות ולתקן את טעויות המכונה. אלא שהמחקרים מעלים חשש שגם שיקול הדעת של האדם עצמו עלול להיות מושפע מהמידע השגוי.
"כולם יודעים שבינה מלאכותית יכולה לטעות", אמרה סים. "אבל המחקר מראה שפיקוח אנושי לא בהכרח יהיה פתרון טוב לבעיה הזאת".
השאלה אינה רק אם אנחנו יכולים לסמוך על מה שהבינה המלאכותית מספרת לנו, אלא גם מה קורה כשהסיפור שלה הופך לחלק מהזיכרון שלנו.
עוד כתבות בנושא
