השימוש בתוכנות בינה מלאכותית כמו ChatGPT הפך לחלק אינטגרלי מחיי היומיום של רובנו. תלמידים משתמשים בהן כדי לכתוב עבודות, עובדי משרד מבקשים מהן לארגן לוחות שנה ולעזור בכתיבת דו"חות והורים מבקשים מהן ליצור סיפורים חדשים לפני השינה לילדים קטנים.
למרות השימוש היומיומי, הדרך שבה שימוש מתמשך בבינה מלאכותית מעצב את המוח נותרת לא ברורה. ככל שההסתמכות שלנו על היכולת לקבל במהירות סינתזה של ידע עצום בקצות האצבעות שלנו גוברת, מדענים מבינים יותר ויותר כיצד השימוש התדיר בתוכניות מבוססות מודלי שפה גדולים משפיע על מוחנו. בין היתר הם חוקרים האם הן פוגעות ביכולות קוגניטיביות ומצמצמות את מגוון הרעיונות שלנו.
כותרות המכריזות כי בינה מלאכותית הופכת אותנו לטיפשים ועצלנים הפכו לוויראליות החודש לאחר פרסום מחקר ממעבדת המדיה של MIT למרות שהחוקרים מזהירים כי המחקר האמור וגם מחקרים אחרים לא הגיעו למסקנות נחרצות בעניין. בשאלה האם הבינה המלאכותית מעצבת את מוחנו בדרכים מזיקות, עבודת MIT ומחקרים קטנים נוספים שפורסמו השנה מציעים רמזים מדאיגים.
הכי מעניין
עוד כתבות בנושא
מחקר שנערך בבריטניה וכלל למעלה מ-600 איש שפורסם בינואר מצא "מתאם שלילי מובהק בין שימוש תדיר בכלי בינה מלאכותית לבין יכולות חשיבה ביקורתית", כאשר משתמשים צעירים במיוחד נוטים להסתמך על התוכניות כתחליף, ולא כתוספת, למשימות שגרתיות.
מחקר שפורסם בשבוע שעבר בבית הספר וורטון של אוניברסיטת פנסילבניה הראה שתלמידי תיכון בטורקיה שקיבלו גישה למורה בסגנון ChatGPT הציגו ביצועים טובים בהרבה בפתרון בעיות מתמטיות לתרגול. עם זאת, כאשר התוכנית נלקחה מהם, הם הציגו ביצועים גרועים יותר מאשר תלמידים שלא השתמשו כלל במורה מבוסס בינה מלאכותית.
מחקר MIT שמשך תשומת לב עצומה - וגם תגובות נגד - כלל חוקרים שמדדו פעילות מוחית של משתתפים שרובם סטודנטים שהשתמשו ב-ChatGPT לכתיבת חיבורים. עבודתם הושוותה לאחרים שהשתמשו בגוגל או לא השתמשו כלל. החוקרים חיברו 54 כותבי חיבורים לקסדות ובהן אלקטרודות שמנטרות אותות חשמליים במוח.
נתוני ה-EEG חשפו כי כותבים שהשתמשו ב-ChatGPT הציגו את המעורבות המוחית הנמוכה ביותר ו"תמיד הציגו ביצועים נמוכים יותר ברמה העצבית, הלשונית וההתנהגותית", על פי המחקר. בסופו של דבר, הם סיפקו חיבורים שנשמעו דומים זה לזה וחסרו נגיעות אישיות. מורות לאנגלית שקראו את החיבורים כינו אותם "חסרי נשמה". קבוצת ה"מוח בלבד" הציגה את ההפעלות והחיבורים העצביים הגדולים ביותר בין אזורים במוח ש"התקשרו לזיכרון חזק יותר, דיוק סמנטי רב יותר ובעלות יציבה יותר על העבודה הכתובה". במפגש רביעי, התבקשו חברים מקבוצת ה-ChatGPT לכתוב מחדש אחד מחיבוריהם הקודמים ללא הכלי, אך המשתתפים זכרו מעט מאוד מעבודתם הקודמת.
יש מי שהצביעו על בעייתיות במחקר. הם טוענים שחיבוריות עצבית שנמדדת על ידי EEG אינה מעידה בהכרח על קוגניציה ירודה או תפקוד מוחי ירוד. עבור משתתפי המחקר, גם ההימור היה נמוך - קבלה לאוניברסיטה, לדוגמה, לא הייתה תלויה בהשלמת החיבורים.
ממשק מוח-מחשב | צילום: שאטרסטוק
החוקרת הראשית של MIT, נטליה קוסמינה, מודה כי המחקר היה מוגבל בהיקפו, ובניגוד לכותרות הוויראליות ברשת אודות המאמר, לא נועד למדוד האם ChatGPT "הופך אותנו לטיפשים". המאמר לא עבר ביקורת עמיתים, אך הצוות שלה פרסם את הממצאים הראשוניים כדי לעורר שיחה על השפעת ChatGPT, במיוחד על מוחות מתפתחים, ועל הסיכונים של האתוס של עמק הסיליקון בהפצה מהירה של טכנולוגיה עוצמתית. "אולי לא כדאי שניישם את התרבות הזו בעיניים עצומות במקומות שבהם המוח הוא שברירי", אמרה קוסמינה בראיון.
OpenAI, לה יש שותפות תוכן עם ה-Washington Post, לא הגיבה לבקשות לתגובה.
מייקל גרליך, שהוביל את מחקר הסקר הבריטי, כינה את הגישה של MIT "מבריקה" ואמר שהיא הראתה שבינה מלאכותית מחזקת את מה שמכונה "פריקה קוגניטיבית" (cognitive off-loading), שבה אנו משתמשים בפעולה פיזית כדי להפחית דרישות מהמוח שלנו. אך במקום לפרוק נתונים פשוטים - כמו מספרי טלפון שנהגנו לזכור אך כעת מאוחסנים בטלפונים שלנו - אנשים שמסתמכים על LLMs פורקים את תהליך החשיבה הביקורתית. המחקר שלו הציע כי צעירים ואנשים עם פחות השכלה נוטים יותר לפרוק את החשיבה הביקורתית למודלים שפתיים גדולים מכיוון שהם פחות בטוחים בכישוריהם. "זה הפך לחלק מאיך שאני חושב", אמר סטודנט אחד לחוקרים מאוחר יותר.
"אתה חושב שמודל השפה חכם ממך ואתה מאמץ את זה", אמר גרליך, פרופסור בבית הספר לעסקים SBS בציריך. ובכל זאת, קוסמינה, גרליך וחוקרים נוספים מזהירים מפני הסקת מסקנות גורפות - לא הושלמו מחקרים ארוכי טווח על השפעות הטכנולוגיה הצעירה הזו על הקוגניציה. החוקרים גם מדגישים כי ייתכן שהיתרונות של הבינה המלאכותית יעלו בסופו של דבר על הסיכונים, בכך שהיא משחררת את מוחנו להתמודד עם מחשבות גדולות ונועזות יותר.
הפחד מטכנולוגיה שתשנה את מבנה המוח האנושי לא חדש. סוקרטס הזהיר כי הכתיבה תהפוך את בני האדם לשכחנים. באמצע שנות ה-70', מורים חששו שמחשבים זולים יפגעו ביכולת התלמידים לבצע חישובים פשוטים. עליית מנועי החיפוש עוררה פחדים דומים.
ChatGPT מבית OpenAI | צילום: EPA
"לא כל-כך מזמן כולנו היינו בפאניקה שגוגל הופכת אותנו לטיפשים, ועכשיו, כשגוגל היא חלק מחיי היומיום שלנו, זה כבר לא מרגיש כל כך מפחיד", אמר סם ג’יי גילברט, פרופסור למדעי המוח הקוגניטיביים בקולג’ האוניברסיטאי של לונדון. "ChatGPT הוא שק החבטות החדש של חלק מהחששות. אנחנו צריכים להיות זהירים ומאוזנים מאוד באופן שבו אנו מפרשים את ממצאי המחקר של MIT".
המאמר של MIT מציע כי כותבי חיבורים המשתמשים ב-ChatGPT מדגימים "חוב קוגניטיבי", מצב שבו ההסתמכות על תוכנות כאלה מחליפה את התהליכים הקוגניטיביים המצריכים מאמץ הדרושים לחשיבה עצמאית. החיבורים הופכים למוטים ושטחיים. בטווח הארוך, חוב קוגניטיבי כזה עלול להפוך אותנו לקלים יותר למניפולציה ולחנוק יצירתיות.
אך גילברט טוען כי ניתן לראות במחקר MIT על כותבי חיבורים גם דוגמה למה שהוא מכנה "זליגת קוגניציה" (cognitive spillover), או ויתור על חלק מהמידע כדי לפנות קשב למחשבות שאפתניות יותר. "רק בגלל שאנשים השקיעו פחות מאמץ מנטלי בכתיבת החיבורים שהנסיינים ביקשו מהם לכתוב, זה לא בהכרח דבר רע", אמר. "אולי היו להם דברים שימושיים וערכיים יותר שהם יכלו לעשות עם מוחם".
יש מומחים המציעים שייתכן שבטווח הארוך ובשימוש נכון, הבינה המלאכותית תוכיח שהיא מחזקת, ולא מחליפה, את החשיבה הביקורתית.
המחקר של בית הספר וורטון על קרוב לאלף תלמידי תיכון בטורקיה כלל גם קבוצה שקיבלה גישה לתוכנית מורה בסגנון ChatGPT עם אמצעי הגנה מובנים שסיפקו רמזים שעוצבו על ידי מורים במקום לספק את התשובות עצמן. תלמידים אלה הציגו ביצועים טובים מאוד ועשו בערך את אותו הדבר כמו תלמידים שלא השתמשו בבינה מלאכותית כאשר התבקשו לפתור בעיות ללא עזרה, כך הראה המחקר.
בינה מלאכותית, אילוסטרציה. | צילום: שאטרסטוק
נדרש מחקר נוסף על הדרכים הטובות ביותר לעצב את התנהגות המשתמשים וליצור תוכנות LLM כדי להימנע מפגיעה בכישורי החשיבה הביקורתית, אמר אניקט קיטור, פרופסור במכון לאינטראקציה בין אדם למכונה של אוניברסיטת קרנגי מלון. קיטור הוא חלק מצוות שיוצר תוכנות בינה מלאכותית שנועדו להדליק ניצוצות יצירתיים, ולא להפיק תוצרים מוגמרים אך חסרי טעם.
תוכנה שכונתה BioSpark נועדה לסייע למשתמשים לפתור בעיות דרך השראה מהעולם הטבעי - לדוגמה, יצירת מתקן נשיאת אופניים טוב יותר להתקנה על מכוניות. במקום ממשק טקסט משמים, התוכנית עשויה להציג תמונות ופרטים של מיני בעלי חיים שונים כהשראה, כמו צורת רגלי צפרדע או דביקות של ריר חלזונות שעשויה להוות השראה לג’ל ששומר על יציבות האופניים. המשתמשים יכולים לדפדף במחקר מדעי רלוונטי, לשמור רעיונות ואז לשאול שאלות מפורטות נוספות את התוכנה.
"אנחנו צריכים גם דרכים חדשות לאינטראקציה עם הכלים הללו שפותחות את היצירתיות הזו", אמר קיטור. "ואז אנחנו צריכים דרכים קפדניות למדוד עד כמה הכלים הללו מצליחים. זה משהו שניתן לעשות רק באמצעות מחקר".
המחקר על הדרך שבה תוכנות בינה מלאכותית יכולות להעצים יצירתיות אנושית מתרחב באופן דרמטי, אך אינו מקבל תשומת לב מספקת מכיוון שהרוח הציבורית נוטה לחשדנות כלפי הטכנולוגיה, אמרה שרה רוז זיסקינד, סופרת מדע וקומדיה מניו יורק שמייעצת לחברות בינה מלאכותית.
זיסקינד מאמינה שהציבור זקוק לחינוך טוב יותר על איך להשתמש בבינה מלאכותית וכיצד לחשוב עליה. היא יצרה סרטון על האופן שבו היא משתמשת בבינה מלאכותית להרחבת רפרטואר הבדיחות שלה ולהגעה לקהלים חדשים. היא אמרה שמאמר נוסף שלה שצפוי להתפרסם בקרוב בוחן את השימושים של ChatGPT בקומדיה. "אני יכולה להשתמש בבינה מלאכותית כדי להבין את הקהל שלי עם יותר אמפתיה ומומחיות מאי פעם", אמרה זיסקינד.