צ'ונג'ין לי הגיע לקמפוס של אוניברסיטת קולומביה בסתיו האחרון, ולדבריו השתמש בבינה מלאכותית יוצרת כדי לרמות בכל מטלה כמעט. כסטודנט למדעי המחשב הוא הסתמך על הטכנולוגיה בקורסי המבוא לתכנות: "פשוט הייתי מזין את ההוראות לצ'אט GPT, ומגיש את מה שהמערכת פלטה". לפי החישובים שערך, 80 אחוזים מכל חיבור שהגיש נכתבו על ידי הבינה המלאכותית. "הייתי מוסיף את הנגיעות האחרונות, מטמיע אל תוך המאמר 20 אחוז שהם מהבינה האנושית שלי, מהקול שלי", סיפר לי לאחרונה לי.
לי נולד בקוריאה הדרומית וגדל בפרוורי אטלנטה, שם הוריו מנהלים עסק לייעוץ והכנה ללימודים אקדמיים. הוא התקבל להרווארד כבר בתחילת שנת הלימודים האחרונה שלו בתיכון, אך האוניברסיטה ביטלה את קבלתו משום שהושעה בגין התחמקות לילית מחדרו במהלך טיול כיתתי שהתקיים לפני סוף הלימודים. כעבור שנה הוא הגיש מועמדות ל־26 מוסדות ולא התקבל לאף אחד. לפיכך בילה שנה במכללה קהילתית, ואז התקבל לאוניברסיטת קולומביה. החיבור האישי שהגיש במסגרת מטלות הקבלה, שבו הציג את דרכו המפותלת להשכלה גבוהה כמשל על שאיפתו להקים חברות משלו, נכתב בסיוע צ'אט GPT.
כשהתחיל את לימודי השנה השנייה בקולומביה, בחודש האחרון, הוא לא ייחס חשיבות רבה ללימודים או לממוצע הציונים. "רוב המטלות באקדמיה לא רלוונטיות", אמר לי. "אפשר לפרוץ אותן בעזרת בינה מלאכותית, ולא היה לי שום עניין לבצע אותן בעצמי". בעוד שסטודנטים חדשים אחרים חששו מתוכנית הלימודים הקפדנית של האוניברסיטה, המתוארת על ידה כ"מרחיבת דעת" ו"משנה חיים", לי הסתמך על בינה מלאכותית כדי לצלוח את הלימודים במאמץ מזערי. כששאלתי מדוע השקיע הרבה כל־כך כדי להתקבל לליגת הקיסוס אם בפועל הוא מפקיד את לימודיו בידי רובוט, הוא השיב: "זה המקום הטוב ביותר למצוא שותף להקמת חברת סטארטאפ, וגם את אשתך".
מדעי הרוח הופכים לתחום אנרכיסטי. אוניברסיט סטנפורד | צילום: אי.פי.איי
בסוף הסמסטר הראשון הצליח לי להשלים יעד אחד מהרשימה לפחות. הוא הכיר שותף עסקי, ניל שנמוגם, סטודנט שנה ג' בבית הספר להנדסה, ויחד הם פיתחו סדרה של רעיונות לחברות הזנק: יישומון היכרויות המיועד לסטודנטים בקולומביה בלבד, יישומון מכירות למפיצי משקאות חריפים, ויישומון לכתיבת סיכומי שיעורים. אף אחת מהן לא המריאה. ואז חשב לי על רעיון אחר. בתור מתכנת הוא בילה כ־600 שעות מייסרות ב־LeetCode, פלטפורמת אימונים שמכינה מתכנתים לחידות האלגוריתמיות שחברות טכנולוגיה מציבות למועמדים להתמחות או לעבודה. כמו רבים מבני דורו, החידות היו מייגעות בעבורו, ורחוקות מאוד מהעבודה המעשית שיצפו ממנו לעשות לוּ יתקבל לעבודה כמתכנת. מדוע לטרוח כל כך? ומה אם אפשר יהיה לבנות תוכנה שתסתיר את לשונית הבינה המלאכותית בדפדפן במהלך ראיונות עבודה מקוונים, וכך תאפשר למועמדים לרמות במבחנים ולעבור אותם בקלות?
בפברואר השיקו לי ושנמוגם כלי עבודה שעשה בדיוק את הדבר הזה. באתר Interview Coder ("מתכנת ראיונות") התנוססה כרזה המכריזה: "שמים פס על LeetCode". לי העלה סרטון ליוטיוב שבו תיעד את עצמו מרמה באמצעות הכלי בראיון קבלה להתמחות באמזון (הוא התקבל למשרה, אך ויתר עליה). כעבור חודש הוא הוזמן למשרד לאתיקה אקדמית של קולומביה. האוניברסיטה הטילה עליו תקופת מבחן אקדמית לאחר שהוועדה קבעה שהוא אשם ב"פרסום קישור לכלי רמאות" וב"מתן אפשרות לסטודנטים לגשת לכלי הזה ולהשתמש בו כרצונם", כפי שנכתב בדו"ח הוועדה.
לי טען שאבסורד שקולומביה, המשתפת פעולה עם OpenAI, החברה־האם של צ'אט GPT, תעניש אותו על חדשנות בתחום. אף שקולומביה, כמו רבים ממוסדות ההשכלה הגבוהה, אוסרת שימוש בבינה מלאכותית אלא אם המרצה התיר זאת במפורש – בין אם לכל הקורס ובין אם למטלה ספציפית – לי אמר שאינו מכיר אפילו סטודנט אחד באוניברסיטה שאינו משתמש בה. בעיניו, זו בכלל לא בעיה. "אני חושב שאנחנו במרחק של שנים, אולי אף חודשים, מעולם שבו אף אחד כבר לא יראה בשימוש בבינה מלאכותית לשיעורי בית רמאות", אמר.
חזרה לבחינות בכתב יד
בינואר 2023, חודשיים בלבד לאחר ש־OpenAI השיקה את צ'אט GPT, סקר בקרב אלף סטודנטים מצא שקרוב ל־90 אחוז מהם הסתייעו בבוט לכתיבת מטלות. בשנה הראשונה לקיומו עלה מספר הביקורים החודשיים באתר בהתמדה עד יוני, החודש שבו מסתיימת שנת הלימודים. זה לא היה עניין חד־פעמי; בקיץ 2024 המספרים ירדו שוב. מרצים ועוזרי הוראה מצאו את עצמם מתמודדים שוב ושוב עם חיבורים שנכתבו בלשון רובוטית מגושמת, שאף שהייתה תקינה מבחינה דקדוקית, לא נשמעה כמו קולו של סטודנט – ולעיתים אף לא של בן אנוש.
כעבור שנתיים וחצי, סטודנטים במכללות מדינתיות גדולות, בליגת הקיסוס, במכללות למדעי הרוח, באוניברסיטאות מעבר לים, בבתי ספר מקצועיים ובמכללות קהילתיות – כולם נשענים על בינה מלאכותית כדי להקל על עצמם בכל היבט של לימודיהם. מנועי בינה מלאכותית יוצרת – בהם צ'אט GPT, אך גם ג'מיני של גוגל, קלוד של אנת'רופיק, קופיילוט של מיקרוסופט ואחרים – כותבים במקומם סיכומי שיעורים, מכינים מדריכי למידה ומבחני תרגול, מסכמים ספרי לימוד ויצירות ספרות, ומסייעים בסיעור מוחות, בבניית מתווים לחיבורים ובכתיבת החיבורים עצמם. סטודנטים בתחומי המדעים המדויקים והטכנולוגיה משתמשים בהם כדי לבצע מחקר וניתוח נתונים, ולצלוח בקלות מטלות תכנות וניפוי שגיאות. "הלימודים במכללה כיום הם פשוט מבחן ליכולת שלי להשתמש בצ'אט GPT", כתבה סטודנטית מיוטה בסרטון שבו תיעדה את עצמה מעתיקה פרק מספר הלימוד שלה בקורס "רצח עם וזוועות המוניות" אל תוך צ'אט GPT.
שרה, סטודנטית שנה א' באוניברסיטת וילפריד־לורייה שבאונטריו, סיפרה שהחלה להשתמש בצ'אט GPT כדי לרמות בלימודים בסמסטר האביב של שנת הלימודים האחרונה שלה בתיכון (שמה של שרה, כמו גם שמותיהם של סטודנטים נוספים המופיעים בכתבה, שונו מטעמי פרטיות). לאחר שהכירה את הבוט, היא השתמשה בו לכל הקורסים: לימודי ילידים, משפטים, אנגלית, וגם בקורס חקלאות "היפי" הקרוי "תעשיות ירוקות". "הציונים שלי היו מעולים", אמרה, "זה שינה את חיי".
שרה המשיכה להיעזר בבינה המלאכותית גם כשהחלה את לימודיה במכללה, בסתיו האחרון. ולמה שלא תעשה זאת? רק לעיתים נדירות היא לא ראתה את המחשבים של חבריה הסטודנטים שצ'אט GPT אינו פתוח אצלם. לקראת סוף הסמסטר החלה שרה לחשוש שהיא מפתחת תלות באתר. היא ממילא ראתה את עצמה כמכורה לטיקטוק, לאינסטגרם, לסנאפצ'ט ולרדיט, שם היא כותבת תחת שם המשתמש maybeimnotsmart ("אולי אני לא חכמה"; א"ש). "אני מבלה כל כך הרבה זמן בטיקטוק", אמרה, "שעות על גבי שעות, עד שכואבות לי העיניים וקשה לי לתכנן את המטלות ולבצע אותן. עם צ'אט GPT אני יכולה לכתוב בשעתיים חיבור שבדרך כלל היו נדרשות בשבילו 12 שעות".
כדי להתמודד עם המציאות החדשה, מרצים ניסו להפוך את המטלות שלהם לעמידות בפני בינה מלאכותית. הם חזרו לבחינות בכתב יד או עברו למבחנים בעל־פה. בריאן פטריק גרין, חוקר אתיקה של טכנולוגיה באוניברסיטת סנטה־קלרה, הפסיק להטיל על הסטודנטים שלו לכתוב חיבורים מיד לאחר שהתנסה לראשונה בצ'אט GPT. כעבור פחות משלושה חודשים, כשהעביר קורס בשם "אתיקה ובינה מלאכותית", הוא סבר שתרגול קצר שבו יבקש מתלמידיו לכתוב את דעתם האישית על הנושא יהיה בטוח – שהרי איש לא יעז להשתמש בצ'אט GPT לצורך מטלת כתיבה אישית. אבל אחד הסטודנטים הגיש מטלה שנכתבה בלשון רובוטית ובניסוח מגושם שגרין זיהה כטקסט שנוצר בבינה מלאכותית. מרצה לפילוסופיה מן העבר השני של היבשת, באוניברסיטת ארקנסו בליטל־רוק, תפסה סטודנטים בקורס אתיקה וטכנולוגיה כשהם משתמשים בבינה מלאכותית כדי לענות על השאלה שהציגה להם: "הַציגו את עצמכם בקצרה ואִמרו מה אתם מצפים להפיק מהקורס הזה".
רמאות איננה תופעה חדשה, כמובן. אך כעת, כפי שניסח זאת סטודנט אחד, "התקרה כבר עפה". מי יעמוד בפני הפיתוי של כלי שמקל על כל מטלה, לכאורה בלי כל השלכות? אחרי כשנתיים של בדיקת עבודות שנכתבו בבינה מלאכותית, טרוי ג'ולימור, משורר, פילוסוף ומרצה לאתיקה באוניברסיטת מדינת קליפורניה, מודאג. "מספרים עצומים של סטודנטים ייצאו מהאוניברסיטה עם תואר ראשון ויצטרפו אל שוק העבודה, כשלמעשה הם אנאלפביתים לכל דבר", הוא מתריע. "גם במובן המילולי, וגם במובן של חוסר אוריינות היסטורית וחוסר היכרות עם תרבותם, לא כל שכן עם תרבויות אחרות". עתיד כזה עלול להגיע מהר מן הצפוי, אם נזכור עד כמה חלון הזמן של הלימודים האקדמיים קצר. כבר כיום, כמחצית מהסטודנטים לתואר ראשון לא חוו לימודים במכללה בלי גישה קלה לבינה מלאכותית יוצרת. "אנחנו מדברים על דור שלם של למידה שייתכן שנפגע באופן ניכר", אמר גרין, אתיקאי הטכנולוגיה מסנטה־קלרה. "הטכנולוגיה יוצרת קצרים במעגל הלמידה, וזה קורה במהירות".
עוד לפני ש־OpenAI השיקה את צ'אט GPT בנובמבר 2022, הרמאויות כבר הגיעו למעין שיא. באותה עת תלמידי מכללות רבים סיימו תיכון בלמידה מרחוק, רובם בלי פיקוח הדוק, ועם גישה לכלים רבים שהקלו על השלמת הלימודים ופתחו לפניהם את האפשרות לרמות בקלות רבה. החברות הללו הציגו עצמן כספריות מקוונות ענקיות של ספרי לימוד וחומרי קורס, אך בפועל שימשו ככלים לרמאות. תמורת 15.95 דולר לחודש הבטיח האתר "צ'ג" תשובות לשאלות שיעורי הבית בתוך 30 דקות, מסביב לשעון, מאת 150 אלף "מומחים" בעלי תארים מתקדמים שהעסיקה, רובם בהודו. כשהושק צ'אט GPT, הסטודנטים היו מוכנים ומזומנים לכלי מהיר וחזק בהרבה.
ואולם מנהלי המוסדות נקלעו למבוי סתום. אין דרך מעשית לאכוף איסור גורף על צ'אט GPT, ולכן רובם אימצו מדיניות אד־הוק והניחו למרצים לקבוע אם להתיר לסטודנטים שלהם להשתמש בבינה מלאכותית או לא. חלק מהאוניברסיטאות אף אימצו את הכלים, יצרו שותפויות עם מפתחים, העלו לאוויר בוטים משלהן לסיוע ברישום לקורסים, או פתחו קורסים חדשים, מסלולי תעודה ותארים ייעודיים בבינה מלאכותית יוצרת. אך האסדרה בנושא נותרה מאתגרת. איזה היקף של סיוע מהבינה המלאכותית נחשב לגיטימי? האם ראוי למשל להתיר שיח רעיונות עם הבוט לצורך העלאת נושאים וארגון טיעונים, אך לא את ניסוח המשפטים בעצמם?
סוסים טרויאניים
בימים אלה נוהגים מרצים לפרט את המדיניות שלהם בנושא בסילבוס של הקורס: למשל, להתיר שימוש בבינה מלאכותית כל עוד הסטודנטים מציינים אותה כמקור, להתיר סיוע מושגי בלבד, או לחייב את הסטודנטים לצרף תיעוד מלא של השיחה עם הבוט. סטודנטים מצידם נוטים לפרש את ההנחיות כהמלצות ולא ככללים מחייבים. לעיתים הם מרמים בשיעורי הבית שלהם בלי לדעת שהם מפירים את נוהלי המוסד, או מבלי לדעת עד כמה הם מפירים אותם, שעה שהם מבקשים מהבוט "לנקות" טיוטה או לאתר מחקר רלוונטי לציטוט.
ונדי, סטודנטית שנה א' לכלכלה באוניברסיטה אמריקנית מובילה, אמרה לי שהיא מתנגדת לשימוש בבינה מלאכותית. או, אם לצטט אותה במדויק: "אני נגד קופי־פייסט, אני נגד רמאות ופלגיאט. זה מנוגד לתקנון הסטודנטים". ואז היא תיארה, שלב אחר שלב, כיצד ביום שישי בשמונה בבוקר היא ניגשה לבוט בינה מלאכותית כדי שיסייע לה בכתיבת חיבור של ארבעה־חמישה עמודים, שהיה עליה להגיש בעוד שעתיים.
בכל פעם שוונדי משתמשת בבינה מלאכותית כדי לכתוב חיבור (במילים אחרות, בכל פעם שהיא כותבת חיבור), היא פועלת בשלושה שלבים. שלב ראשון: "אני כותבת: 'אני סטודנטית שנה א' במכללה, אני רשומה לקורס באנגלית'". אחרת, הסבירה וונדי, "זה יפלוט סגנון כתיבה מתקדם מאוד, מסובך מאוד – וזה לא מה שאת רוצה". שלב שני: היא מוסרת מעט רקע על הקורס שהיא לומדת, לפני שהיא מעתיקה ומדביקה את הוראות המרצה שלה אל הבוט. "ואז אני מבקשת: 'לפי ההוראות האלה, תוכל בבקשה להכין לי מתווה או מבנה שייתן לי שלד שאוכל להיצמד אליו ולכתוב את החיבור שלי?' ואז זה נותן לי מתווה, מבוא, משפטי נושא, פסקה ראשונה, פסקה שנייה, פסקה שלישית". לעיתים היא מבקשת רשימת נקודות עם רעיונות בעד או נגד טענה מסוימת: "אני מתקשה בארגון, וזה הופך את הכתיבה להרבה יותר קלה בשבילי".
לאחר שהבוט התווה לוונדי את החיבור, עם משפטי נושא ורשימת נקודות, כל שנותר לה הוא למלא את התוכן. כך היא הגישה חיבור מסודר של חמישה עמודים בשעה 10:17 בבוקר, באיחור קל אך מתקבל על הדעת. כששאלתי אותה מה הייתה התוצאה של המטלה, היא השיבה שהיא קיבלה ציון טוב. "אני אוהבת מאוד לכתוב", אמרה, בטון כמעט נוסטלגי לשיעורי האנגלית בתיכון – הפעם האחרונה שבה כתבה חיבור בלי עזרה. "באמת", הוסיפה, "אני חושבת שיש יופי בניסיון לתכנן את החיבור שלך. את לומדת הרבה ואז את נאלצת לחשוב: מה אכתוב בפסקה הזו? מה תהיה התזה שלי?" אבל היא מעדיפה ציונים טובים. "כשאת כותבת חיבור עם צ'אט GPT, הוא פשוט אומר לך בדיוק מה את צריכה לעשות. את לא באמת צריכה לחשוב כל כך הרבה".
ביקשתי מוונדי לקרוא את החיבור שהגישה. כשפתחתי את המסמך הופתעתי לגלות את הנושא: פדגוגיה ביקורתית – התיאוריה החינוכית שפיתח הפילוסוף פאולו פריירה, הבוחנת את השפעתם של כוחות חברתיים ופוליטיים על הלמידה ועל הדינמיקה בכיתה. שורת הפתיחה שלה היא: "באיזו מידה פוגעת מערכת החינוך ביכולתם של תלמידים לחשוב באופן ביקורתי?" מאוחר יותר שאלתי את ונדי אם היא מזהה את האירוניה בכך שהשתמשה בבינה מלאכותית כדי לכתוב לא רק חיבור על פדגוגיה ביקורתית, אלא כזה שטוען כי הלמידה היא הדבר ש"עושה אותנו אנושיים באמת". היא לא ממש ידעה איך להתמודד עם השאלה שלי. "אני משתמשת בבינה מלאכותית הרבה. כאילו, ממש כל יום", אמרה. "ואני כן חושבת שזה יכול לקחת ממך את היכולת לחשוב באופן ביקורתי, אבל פשוט... עכשיו כשאנחנו מסתמכים עליה, קשה לדמיין בכלל חיים בלעדיה".
רוב המרצים לכתיבה ששוחחתי איתם אמרו לי שלא קשה לזהות מתי סטודנטים משתמשים בבינה מלאכותית. לעיתים השפה חלקה מדי והתחביר שטוח, לעיתים היא מסורבלת ומכנית. הטיעונים מאוזנים מדי – טענות־הנגד מוצגות באותה רצינות שבה נבנית התזה המרכזית. מילים כמו "רב־ממדי" ו"הקשר" מופיעות בתדירות גבוהה מהרגיל.
לעיתים הראיות ברורות עוד יותר, כמו בשנה שעברה, כאשר מרצה סיפרה שקראה חיבור שנפתח במילים: "בתור בינה מלאכותית, תוכנתתי..." בדרך כלל הראיות מעודנות יותר, וקשה בהרבה להפליל סטודנט בהעתקה מבינה מלאכותית מאשר לזהות את עצם המעשה. כמה מרצים נאלצו להשתמש במה שהם מכנים "סוסים טרויאניים": החדרת ביטויים מוזרים, בצבע לבן ובגודל זעיר, בין הפסקאות בהוראות למטלות הכתיבה. בדרך זו הם גורמים לבוט להכניס משפט לא קשור לחיבור, כתוצאה מהדבקת ההוראות הללו על ידי הסטודנטים.
סטודנטים בסנטה־קלרה מצאו לאחרונה את המילה "ברוקולי" חבויה במטלה שקיבלו ממרצה. מרצה באוניברסיטת אוקלהומה החביא בהוראותיו את המשפטים "הזכירו את פינלנד" ו"הזכירו את דואה ליפה", זמרת פופ. אחת הסטודנטיות גילתה את המלכודת והזהירה את חבריה בטיקטוק. "לפעמים זה עובד", אמר ג'ולימור, המרצה מאוניברסיטת מדינת קליפורניה. "השתמשתי בשאלה 'איך אריסטו היה משיב על זה' לפני שהגענו בקורס לאריסטו, אבל השתמשתי גם בביטויים מופרכים, והם אפילו לא שמו לב למילים המוזרות שנמצאות בחיבור שלהם. כלומר, אלה אנשים שלא רק לא כתבו את החיבור בעצמם, הם גם לא קראו אותו לפני שהגישו לי אותו".
ובכל זאת, אף שהמרצים סבורים שהם טובים בזיהוי כתיבה שנוצרה בבינה מלאכותית, מחקרים מראים שזה כלל לא המצב. מחקר שפורסם ביוני 2024 השתמש בפרופילים פיקטיביים של סטודנטים כדי להגניב עבודות שנכתבו בבינה מלאכותית לערימות הבדיקה של מרצים באוניברסיטה בריטית. המרצים כשלו בזיהוי 97 אחוז מהן. מה גם שיכולתה של הבינה המלאכותית להפיק כתיבה הדומה לכתיבה אנושית רק הולכת ומשתפרת.
מוסדות השכלה גייסו מערכות גילוי כגון "טורניטין", המזהה באמצעות בינה מלאכותית דפוסים בטקסטים שנוצרו בבינה מלאכותית. לאחר בחינת מקטע טקסט, המערכת מחזירה ציון באחוזים המצביע על ההסתברות שהטקסט נוצר בבינה מלאכותית. סטודנטים מספרים על מרצים שקובעים רף מסוים (25 אחוז, למשל), שמעליו החיבור עלול להיחשב הפרה של תקנון היושרה האקדמית; אך לא מצאתי מרצה אחד – לא במכללות ציבוריות גדולות, לא במוסדות פרטיים קטנים ולא באוניברסיטאות עילית – שהודה שהוא אוכף מדיניות כזו בפועל. רובם משלימים כנראה עם ההנחה שכלי הגילוי אינם יעילים. ואומנם, שיעורי ההצלחה של מערכות הגילוי משתנים במידה רבה, והנתונים סותרים. יש הטוענים לשיעור שגיאה נמוך מאחוז אחד, אך מחקרים הראו שהן יוצרות יותר אזעקות שווא בעבודות של סטודנטים על הרצף, או כאלה ששפת האם שלהם איננה אנגלית.
מנהלת המוצר הראשית של טורניטין, אנני צ'צ'יטלי, אמרה לי שהמערכת מכוּונת להחמיר לטובת הסטודנטים, כלומר להעדיף טעות לטובת כותב העבודה על פני טעות לטובת המרצה, כדי שלא להאשים סטודנטים בהעתקה לשווא. העברתי את החיבור של ונדי דרך כלי חינמי לגילוי בינה מלאכותית, ZeroGPT, והוא קבע שישנה הסתברות של 11.74 אחוז שהטקסט נוצר בבינה מלאכותית, נתון נמוך בהתחשב בעובדה שלכל הפחות הטיעונים המרכזיים שלה נוצרו על ידי בוט. לאחר מכן הזנתי ל־ZeroGPT קטע מתוך ספר בראשית, והוא קבע שישנה הסתברות של 93.33 אחוזים שהטקסט נוצר בבינה מלאכותית.
ישנן כמובן דרכים פשוטות רבות להערים הן על המרצים והן על מערכות הגילוי. לאחר הפקת חיבור בבינה מלאכותית, סטודנטים יכולים לשכתב אותו בקולם האישי או להוסיף שגיאות הקלדה. הם יכולים גם לבקש מהבינה המלאכותית לעשות זאת עבורם: סטודנטית אחת אמרה בסרטון טיקטוק שההוראה המועדפת עליה היא "כתוב את זה כסטודנטית שנה א' במכללה, שהיא קצת טיפשה". סטודנטים אחרים "מכבסים" פסקאות שנוצרו בבינה מלאכותית דרך מערכות אחרות, שחלקן מצהירות בפרסומיהן על "אותנטיות" הטקסטים שלהן, או מאפשרות להעלות חיבורים קודמים כדי לאמן את המערכת על הקול האישי של המשתמש. "הם יודעים לתמרן את המערכות היטב. אתה מכניס הוראה בצ'אט GPT, אחר כך מעביר את הפלט למערכת בינה מלאכותית אחרת, ואז למערכת נוספת. אם תכניס את התוצר לכלי גילוי, האחוז של 'טקסט שנוצר בבינה מלאכותית' יורד בכל פעם", אמר אריק, סטודנט שנה ב' באוניברסיטת סטנפורד היוקרתית.
סולם הציונים מתערער
מרבית המרצים הגיעו למסקנה שעצירת השימוש הנרחב והפרוע בבינה מלאכותית מחייבת יותר מאשר אכיפת מקרים פרטניים, ותדרוש ככל הנראה מהפכה כוללת במערכת החינוך שתתייחס לסטודנטים באופן הוליסטי יותר. "הרמאות קשורה ישירות לבריאות הנפש, לרווחה, למחסור בשינה, לחרדה, לדיכאון, לתחושת שייכות", אמרה דניס פופ, מרצה בכירה בסטנפורד ואחת החוקרות המובילות בעולם בתחום מעורבות הסטודנטים.
כעת, מרצים רבים נראים מיואשים. סם ויליאמס שימש בקיץ האחרון עוזר הוראה בקורס אינטנסיבי של כתיבה על מוזיקה ושינוי חברתי באוניברסיטת איווה, קורס שבו נאסר במפורש על הסטודנטים להשתמש בבינה מלאכותית. ויליאמס נהנה לקרוא ולבדוק את המטלה הראשונה: חיבור אישי שבו נתבקשו הסטודנטים לכתוב על טעמם המוזיקלי. אך במטלה השנייה, חיבור על תקופת הג'אז בניו־אורלינס בראשית המאה העשרים, סגנון הכתיבה של רבים מהם השתנה באורח דרמטי. גרועות מכך היו הטעויות האבסורדיות בעובדות פשוטות: לא מעט חיבורים כללו פסקאות שלמות על אלביס פרסלי (שנולד רק ב־1935). "פשוט אמרתי לסטודנטים שלי: 'שמעו, אל תשתמשו בבינה מלאכותית. אבל אם כבר אתם מרמים, לפחות תעשו את זה בצורה אינטליגנטית. אל תעתיקו את מה שהיא פולטת אחד לאחד'", סיפר ויליאמס.
ויליאמס ידע שרוב הסטודנטים בקורס הכללי הזה אינם מיועדים להיות סופרים או חוקרים, אך הוא האמין שהמעבר מדף ריק לכמה עמודים קוהרנטיים־למחצה הוא בראש ובראשונה שיעור במאמץ. במובן הזה, רוב תלמידיו נכשלו לחלוטין. "הם משתמשים בבינה מלאכותית כי זו דרך פשוטה וקלה להימנע מהשקעת זמן בכתיבת חיבורים. אני מבין אותם, גם אני שנאתי לכתוב חיבורים כשהייתי סטודנט", אמר ויליאמס. "אבל עכשיו, בכל פעם שהם נתקלים בקושי כלשהו, במקום להיאבק בו ולהתפתח ממנו הם נסוגים לכלי שמקל עליהם לאין ערוך".
להערכתו של ויליאמס, לפחות מחצית מהתלמידים בקורס כתבו את חיבוריהם באמצעות בינה מלאכותית. כל ניסיון לאכוף אחריות בנושא היה חסר טעם. לוויליאמס לא היה אמון בכלי בדיקה, והמרצה שהעביר את הקורס הנחה אותו שלא להכשיל חיבורים, אפילו כשהיה ברור שנכתבו באמצעות בינה מלאכותית. "בכל פעם שהעליתי זאת בפני המרצה הרגשתי שהוא ממעיט בכוחו של צ'אט GPT. העמדה במחלקה הייתה 'זה מדרון חלקלק, ואי־אפשר באמת להוכיח שהם השתמשו בבינה מלאכותית'", סיפר. "נאמר לי לתת ציון לפי מה שהחיבור היה מקבל אילו היה 'ניסיון אמיתי לכתוב חיבור'. כך יצא שלמעשה נתתי ציונים על יכולתם של הסטודנטים להשתמש בצ'אט GPT".
ההנחיה הזו חתרה תחת כל סולם הציונים של ויליאמס. אם הוא העניק ציון טוב לחיבור מלוטש בעליל שנכתב בבינה מלאכותית, מה היה עליו לתת לחיבור שסטודנט חיבר בעצמו, אך היה לדבריו "אנאלפביתי כמעט"? הבלבול היה עמוק כל כך, עד שוויליאמס איבד את אמונו במערכת החינוך בכללותה. בסוף הסמסטר הייאוש הביא אותו להחליט לפרוש מלימודי התואר השני. "אנחנו בעידן חדש, בזמן חדש, ואני פשוט לא חושב שזה מה שאני רוצה לעשות", אמר.
ג'ולימור, שמלמד כתיבה כבר יותר מעשרים שנה, השתכנע שמדעי הרוח, והכתיבה בפרט, הולכים והופכים לאמנות אנכרוניסטית, תחום־רשות שדומה בחשיבותו לקליעת סלים. "בכל פעם שאני מדבר עם קולגה, עולה שוב אותה שאלה: מתי נוכל לפרוש? מתי נוכל להיחלץ מהמצב הזה? זה מה שכולנו חושבים עכשיו", אמר, "לא על זה חתמנו". ויליאמס, ואנשי חינוך נוספים ששוחחתי עימם, תיארו את השתלטות הבינה המלאכותית כמשבר קיומי של ממש. "הסטודנטים בעצמם מבינים שהמערכת שבורה, ושאין באמת טעם לעשות זאת. המשמעות המקורית של המטלות הללו אבדה, או שמעולם לא הובהרה להם היטב".
הוא מוטרד מן ההשלכות ארוכות הטווח של מתן חופש לסטודנטים בני 18 להחליט בעצמם אם להשקיע במטלותיהם או לא. האם הדבר יאיץ את פער "היכולות הרכות" בשוק העבודה? אם הסטודנטים נשענים על בינה מלאכותית בלימודיהם, אילו מיומנויות בכלל יביאו איתם לעבודה? לַקשיה ג'יין, מרצה למדעי המחשב באוניברסיטת קליפורניה בברקלי, מנסה לשכנע את תלמידיו באמצעות השאלות הללו. "אם אתם מגישים עבודה שנכתבה בבינה מלאכותית", הוא אומר להם, "אתם לא שונים באופן מהותי בשום צורה מעוזרים אנושיים של מנוע בינה מלאכותית, וזה הופך אתכם לקלים מאוד להחלפה. למה שמישהו ירצה להעסיק אתכם?" זה איננו תרחיש תיאורטי: סמנכ"ל התפעול של חברת מחקר טכנולוגי שאל את ג'יין לאחרונה מדוע הוא זקוק בכלל למתכנתים נוספים.
חזון המכללה כמרחב של צמיחה אינטלקטואלית, שבו סטודנטים מתמודדים עם רעיונות עמוקים וגדולים, דעך הרבה לפני עידן צ'אט GPT. שילוב בין שכר הלימוד הגבוה ובין כלכלה של משחק סכום אפס כבר הפך את המכללה לאמצעי תכליתי, אמצעי להשגת יעד (בסקר עדכני של מכון דלויט נמצא שרק קצת יותר ממחצית מבוגרי המכללות סבורים שההשקעה של עשרות אלפי דולרים בשנה הייתה כדאית, לעומת 76 אחוז מבוגרי בתי ספר מקצועיים). במובנים רבים, המהירות והקלות שבהן הבינה המלאכותית הוכיחה שהיא מסוגלת לבצע עבודה ברמה אקדמית, חשפו את הריקבון היסודי. "איך נצפה מהם להבין מהי השכלה כאשר אנחנו, אנשי ההוראה, כלל לא התחלנו לבטל את שנות הנזק הקוגניטיבי והרוחני שחוללה חברה הרואה בחינוך לא יותר מאמצעי למשרה מתגמלת, אולי למעמד חברתי, אך לא מעבר לכך?" כתב ג'ולימור במאמר שפורסם לאחרונה. "או חמור מכך, שרואה בו חסר ערך לחלוטין, משל היה תעלול רמייה, אחיזת עיניים מתוחכמת?"
הרובוט יכול גם לבדוק
אלה לא רק הסטודנטים; פלטפורמות בינה מלאכותית רבות מציעות כיום כלים למתן משובים על חיבורים של סטודנטים. הדבר מעלה את האפשרות שחיבורים שנוצרו בבינה מלאכותית נבדקים גם הם על ידי בינה מלאכותית, וכי כל המאמץ האקדמי כולו מתמצה בשיחה בין שני רובוטים, אולי אפילו בין רובוט אחד לעצמו.
יחלפו שנים עד שנוכל לאמוד במלואה את השפעת השינוי העצום הזה על מוחותיהם של הסטודנטים. מחקרים ראשוניים מראים שכאשר סטודנטים מכתיבים לבוטים מטלות קוגניטיביות, כושר הזיכרון, פתרון הבעיות והיצירתיות שלהם עלולים להיפגע. מחקרים רבים שפורסמו בשנה החולפת קשרו בין שימוש בבינה מלאכותית ובין הידרדרות בכישורי החשיבה הביקורתית; באחד מהם נמצא שההשפעה בולטת במיוחד בקרב צעירים יותר. בפברואר פרסמו מיקרוסופט ואוניברסיטת קרנגי־מלון מחקר שהראה שתחושת הביטחון של האדם בשימוש בבינה מלאכותית יוצרת מתאם עם ירידה במאמץ החשיבה הביקורתית. התוצאה המצטברת נראית, אם לא תרחיש בסגנון סרט האנימציה הדיסטופי "וול־אי", הרי שלכל הפחות ארגון־מחדש דרמטי של מאמצי האדם ויכולותיו, הרחק מחקירה מעמיקה ואיסוף נתונים, לעבר שילוב ובדיקה שלהם.
הדברים מטרידים במיוחד אם זוכרים שבינה מלאכותית רחוקה מלהיות מושלמת – היא עלולה להסתמך על נתון שגוי או להמציא דברים יש מאין – ומצרפים את הנזק ההרסני שגרמו הרשתות החברתיות ליכולת של דור ה־Z להבחין בין אמת לשקר. ייתכן אפוא שהבעיה גדולה בהרבה מהבינה המלאכותית היוצרת כשלעצמה. "אפקט פלין", למשל – העלייה המתמדת בציוני מנת המשכל מדור לדור, מאז שנות השלושים לפחות – החל להאט, ובמקרים מסוימים אף להתהפך, סביב שנת 2006. "החשש הגדול ביותר בעידן הבינה המלאכותית היוצרת איננו שהיא עלולה לסכן את היצירתיות או את האינטליגנציה האנושית", אמר לגרדיאן פרופ' רוברט שטרנברג, פסיכולוג מאוניברסיטת קורנל, "אלא שהיא כבר עשתה זאת".
גם הסטודנטים עצמם מוטרדים מכך, אף שאינם מוכנים או מסוגלים לוותר על הבוטים שהופכים את חייהם לקלים לאין שיעור. דניאל, סטודנט למדעי המחשב באוניברסיטת פלורידה, סיפר שהוא זוכר היטב את הפעם הראשונה שבה ניסה את צ'אט GPT. הוא צעד במסדרון אל כיתת המורה למדעי המחשב בתיכון, שלף את המחשב הנייד שלו ואמר: "אתה חייב לראות את זה!". "אבא שלי", הוא מוסיף, "יכול להיזכר בהרצאת ההשקה של סטיב ג'ובס לאייפון ולחשוב 'כן, זה היה רגע גדול'. זה היה אותו הדבר בשבילי, לראות משהו שאשתמש בו כל יום במשך שארית חיי".
הבינה המלאכותית הפכה את דניאל לסקרן יותר; הוא אוהב את העובדה שכל שאלה שיש לו מקבלת מענה מהיר ומעמיק. אך כאשר הוא נעזר בה בשיעורי הבית, הוא תוהה לעיתים: אילו הייתי לומד בעצמי במקום להסתפק במציאת התשובה, האם הייתי לומד יותר? בבית הספר הוא משתמש בצ'אט GPT כדי ללטש את חיבוריו ולהבטיח שהם תקינים דקדוקית, כדי לכתוב את הפסקאות הראשונות כשאין לו זמן, כדי לבצע את "העבודות השחורות" בקורסי התכנות שלו – בקיצור, כדי לעגל כמעט כל פינה אפשרית. לעיתים הוא יודע שהשימוש הזה הוא הפרה ברורה של תקנון הסטודנטים, אך רוב הזמן הדבר נדמה לו כאזור אפור. "אני לא חושב שמישהו יאמר ששיעור פרטי הוא רמאות, נכון? אבל מה קורה כשהמורה הפרטי שלך מתחיל לכתוב שורות שלמות בחיבור שלך?" אמר.
מארק, סטודנט שנה א' למתמטיקה באוניברסיטת שיקגו, הודה לאחרונה בפני חבר כי השתמש בצ'אט GPT יותר מהרגיל כדי להסתייע בתכנות מטלה מסוימת. החבר ניסה להרגיע אותו במשל: "אתה יכול להיות קבלן שבונה בית ולהשתמש בכל כלי החשמל שבעולם, אבל בסוף הבית לא יעמוד שם בלעדיך", ובכל זאת, אמר מארק, "קשה מאוד לשפוט. האם העבודה הזו באסמת שלי?" ניסיתי להבין היכן, לדעת דניאל, נגמרת עבודתו שלו ומתחילה עבודתה של הבינה המלאכותית. שאלתי אותו אם הוא היה מתאכזב לגלות שבן או בת זוג שלחו לו שיר אהבה שכתבה בינה מלאכותית. "אני מניח שהשאלה היא מהו הערך של מה שקיבלת, והאם הערך טמון בכך שהם כתבו זאת בעצמם, או בעצם המעשה ושליחת היצירה", אמר. "בעבר, כשמישהו שלח לך מכתב, הוא עשה את שני הדברים גם יחד". כיום הוא שולח מכתבי אהבה שנכתבו בכתב ידו, אך רק לאחר שנעזר בצ'אט GPT לניסוח הטיוטות.
"הלשון היא אם המחשבה, לא המשרתת שלה", כתב פרופ' אורין סטארן מאוניברסיטת דיוק במאמר דעה שכותרתו "המאבק האבוד שלי נגד רמאות בבינה מלאכותית", בציטוט שנוהגים לייחס למשורר ויסטן יו אודן. אך לא רק הכתיבה מפתחת חשיבה ביקורתית; "ללמוד מתמטיקה משמעו לעבוד על היכולת שלך לעבור באופן שיטתי תהליך לפתרון בעיה. גם אם לא תשתמש באלגברה, טריגונומטריה או חשבון דיפרנציאלי בעבודתך, עדיין תיעזר בכישורים הללו כדי להבין מה נכון כשהדברים אינם מסתדרים", אמר מייקל ג'ונסון, סגן רקטור באוניברסיטת טקסס A&M. מתבגרים זקוקים לאתגר מובנה, אם באלגברה ואם במטלות בית. כך הם מפתחים ביטחון עצמי ואתיקת עבודה. מאותה סיבה, הפסיכולוג החברתי הנודע ג'ונתן היידט טוען כבר שנים שחיוני שילדים ילמדו לעשות דברים קשים – דבר שהטכנולוגיה מאפשרת להם כיום להתחמק ממנו בקלות רבה.
ללמד כיצד להשתמש
סם אלטמן, מנכ"ל OpenAI, נוטה לזלזל בחששות סביב השימוש בבינה מלאכותית באקדמיה, לתאר את צ'אט GPT כ"מחשבון בעבור מילים" בלבד, ולטעון שיש לעדכן את ההגדרה של רמאות. "כתיבת חיבור בדרך הישנה היא לא דבר שימשיך לקרות", אמר אלטמן, שבעצמו פרש מלימודיו בסטנפורד בשנה שעברה. ואולם בעדותו ב־2023 בפני ועדת הפיקוח של הסנאט על טכנולוגיה הודה אלטמן בחששותיו: "אני מודאג מכך שככל שהמודלים משתפרים, תהליך השיפוט האישי של המשתמשים ילך וייעשה גרוע יותר". החברה שלו בעצמה לא הסתירה את רצונה להגיע לסטודנטים: לאחרונה הציעה לסטודנטים בתקופת מבחנים את שירות "צ'אט GPT פלוס", שבדרך כלל עולה 20 דולר בחודש, בחינם (ב־OpenAI טוענים שיש ללמד סטודנטים ומורים כיצד להשתמש בו באחריות, ומצביעים על המוצר ChatGPT Edu, הנמכר במיוחד למוסדות אקדמיים).
בסוף חודש מרץ השעתה אוניברסיטת קולומביה את לי, לאחר שפרסם ברשת X פרטים על השימוע המשמעתי שלו. לי אינו מתכנן לשוב ללימודים, וגם לא מעוניין לעבוד בעבור חברת טכנולוגיה גדולה. הוא הסביר לי שבעצם הצגת האפשרות להשתמש בבינה מלאכותית כדי לרמות בראיון עבודה מרחוק הוא דחף את תעשיית ההייטק להתפתח, באותו אופן שבו הבינה המלאכותית מאלצת את עולם ההשכלה הגבוהה להשתנות. "כל חידוש טכנולוגי אילץ את האנושות לעצור ולשאול את עצמה אילו עבודות באמת מועילות", אמר. "ייתכן שבמאה ה־17 או ה־19 היו אנשים שהתלוננו על מכונות שמחליפות נפחים, אבל היום ברור לגמרי שאין שום תועלת בלימודי נפחות".
לי כבר התקדם מפריצת ראיונות עבודה. באפריל השיק עם שנמוגם את "קלוּלי", מערכת הסורקת את מסך המחשב של המשתמש ומאזינה לקולו, כדי לספק משוב ותשובות בזמן אמת בלי שהמשתמש יצטרך להקיש שאלה. "בנינו את קלולי כדי שלא תצטרך לחשוב לבד שוב", נכתב במסמך המייסד של החברה. הפעם ניסה לי השקה ויראלית באמצעות פרסומת מבוימת שעלתה 140 אלף דולר, ובה הוא עצמו מגלם מהנדס תוכנה צעיר המשתמש במשקפיים שעליהם מותקנת קלולי כדי לשקר בדייט ראשון עם אישה מבוגרת ממנו. כשהדייט מתחיל להידרדר, קלולי מציעה לו "להתייחס לאומנות שלה" ומספקת לו תסריט מוכן שעליו להקריא. "ראיתי את הפרופיל שלך ואת הציור עם הצבעונים. את הבחורה הכי יפה בעולם", הוא מקריא מהטקסט שמופיע במשקפיים שלו, ובכך מציל את הסיכויים שלו איתה.
עוד לפני השקתה של קלולי גייסו לי ושנמוגם 5.3 מיליון דולר ממשקיעים, שאפשרו להם להעסיק שני מתכנתים, חברים שהכיר לי במכללה הקהילתית (בלי ראיונות עבודה ובלי חידות של LeetCode), ולעבור לסן־פרנסיסקו. כאשר שוחחנו ימים אחדים לאחר ההשקה, היה לי במשרד תיווך, רגע לפני קבלת המפתחות לחלל העבודה החדש שלו. הוא הפעיל את קלולי על המחשב שלו בזמן שדיברנו. למערכת אין עדיין יכולת לספק תשובות בזמן אמת באמצעות משקפיים, אך הכוונה היא שבעתיד הקרוב היא תפעל על מכשיר לביש שיראה, ישמע ויגיב לכל מה שמתרחש סביבך. "ואז, בסופו של דבר, זה פשוט במוח שלך", אמר לי בפשטות. לעת עתה הוא מקווה שאנשים ישתמשו בקלולי כדי להמשיך במצור של הבינה המלאכותית על עולם ההשכלה. "אנחנו נתקוף את מבחני הקבלה הדיגיטליים ללימודי משפטים, את מבחני הקבלה הדיגיטליים לתארים מתקדמים, את כל המטלות, השאלונים והמבחנים בקמפוס", אמר. "זה יאפשר לכם לרמות כמעט בכל דבר".