חוכמה, בינה, דעת
האינטליגנציה המלאכותית לא עובדת כי המדע עוד לא הצליח להגדיר במדויק מה זו אינטליגנציה. פרק מהספר "על האינטליגנציה" מאת ג'ף הוקינס
גישת הבינה המלאכותית נולדה עם המחשב הדיגיטלי. אחת מדמויות המפתח בראשית דרכה של תנועת הבינה המלאכותית הייתה המתמטיקאי האנגלי אלן טיורינג, אחד מהוגי הרעיון של מחשב לשימוש כללי. המהלך הגאוני שלו היה הצגת מושג החישוב האוניברסלי באופן פורמלי, כלומר, כל המחשבים שקולים ביסודם, ללא תלות בפרטי המבנה שלהם. כחלק מן ההוכחה שלו הגה טיורינג מכונה דמיונית שמורכבת בעיקרון משלושה חלקים: קופסת עיבוד, סרט נייר והתקן שנע הלוך ושוב ותוך כדי כך קורא מן הסרט וכותב עליו סימנים שונים. הסרט שימש לאחסון מידע – כמו סימני ה-1 וה-0 המפורסמים בקוד מחשב (זה היה לפני המצאתם של שבבי זיכרון או של כונני דיסקים ולכן טיורינג דמיין סרט נייר לאחסון).
הקופסה, שכיום אנו קוראים לה יחידת עיבוד מרכזית (CPU), פועלת על-פי כללים קבועים לקריאה ולעריכה של המידע שנמצא על הסרט. טיורינג הוכיח מתמטית, שאם בוחרים את קבוצת הכללים הנכונה ליחידת העיבוד המרכזית ונותנים לה לעבוד עם סרט באורך אינסופי, היא יכולה לבצע כל קבוצת פעולות שניתנת להגדרה. המכונה הזו היא אחת ממספר רב של מכונות שקולות שנקראות עתה "מכונות טיורינג אוניברסליות". בין אם הבעיה היא למצוא שורשים ריבועיים, לחשב מסלולים בליסטיים, לשחק משחקים, לערוך תמונות או לאזן רשומות בנקאיות, בבסיסן של כל הפעולות האלה יש 1-ים ו-0-ים ואפשר לתכנת כל מכונת טיורינג לטפל בהן. עיבוד מידע הוא עיבוד מידע הוא עיבוד מידע. בין כל המחשבים הדיגיטליים ישנה שקילות לוגית.
מסקנתו של טיורינג הייתה נכונה ללא ספק ופורה באופן יוצא מן הכלל. היא הבסיס למהפכת המחשבים ולכל מוצריה. לאחר מכן פנה טיורינג לשאלה כיצד לבנות מכונה אינטליגנטית. הוא הרגיש שמחשבים יכולים להיות אינטליגנטיים, אבל לא רצה לעסוק בטיעונים האם זה אפשרי או לא. הוא גם לא חשב שהוא יכול להגדיר אינטליגנציה מבחינה פורמלית, לכן לא ניסה אפילו. במקום זה, טיורינג הציע הוכחה לקיום אינטליגנציה, הלוא היא "מבחן טיורינג" המפורסם: אם מחשב יכול להונות חוקר אנושי ולגרום לו לחשוב שגם הוא אדם, אזי המחשב אינטליגנטי בפירוש. וכך, עם מבחן טיורינג כאמת המידה שלו ועם מכונת טיורינג כאמצעי, עזר טיורינג לחנוך את תחום הבינה המלאכותית. הנחת היסוד המרכזית שלו: המוח אינו אלא עוד סוג של מחשב. לא משנה כיצד אתה מעצב מערכת בינה מלאכותית, כל שעליה לעשות הוא להפיק התנהגות כמו-אנושית.
חסידי הבינה המלאכותית ראו הקבלות בין חישוב לחשיבה. הם אמרו, "תראו, ברור שהביצועים המרשימים ביותר של האינטליגנציה האנושית כרוכים בטיפול בסמלים מופשטים – וזה גם מה שמחשבים עושים. מה אנו עושים כאשר אנו מדברים או מקשיבים? אנו מטפלים בסמלים מנטליים שנקראים מילים, תוך שימוש בכללי דקדוק מוגדרים היטב. מה אנו עושים כאשר אנו משחקים שחמט? אנו משתמשים בסמלים מנטליים שמייצגים את תכונותיהם של כלי השחמט ואת מיקומיהם. מה אנו עושים כאשר אנו רואים? אנו משתמשים בסמלים מנטליים לייצוג עצמים, מיקומיהם, שמותיהם ותכונות אחרות. נכון, אנשים עושים כל זאת בעזרת המוח ולא עם מחשבים מן הסוגים שאנו בונים, אולם טיורינג הראה שלא משנה כיצד מממשים את הסמלים או מטפלים בהם. אפשר לעשות זאת עם מערכת של גלגלי שיניים, עם מערכת של מתגים אלקטרוניים או עם רשת תאי העצב שבמוח – כל אמצעי, כל עוד הוא יכול לממש תפקוד השקול לזה של מכונת טיורינג אוניברסלית".
הנחה זו קיבלה חיזוק ממאמר מדעי רב השפעה שפרסמו בשנת 1943 הנוירופיזיולוג ווֹרֶן מֶקָאלוֹק והמתמטיקאי וולטר פִּיטְס. הם תיארו כיצד תאי עצב יכולים לבצע פונקציות דיגיטליות, כלומר, כיצד ייתכן שפעולתם של תאי עצב מתבססת על הלוגיקה הפורמלית שנמצאת בלב לבם של המחשבים. הרעיון היה שתאי עצב יכולים לפעול כמו מה שמהנדסים מכנים שערים לוגיים. שערים לוגיים מממשים פעולות לוגיות פשוטות כגון "וגם" (AND), "לא" (NOT) ו"או" (OR). שבבי מחשב מורכבים ממיליוני שערים לוגיים שמחווטים יחד למעגלים מדויקים ומורכבים. יחידת עיבוד מרכזית אינה אלא אוסף של שערים לוגיים.
מקאלוק ופיטס הצביעו על כך שגם תאי עצב אפשר לחבר זה לזה בדייקנות על מנת לבצע פעולות לוגיות. כיוון שתאי עצב אוספים קלט זה מזה ומעבדים קלטים אלה על מנת להחליט האם לשגר אותות פלט, יכול להיות שתאי עצב הם שערים לוגיים חיים. אם כן, הסיקו מקאלוק ופיטס, ייתכן שהמוח מורכב משערי וגם, משערי או ומרכיבים לוגיים אחרים שכולם בנויים מתאי עצב, באנלוגיה ישירה לחיווט במעגלים אלקטרוניים דיגיטליים. לא ברור אם מקאלוק ופיטס אכן חשבו שהמוח פועל כך; הם רק אמרו שהדבר אפשרי. מבחינה לוגית, תפיסה זו של תאי העצב היא אפשרית. תאי עצב יכולים, בתיאוריה, לממש פונקציות דיגיטליות. אולם איש לא טרח לשאול אם זו אכן הדרך שבה תאי עצב מחווטים במוח. למרות היעדר ראיות ביולוגיות, ראו בזאת הוכחה שהמוח אינו אלא סוג אחר של מחשב.
ראוי גם לציין שפילוסופיית הבינה המלאכותית קיבלה חיזוק מן הזרם השליט בפסיכולוגיה
כשהסתיימה מלחמת העולם השנייה וניתן היה להשתמש במחשבים אלקטרוניים דיגיטליים לטווח רחב יותר של יישומים, הפשילו חלוצי הבינה המלאכותית את שרווליהם והתחילו לתכנת. תרגום שפה? קלי קלות! זהו סוג של פיצוח קוד. כל מה שאנו צריכים לעשות הוא למפות כל סמל במערכת א' לסמל המתאים לו במערכת ב'. ראייה? גם זה נראה קל. אנו כבר מכירים משפטים בגיאומטריה שעוסקים בסיבוב, בקנה מידה ובהעתקה, ואנו יכולים לקדדם בקלות כאלגוריתמים של מחשב – אז אנחנו כבר בחצי הדרך. חסידי הבינה המלאכותית טענו טענות מרשימות לגבי המהירות שבה בינת המחשב תשתווה לאינטליגנציה האנושית ובהמשך גם תעלה עליה.
למרבה האירוניה, תוכנית המחשב שהייתה הקרובה ביותר לעבור את מבחן טיורינג, תוכנית ששמה Eliza, חיקתה פסיכואנליטיקאי בכך שניסחה מחדש את שאלותיו של האדם היושב מולה והפנתה אותן בחזרה אליו. למשל, אם אישה הקלידה, "החבר שלי ואני לא מדברים יותר," הייתה Eliza עשויה לומר, "ספרי לי על החבר שלך" או "למה את חושבת שהחבר שלך ואת לא מדברים יותר?"
התוכנית, שפותחה כבדיחה, הצליחה באמת לשטות בכמה אנשים, אף שהייתה טיפשית ופשטנית. ניסיונות רציניים יותר כללו תוכניות כגון עולם של קוביות (Blocks World), הדמיה של חדר המכיל קוביות בצבעים שונים ובצורות שונות. אפשר היה להציג לתוכנית זו שאלות כגון "האם יש פירמידה ירוקה על הקובייה האדומה הגדולה?" או הוראות כמו "הניחי את הקובייה הכחולה על הקובייה האדומה הקטנה." התוכנית ענתה על שאלות או ניסתה להיענות לבקשות. היא התבססה כולה על הדמיה - והצליחה. אך היא הוגבלה לעולם הקוביות שלה, שהיה מלאכותי מאוד. מתכנתים לא הצליחו להכליל אותה לעשות משהו שימושי.
בינתיים התרשם הקהל מהזרם המתמשך של הצלחות לכאורה ושל סיפורים חדשים על טכנולוגיית בינה מלאכותית. תוכנית אחת, שעוררה התרגשות בתחילה, יכלה להוכיח טענות מתמטיות. מאז אפלטון נחשבו היסקים דדוקטיביים רב שלביים לפסגת האינטליגנציה האנושית, כך שבתחילה נראה היה שהבינה המלאכותית זכתה בכל הקופה. אולם התברר שתוכנית זו, בדיוק כמו עולם של קוביות, מוגבלת. היא יכלה למצוא משפטים פשוטים מאוד שכבר היו ידועים. אחרי כן התעוררה התרגשות גדולה סביב "מערכות מומחה", בסיסי נתונים של עובדות שיכלו לענות על שאלות שהציגו משתמשים אנושיים. לדוגמה, מערכת מומחה רפואית עשויה להיות מסוגלת לאבחן את מחלתו של חולה כשניתנת לה רשימת תסמינים. אולם שוב התברר שהשימוש בהן מוגבל והן לא מתקרבות אפילו לאינטליגנציה כללית.
מחשבים יכלו לשחק דמקה ברמות של מומחים ובסופו של דבר ניצחה Deep Blue של IBM ניצחון מפורסם את אלוף העולם בשחמט, גארי קספרוב, במגרש שלו. אולם הצלחות אלה היו ריקות מתוכן. Deep Blue לא ניצחה כיוון שהייתה חכמה יותר מבני-אדם, היא ניצחה כיוון שהייתה מהירה פי מיליונים מבני-אדם. ל- Deep Blue לא הייתה אינטואיציה. שחקן מומחה מתבונן במצב הלוח ורואה מיד אילו כיווני משחק עשויים להניב פירות ואילו עלולים להיות מסוכנים, בעוד שלמחשב אין כל תחושה פנימית לגבי מה חשוב ועליו לחקור הרבה יותר אפשרויות. ל-Deep Blue חסרה גם תחושה של התקדמות המשחק והיא לא ידעה דבר על המתחרה שלה. היא שיחקה שחמט אולם לא הבינה שחמט, באותו אופן שמחשבון מבצע פעולות חשבון אולם אינו מבין מתמטיקה.
בכל המקרים הצליחו תוכניות הבינה המלאכותית המוצלחות רק בדבר המסוים שבשבילו בדיוק תוכננו. הן לא הקישו מהפרט אל הכלל או הפגינו גמישות ואפילו יוצריהן הודו שהן אינן חושבות כמו בני-אדם. ניסיונות לפתור בעיות בינה מלאכותית שנחשבו בהתחלה לבעיות פשוטות לא הניבו כל התקדמות. אפילו כיום אין מחשב שמיטיב להבין שפה כמו ילד בן שלוש או שמיטיב לראות כמו עכבר.
לאחר שנים רבות של מאמץ, של הבטחות שלא מומשו ושל הצלחות מוגבלות בלבד, זוהרה של הבינה המלאכותית החל להתעמעם. מדענים מן התחום פנו לתחומי מחקר אחרים. חברות סטארט-אפ שעסקו בבינה מלאכותית נכשלו. והיו פחות ופחות מקורות מימון. תכנות מחשבים למלא אפילו מטלות בסיסיות מאוד של תפיסה, של שפה ושל התנהגות החל להיראות כמשימה בלתי אפשרית. כיום אין שינוי רב. כפי שאמרתי קודם, יש עדיין אנשים שמאמינים שאפשר יהיה לפתור בעיות בינה מלאכותית בעזרת מחשבים מהירים יותר, אולם רוב המדענים חושבים שהניסיון כולו היה לקוי מיסודו.
אל לנו להאשים את חלוצי הבינה המלאכותית בכישלונותיהם. אלן טיורינג היה מבריק. לכולם הייתה הרגשה שמכונת טיורינג תשנה את העולם – והיא שינתה, אך לא באמצעות הבינה המלאכותית.
ספקנותי באשר לקביעותיה של הבינה המלאכותית התחדדה בערך באותו זמן שניסיתי להתקבל ל-MIT. ג'ון סירל, פרופסור רב השפעה לפילוסופיה באוניברסיטת קליפורניה שבברקלי, אמר באותו זמן שמחשבים אינם, ולא יוכלו להיות, אינטליגנטיים. כדי להוכיח זאת הציג ב-1980 ניסוי מחשבתי ששמו "החדר הסיני". וזה הניסוי:
נניח שיש חדר אשר באחד מקירותיו חריץ ובתוך החדר יושב אדם דובר אנגלית ליד שולחן כתיבה. לאדם יש ספר גדול של הוראות וכל העפרונות ונייר הטיוטה שהוא עשוי להיזקק להם אי-פעם. הוא מדפדף בספר ורואה שההוראות, שכתובות באנגלית, הן הוראות כיצד לתפעל, למיין ולהשוות סימניות כתב סיניות. שימו לב, ההוראות אינן אומרות דבר על משמעותן של סימניות הכתב הסיניות; הן עוסקות רק באופן שיש להעתיק, למחוק, לסדר מחדש, לתעתק אותן וכן הלאה.
מישהו מחוץ לחדר מחליק פיסת נייר דרך החריץ. על פיסת הנייר כתובים סיפור ושאלות על הסיפור, הכול בסינית. האדם שבתוך החדר אינו מדבר או קורא מילה בסינית, אולם הוא לוקח את הנייר ומתחיל לעבוד על-פי ספר הכללים שלו. הוא עובד ועובד, ממלא באופן מכני אחר ההוראות שבספר. לעתים מורות לו ההוראות לכתוב סימניות כתב על נייר טיוטה ופעמים אחרות להזיז סימניות כתב או למחוק אותן. האדם מפעיל כלל אחר כלל, כותב סימניות כתב ומוחק סימניות כתב, עד שההוראות בספר מורות לו שעבודתו הושלמה. כאשר הוא מסיים לבסוף, הוא כותב דף חדש של סימניות כתב שהן, בלי שהוא יודע על כך, התשובות לשאלות. הספר אומר לו להעביר את הנייר בחזרה דרך החריץ. הוא עושה זאת ותוהה לשם מה כל התרגיל המייגע הזה.
בחוץ, אישה דוברת סינית קוראת את הכתוב. היא מבחינה שהתשובות כולן נכונות, מלאות תובנה אפילו. אם תישאל האם התשובות האלה הגיעו מתודעה אינטליגנטית שהבינה את הסיפור, היא בטוח תאמר כן. אבל האם היא צודקת? מי הבין את הסיפור? ודאי שלא הבחור שבתוך החדר; הוא אינו יודע סינית ואין לו מושג על מה הסיפור. זה לא הספר שאינו אלא, ובכן, ספר שמונח לו על שולחן הכתיבה בין ערימות נייר. מתי אפוא התרחשה ההבנה? תשובתו של סירל היא שלא התרחשה הבנה בכלל; לא היו אלה אלא כמה דפדופי נייר ושרבוטי עיפרון חסרי דעת. ועתה לחילוף המפתיע: "החדר הסיני" מקביל בדיוק למחשב דיגיטלי. האדם הוא יחידת העיבוד המרכזית שמבצעת הוראות בבלי דעת, הספר הוא התוכנה שמזינה את יחידת העיבוד המרכזית בהוראות ונייר הטיוטה הוא הזיכרון. אם כן, לא משנה עד כמה המחשב מתוכנן בחוכמה להדמות אינטליגנציה על-ידי הפקת אותה התנהגות כמו בן-אדם, אין לו כל הבנה והוא אינו אינטליגנטי (סירל הבהיר שאינו יודע מהי אינטליגנציה; כל שאמר הוא שתהיה אשר תהיה, למחשבים אין אותה).
טיעון זה גרם למריבה גדולה בין פילוסופים לחסידי הבינה המלאכותית. הוא הוליד מאות מאמרים, וכן מידה לא מעטה של סרקזם ושל איבה. סניגורי הבינה המלאכותית העלו עשרות טיעוני-נגד לסירל, למשל, שאמנם אף אחד מן החלקים שהרכיבו את החדר לא הבין סינית, אולם החדר כולו כמכלול הבין, או שהאדם שבחדר בעצם הבין סינית, אולם לא ידע זאת.
אישית, אני חושב שסירל צדק. לאחר ששקלתי את טיעון "החדר הסיני" וחשבתי על אופן פעולתם של מחשבים, לא ראיתי שמתרחשת הבנה במקום כלשהו. הייתי משוכנע שעלינו להבין מהי "הבנה", למצוא דרך להגדיר אותה שתבהיר מתי מערכת היא אינטליגנטית ומתי אינה כזאת, מתי היא מבינה סינית ומתי אינה מבינה סינית. ההתנהגות שלה אינה מגלה זאת.
אדם אינו צריך "לעשות" שום דבר כדי להבין סיפור. אני יכול לקרוא סיפור בשקט ואף-על-פי שאינני מתנהג התנהגות גלויה כלשהי, הקליטה וההבנה שלי ברורות, לפחות לי. לעומת זאת, אי-אפשר לגלות מתוך התנהגותי השקטה אם אני מבין את הסיפור או לא, או אפילו אם אני יודע באיזו שפה הסיפור כתוב. אפשר לשאול אותי אחר-כך שאלות כדי לראות אם הבנתי, אולם הבנתי התרחשה כאשר קראתי את הסיפור, לא כאשר אני עונה על השאלות. הנחת יסוד של ספר זה היא שאי-אפשר למדוד הבנה באמצעות התנהגות חיצונית; במקום זאת, כפי שנראה בפרקים הבאים, הבנה היא בעצם מדד פנימי של האופן שבו המוח זוכר דברים ומשתמש בזיכרונותיו לניבויים. ל"חדר הסיני", ל-Deep Blue ולרוב תוכניות המחשב אין משהו שדומה לזה. הן אינן מבינות מה הן עושות. הדרך היחידה שבה אנו יכולים לשפוט אם מחשב אינטליגנטי או לא היא על-פי הפלט שלו, כלומר התנהגותו.
קו ההגנה האחרון של הבינה המלאכותית הוא שמחשבים יוכלו, בתיאוריה, להדמות מוח שלם. מחשב יוכל להוות מודל של כל תאי העצב והחיבורים ביניהם, ואם יעשה זאת לא יהיה דבר שיבחין בין "האינטליגנציה" של המוח ובין "האינטליגנציה" של הדמיית המחשב. אף-על-פי שייתכן שאין זה אפשרי הלכה למעשה, אני מסכים עם טענה זאת. אולם חוקרי בינה מלאכותית אינם מדמים מוחות ותוכניותיהם אינן אינטליגנטיות. אי-אפשר להדמות מוח בלי להבין קודם כל מה הוא עושה.
את "על האינטליגנציה" כתב ג'ף הוקינס עם סנדרה בלייקסלי.
ג'ף הוקינס הוא מייסד החברות Palm Computing, Handspring ו-Numenta, והמלכ"ר Redwood Neuroscience Institute, מוסד מחקר מדעי שמתרכז בהבנת דרך פעולת הנאו-קורטקס האנושי. הוקינס הוא סמנכ"ל הטכנולוגיות הראשי בפאלם, שם תכנן מוצרי מחשוב רבים בפאלם, בהם מחשבי כף-היד פאלם פיילוט וטראו. ב-Numenta מפתח הוקינס טכנולוגיה המבוססת על מודל המוח שהוא תיאר בספר "על האינטליגנציה".להוקינס תואר B.Sc בהנדסת חשמל מאוניברסיטת קורנל.
סנדרה בלייקסלי היא כתבת מדע בניו יורק טיימס, המתמחה במדעי העצבים.
"על האינטליגנציה" תורגם לעברית על ידי תמר אלמוג ויצא לאור בהוצאת אריה ניר בשנת 2005.
נא להמתין לטעינת התגובות
