מנכ"לי ענקיות הטכנולוגיה מצויים במרוץ חימוש בתחום הבינה המלאכותית שעלול להוביל להכחדת האנושות — כך הזהיר היום (שלישי) חוקר מדעי המחשב הבכיר סטיוארט ראסל בריאיון ל-AFP. לדבריו, על ממשלות העולם "למשוך בבלמים" לפני שיהיה מאוחר מדי.
ראסל, פרופסור באוניברסיטת קליפורניה בברקלי ואחת הדמויות הבולטות בתחום בטיחות ה-AI, אמר כי ראשי חברות הבינה המלאכותית הגדולות מבינים את הסכנות הטמונות בפיתוח מערכות סופר-אינטליגנטיות שעלולות יום אחד לגבור על בני אדם.
לדבריו, האחריות להצלת האנושות מוטלת על מנהיגי העולם, המסוגלים לפעול יחד. "לאפשר לגורמים פרטיים לשחק למעשה רולטה רוסית עם כל אדם על פני כדור הארץ — זו בעיניי הפרה חמורה של תפקידם", אמר. מדינות וחברות משקיעות מאות מיליארדי דולרים בהקמת מרכזי נתונים עתירי אנרגיה לאימון ולהפעלת כלים גנרטיביים. הטכנולוגיה המתפתחת במהירות מבטיחה יתרונות כמו גילוי תרופות, אך גם עלולה להוביל לאובדן משרות, להקל על מעקב ופגיעה מקוונת — ואף לסיכון שבו "מערכות הבינה עצמן ישתלטו, והציוויליזציה האנושית תהפוך לנזק אגבי".
הכי מעניין
רובוט סיני | צילום: צילום מסך מיוטיוב
ראסל טען כי כל אחד מהמנכ"לים המובילים "רוצה להתפרק מנשקו", אך אינו יכול לעשות זאת לבדו מחשש שיודח בידי משקיעים. לדבריו, חלקם הודו בכך בפומבי ואחרים בשיחות פרטיות. הוא הזכיר כי גם סם אלטמן, מנכ"ל OpenAI, אמר כי בינה מלאכותית עלולה להביא להכחדת האנושות.
OpenAI והמתחרה האמריקנית Anthropic חוו לאחרונה התפטרויות פומביות של עובדים שהביעו דאגות אתיות. Anthropic אף הזהירה כי דגמי הצ’טבוט האחרונים שלה עלולים להיות מוסטי-התנהגות ולתמוך "ביודעין — בדרכים קטנות — במאמצים לפיתוח נשק כימי ופשעים חמורים אחרים".
ראסל השתתף בפסגת AI Impact בניו דלהי, וציין כי כינוסים בינלאומיים כאלה יכולים לסייע בקידום רגולציה, אף ששלוש הפסגות הקודמות הניבו רק הסכמים וולונטריים מצד החברות.
רובוט | צילום: AFP
הודו מקווה שהפסגה, הנמשכת חמישה ימים ובה משתתפים בכירי תעשייה ומשלחות לאומיות רבות, תסייע לה להתקדם בתחום. שר ה-IT ההודי אשוויני וישנאו אמר כי המדינה מצפה ליותר מ-200 מיליארד דולר בהשקעות AI בשנתיים הקרובות, מתוכן כ-90 מיליארד שכבר הובטחו.
במקביל, חששות כי כלי AI יובילו לפיטורים נרחבים במגזרי שירות הלקוחות והתמיכה הטכנית בהודו הביאו לירידות במניות חברות המיקור-חוץ. "אנחנו יוצרים חיקויים של אנשים", אמר ראסל, "והשימוש הטבעי בהם הוא החלפת בני אדם".
לדבריו, ניכרת תגובת נגד גוברת כלפי AI, במיוחד בקרב צעירים. "הם דוחפים חזרה נגד ההיבטים המנוכרים של הבינה המלאכותית", אמר. "כאשר אתה משתלט על כל הפונקציות הקוגניטיביות — היכולת לענות, להחליט, לתכנן — אתה הופך אדם לפחות מאנושי. הצעירים אינם רוצים בכך".
עוד כתבות בנושא
עוד כתבות בנושא
עוד כתבות בנושא
