עלייתה של הבינה המלאכותית עמדה במוקד ישיבת מועצת הביטחון של האו"ם אתמול (ד'), כאשר מנהיגים ודיפלומטים מרחבי העולם הכירו ביכולותיה העצומות של הבינה המלאכותית, כמעט בלתי ניתנות למדידה, תוך שהם קוראים לנהוג בזהירות לנוכח הסכנות הפוטנציאליות שבשימוש לרעה, במיוחד בתחום הצבאי.
"השאלה איננה האם הבינה המלאכותית תשפיע על שלום וביטחון בינלאומיים, אלא כיצד נעצב את ההשפעה שלה באופן אחראי", אמר מזכ"ל האו"ם אנטוניו גוטרש בדבריו בפתיחת הישיבה. "בינה מלאכותית יכולה לחזק את המניעה וההגנה - לחזות חוסר ביטחון תזונתי וגלי עקירה, לתמוך בפעולות לפירוק מוקשים, לעזור בזיהוי פריצות אלימות ועוד ועוד. אך ללא אמצעי בקרה, היא עלולה גם להפוך לנשק".
המושב השבוע, במסגרת המפגש השנתי רם-הדרג של האו"ם, הדגיש את המודעות הגלובלית לכוחה של הבינה המלאכותית, כאשר המנהיגים התייחסו ליתרונות האפשריים בתחומים כמו מחקר רפואי ושיתוף פעולה בינלאומי, לצד אזהרות חמורות מפני יכולתה של הטכנולוגיה להפיץ מידע שגוי ולגרום לנזק.
הכי מעניין
האומות המאוחדות, | צילום: EPA/JUSTIN LANE
"ניתוח עומק של נתונים על־ידי בינה מלאכותית טומן בחובו פוטנציאל לקידום השלום", אמר סגן ראש ממשלת בריטניה, דיוויד לאמי, והילל את יכולתה של הבינה המלאכותית לספק "לוגיסטיקה מדויקת בזמן אמת, ניתוח תחושות ציבור בזמן אמת, ומערכות התרעה מוקדמות במיוחד". אך לאמי הזהיר גם מ"האתגרים בעימותים מזוינים", כמו "סיכון לטעות בשיקול דעת, סיכון להסלמה לא מכוונת, והופעתם של צ'אט-בוטים מבוססי בינה מלאכותית המחריפים קונפליקטים".
מאז ההשקה של ChatGPT לפני כשלוש שנים, יכולותיה המדהימות של הבינה המלאכותית הדהימו את העולם. חברות טכנולוגיה מיהרו לפתח מערכות מתקדמות יותר, גם כאשר מומחים מזהירים מפני הסכנות האפשריות: ממגפות מהונדסות ועד מידע כוזב בהיקף נרחב, או מערכות בינה מלאכותית שיצאו משליטה - וקוראים לקביעת אמצעי הגנה.
אימוץ מבנה ממשלתי חדש על־ידי האו"ם הוא הצעד המשמעותי ביותר עד כה לריסון הטכנולוגיה. מאמצים קודמים, כולל שלושה כנסים בנושא בינה מלאכותית שיזמו בריטניה, דרום קוריאה וצרפת, הניבו רק התחייבויות לא מחייבות. בחודש שעבר, עצרת האו"ם קיבלה החלטה להקים שני גופים מרכזיים: פורום עולמי ופאנל מדעי עצמאי של מומחים - צעד היסטורי שמטרתו להוביל את מאמצי המשילות הבינלאומית של הטכנולוגיה.
עוד כתבות בנושא
הדיון הפתוח שהתקיים אתמול התמקד בשאלה כיצד יכולה מועצת הביטחון להבטיח שימוש אחראי בבינה המלאכותית, בהתאם לחוק הבינלאומי ובתמיכה בתהליכי שלום ומניעת סכסוכים. מספר דוברים, בהם שר החוץ של סיירה לאון, טימותי קאבא, הדגישו את הצורך שהמועצה תוביל במניעת שימוש צבאי בבינה מלאכותית ללא פיקוח אנושי כדי למנוע הסלמה קטלנית או טעויות הרסניות.
"המועצה יכולה לעודד שימוש בטובין במבצעי שלום, לקדם אמצעי בקרה לשמירה על שליטה אנושית בשימושים צבאיים, ולהבטיח עמידה בחוק הבינלאומי ובדיני הלחימה", אמר קאבא. ראש ממשלת יוון, קיריאקוס מיצוטקיס, קרא למועצה "להתעלות לרמה הנדרשת, בדיוק כפי שהתעלתה בעבר באתגרים של נשק גרעיני או שמירת שלום, כך עליה כעת להוביל את עידן הבינה המלאכותית".
חלק מחברי המועצה הביעו חשש מפני כך שאזורים פחות מפותחים, כמו אפריקה, נותרים מאחור במהפכת הבינה המלאכותית. נשיא סומליה, חסן שייח' מוחמד, הזהיר מפני "קולוניאליזם דיגיטלי", שלדבריו ניתן להתמודד עמו על־ידי שיתופי פעולה עם יוזמות שיבטיחו שהבינה המלאכותית תשמש לקידום קולקטיבי ולא להעמקת הפערים החברתיים.
| צילום: אילוסטרציה: שאטרסטוק
איור: בינה מלאכותית | צילום: איור: בינה מלאכותית
בינה מלאכותית. | צילום: שאטרסטוק
בינה מלאכותית | צילום: שאטרסטוק
בינה מלאכותית. | צילום: שאטרקסטוק
שר החוץ של אלג'יריה, אחמד עטאף, ציין כי "רק 10 מתוך 55 מדינות באיחוד האפריקאי אימצו רגולציה טכנולוגית נדרשת", אמר שזה "משקף את חולשת המסגרות הרגולטוריות והחוקיות ברוב מדינות אפריקה" ושזה מהווה אתגר של "ריבונות דיגיטלית ליבשת". הערב (ה'), במסגרת הכינוס השנתי של האו"ם, יקיים גוטרש פגישה להשקת הפורום שנקרא הדיאלוג הגלובלי על ממשל הבינה המלאכותית.
הפורום יהווה פלטפורמה לממשלות ו"גורמים רלוונטיים" לדיונים על שיתופי פעולה בינלאומיים, רעיונות ופתרונות. הוא צפוי להתכנס רשמית בז'נבה בשנה הבאה ובניו יורק בשנת 2027. בינתיים, יחל גיוס של 40 מומחים לפאנל המדעי, כולל שני יו"רים - אחד ממדינה מפותחת ואחד ממדינה מתפתחת. יש המשווים את הפאנל לפאנל האו"ם לשינויי אקלים ולכנס הדגל שלו: ה־COP.
המוסדות החדשים נחשבים "ניצחון סימבולי". לפי איזבלה וילקינסון, עמיתה במכון המחקר הבריטי צ'טהאם האוס, מדובר ב"צורת המשילות הגלובלית הכי כוללת עד כה" בתחום הבינה המלאכותית. אך לדבריה, "בפועל, נראה כי למנגנונים החדשים לא תהיה עוצמה ממשית". אחת הבעיות האפשריות: האם המנגנון האיטי של האו"ם בכלל מסוגל להסדיר טכנולוגיה מתקדמת ומתפתחת במהירות כמו הבינה המלאכותית.
chatGPT | צילום: AP
לקראת הישיבה, קבוצה של מומחים מובילים קראה לממשלות להסכים על "קווים אדומים" לבינה מלאכותית עד סוף השנה הבאה, מתוך הבנה שהטכנולוגיה זקוקה ל"סף מינימלי של אמצעי הגנה" למניעת "הסיכונים הדחופים והבלתי־קבילים ביותר".
בין החותמים: בכירים מ־OpenAI, מ־DeepMind של גוגל ומחברת Anthropic. הם קוראים להסכם בינלאומי מחייב בנושא, ומציינים כי העולם כבר הסכים בעבר על איסורים בנושא ניסויים גרעיניים, נשק ביולוגי והגנה על הימים הפתוחים.
עוד כתבות בנושא
