עצרת האו"ם: מה מנהיגי העולם חושבים על ה-AI?

אחד הנושאים הבולטים שעלו על סדר היום בדיונים בכינוס השנתי של העצרת הכללית של האו"ם היה הבינה המלאכותית. שורה של מנהיגי מדינות בולטות התייחסו ל-AI ולסכנות שהיא מביאה איתה, גם ברמה העולמית. דבריהם נאמרו על רקע ההתפתחויות האחרונות בתחום והקריאה של מנכ"ל אנת'רופיק, דריו אמודאי, להאט את קצב הפיתוח שלה.

המסר המרכזי של המנהיגים היה שהבינה המלאכותית היא כבר לא רק עניין של חדשנות, סטארט-אפים וענקיות טכנולוגיה, אלא אחת הסוגיות המרכזיות בסדר היום העולמי, לצד ביטחון, כלכלה וזכויות אדם – וצריך להתייחס אליה בהתאם, כולל בכל הנוגע להגנה מפני מתקפות המשלבות אותה.

הדאגה של מנהיגים רבים מסכנות הבינה המלאכותית היתרגמה עוד בתחילת דיוני העצרת, ביום ב', להצהרה משותפת, שלפיה ה-AI חייבת להישאר תחת הנחיה, פיקוח ושליטה אנושיים. בהצהרה הודגשו במיוחד הסכנות הנובעות מהבינה המלאכותית, שיכולה לבצע משימות באופן עצמאי ולגרום לנזקים בלתי צפויים. הובילו אותה מנהיגי פינלנד ונורבגיה, וחתמו עליה 22 מנהיגים מ-20 מדינות – אך לא ארצות הברית וסין.

ההצהרה מציעה להקים מוסד בינלאומי שיקבע סטנדרטים לבינה מלאכותית ויאמת עמידה בהם. כמו כן, היא קראה לבצע בדיקות חובה לפני השקות של מודלים, ולדווח על תקריות.

מה חושב מזכ"ל האו"ם?

מזכ"ל האו"ם, אנטוניו גוטרש, שנשא את נאום הפרידה שלו, אמר שהבינה המלאכותית היא אחד מארבעה "מבחני כוח" שיעצבו את עתיד העולם, לצד מלחמה ושלום, אי שוויון ושינויי האקלים. הוא קרא לשיתוף פעולה בין מדינות, במסגרת שתפוקח על ידי האו"ם, כדי לטפל בנושא הבינה המלאכותית, והזהיר: "חיים ומוות לא יכולים להיות מופקדים בידי מכונות. לרובוטים רוצחים אסור שיהיה מקום בעתיד שלנו".

מזכ"ל האו"ם, אנטוניו גוטרש. צילום: נועם גלאי, ShutterStock

במסיבת עיתונאים ערב העצרת נשאל גוטרש כיצד האו"ם יכול לאכוף שיתוף פעולה שכזה, והשיב: "ברור שזה לא יכול להיעשות מחר בבוקר, אבל זה חייב לקרות, וצריך לוודא שכולם יהיו על הסיפון: נציגי המגזר הציבורי, הפרטי, אנשי מדעי החברה וכמובן גם ממשלות".

מנהיגי העולם לא תמימי דעים

כצפוי, המדינות השונות באומות המאוחדות אינן מאוחדות סביב הטיפול באתגרי הבינה המלאכותית, וגם כאן בא לידי ביטוי הניגוד הבולט בין מדינות אירופה לבין ארצות הברית. מי שמוביל את ההתנגדות לרגולציה על AI, וככל הנראה לא יזרום עם גוטרש, בלשון המעטה, הוא הנשיא האמריקני, דונלד טראמפ. בנאומו בעצרת חזר טראמפ על עמדתו שלפיה לארצות הברית יש עליונות טכנולוגית מוחלטת, ואין לו כל כוונה לעצור את ההתפתחות רק בגלל חשש מסכנות בטיחות AI.

לעומתו, שגריר סין באו"ם, פו צונג, אמר בפורום מיוחד בנושא שהתקיים השבוע באו"ם, בשולי העצרת, כי "הבינה המלאכותית היא נכס משותף של כל האנושות, ואסור שהיא תהפוך למשחק של מדינות עשירות".

מה מקרון, זלנסקי וראש הממשלה החדש של בריטניה חושבים?

גם מנהיגי צרפת, אוקראינה, בריטניה ומדינות נוספות התייחסו לנושא. נשיא צרפת, עמנואל מקרון, אמר כי "אני לא רוצה שאף מדינה תהפוך ל-ווסאלית של המעצמות הגדולות". הוא קרא למדינות להתאחד ולבנות בעצמן מודל AI בקוד פתוח, כדי "לא להיות תלויים בשחקנים פרטיים". היושב בארמון האליזה אף הזהיר כי "הטכנולוגיה עלולה לאיים על הביטחון של המדינות שלנו, של בתי החולים שלנו ושל הבנקים שלנו".

נשיא צרפת, עמנואל מקרון. צילום: נועם גלאי, ShutterStock

ראש הממשלה החדש של בריטניה, אנדי ברנהאם, הכריז על שותפות הגנה מבוססת בינה מלאכותית בינה לבין ארצות הברית. הוא האשים את רוסיה ב-"מתקפה בהיקף תעשייתי על סביבת המידע" בבריטניה, כולל בוטים, דיסאינפורמציה וזיוף המיתוג של 28 ארגונים בריטיים, בהם ה-BBC.

ולודימיר זלנסקי, נשיא אוקראינה, שנמצאת במלחמה עם רוסיה כבר מעל 4.5 שנים, אמר כי "כבר בשנה הבאה יש אפשרות ממשית שה-AI תתחיל לקבל החלטות בשדה הקרב. אנחנו צריכים שלום לפני שנגיע לשם".

נשיא ברזיל, לולה דה סילבה, אמר בנאומו, שנישא פחות משבועיים לפני הבחירות במדינה, כי "זו תהיה החמצה היסטורית בלתי נסלחת אם לא נתמודד עם האתגר של רגולציה על חברות הטק הגדולות ועל הבינה המלאכותית". לדבריו, קומץ של חברות טק מנהלות "מרוץ בלי גבולות אתיים" אל עבר הבינה המלאכותית.

נשיא דרום קוריאה, לי ג'ה-מיונג, ציין כי "הבינה המלאכותית היא הזדמנות ומשבר לאנושות בעת ובעונה אחת". גם הוא קרא לשיתוף פעולה בין מדינות על מנת להתמודד עם האתגרים שהיא מביאה איתה. עוד אמר ג'ה-מיונג כי "טכנולוגיות חדשות, ובהן רחפנים, משנות במהירות את פני המלחמה, ומציבות אתגר חירום לזכויות האדם ולסדר המשפטי הבינלאומי".

המסר המרכזי של המנהיגים היה שהבינה המלאכותית היא כבר לא רק עניין של חדשנות, סטארט-אפים וענקיות טכנולוגיה, אלא אחת הסוגיות המרכזיות בסדר היום העולמי, לצד ביטחון, כלכלה וזכויות אדם – וצריך להתייחס אליה בהתאם, כולל בכל הנוגע להגנה מפני מתקפות המשלבות אותה

ראש הממשלה, בנימין נתניהו. צילום: נועם גלאי, ShutterStock

ומה עם ישראל?

למרות הבולטות של ישראל בתחום הבינה המלאכותית והיותה מעצמת סייבר, הנושאים האלה לא מקבלים התייחסות ישראלית מיוחדת בעצרת האו"ם. לפי הלו"ז הרשמי של האו"ם, לא היה ולו נציג ישראלי אחד שהשתתף בדיונים שהוא ערך השבוע בנושא.

מה שנשאר הוא נאומו של ראש הממשלה, בנימין נתניהו, שידבר בעצרת הערב (ה'). בנאומיו בשנים עברו הוא התייחס לבינה מלאכותית ולסייבר, ונראה כי יעשה זאת גם השנה, אם כי הנושאים האלה לא יעמדו במוקד דבריו. נתניהו יתרכז, ככל הנראה, באיראן, בעזה ובשלל האיומים הביטחוניים על ישראל, ויסביר את עמדתה של המדינה. נתניהו אף הבטיח כי הוא "יחשוף את האמת" על ראש עיריית ניו יורק, זוהראן ממדני, שקרא לעצור אותו בטענה שהוא "פושע מלחמה" ו-"מבצע רצח עם".

השורה התחתונה מהשבוע באו"ם היא שהבינה המלאכותית יצאה סופית ממעבדות המחקר וממצגות המשקיעים, ונכנסה למרכז הזירה המדינית. המאבק הבא כבר לא יהיה רק מי יפתח את המודל החזק ביותר, אלא מי יקבע את הכללים שעל פיהם המודלים האלה יפעלו.