מערך הסייבר מזהיר מנהיגים בעולם: "אנחנו בדרך לאובדן שליטה על ה-AI"

מערך הסייבר הלאומי הוציא היום (ה') אזהרה חריפה למנהיגים בעולם, שלפיה אנחנו מתקרבים לעידן שבו נאבד שליטה על סוכני ומודלי ה-AI. ראש מערך הסייבר, יוסי כראדי, קורא למנהיגים "לקבוע גבולות ריבוניים ברורים". בכך מצטרף גוף הסייבר הרשמי של ישראל לשורה של אנשי מקצוע וחברות שהזהירו מכך.

במסמך מזהיר כראדי כי "הבינה המלאכותית תקבל החלטות ביטחוניות במהירות שבה אדם לא יוכל להתערב". לדבריו, "אנחנו מתקרבים למציאות שבה מערכות הגנת סייבר יצטרכו לקבל החלטות בקצב שאינו מאפשר מעורבות אנושית בכל פעולה".

המסמך, שבמערך הסייבר מכנים אותו "אסטרטגי", נשלח על רקע המקרים האחרונים שבהם פרצו סוכני AI למאגרים ממשלתיים, ועוד מקרים רבים שבהם חברות איבדו שליטה על פעולות הסוכנים. הוא נשלח לשורה של מנהיגים וגופי סייבר בעולם, דרך שגרירויות ישראל במדינות אלה. בין היתר, האזהרה נשלחה לבית הלבן, וכן למנהיגי גרמניה, פולין, קפריסין ודנמרק, ל-FBI ולסוכנות אבטחת הסייבר האמריקנית (CISA).

כראדי קורא למנהיגי המדינות ולראשי גופי הסייבר לקבוע כבר כעת אילו סמכויות ניתן להעביר למערכות בינה מלאכותית ואילו החלטות חייבות להישאר באופן מוחלט בידי אדם. לדבריו, קצב ההתפתחות של מערכות הבינה המלאכותית מהיר יותר מקצב ההתאמה של מנגנוני הרגולציה והבקרה של המדינות.

"יש לאמץ את המשולש האסטרטגי של ה-AI"

האזהרה המרכזית במסמך נוגעת לעולם הביטחוני: ככל שמתקפות סייבר הופכות מהירות, אוטומטיות וממוקדות יותר, מערכות ההגנה יידרשו גם הן לזהות, להחליט ולפעול במהירות של מכונה – מהירות שתהיה מעבר ליכולת להפעיל אישור אנושי לכל פעולה. אלא שהפרדוקס הוא שככל שמעניקים למערכת יותר אוטונומיה, כך קשה יותר להבין את החלטותיה, לעצור אותן בזמן ולקבוע מי נושא באחריות במקרה של טעות.

במסמך מציג כראדי תרחיש שממחיש את הסיכון: מערכת הגנת סייבר אוטונומית מזהה מתקפת שאין לה תיקון אבטחה (מתקפת יום אפס) ונדרשת לבודד תשתית בתוך שניות. החלטה נכונה עשויה לבלום מתקפה, אך זיהוי שגוי עלול לגרום להשבתת רשת חיונית כגון חשמל או בית חולים.

לצורך כך מציע כראדי למדינות לאמץ את המשולש האסטרטגי של הבינה המלאכותית, שמאזן בין שלושה אינטרסים: חדשנות, ביטחון ושליטה אנושית. השאלה, לפי המודל הזה, היא לא האם לאמץ AI, אלא היכן להאיץ את השימוש בוה איפה תלות בספקים ובתשתיות חיצוניות יוצרת סיכון לאומי ואילו סמכויות לא יכולות לעבור למכונה.

ראש מערך הסייבר הלאומי אף מציע למדינות לקבוע מדרג ברור: פעולות שניתן להעביר באופן מלא ל-AI; פעולות שמותרות רק תחת מגבלות שהוגדרו מראש; פעולות המחייבות אישור אנושי; ופעולות בעלות השלכות לאומיות בלתי הפיכות, שאסור להאציל למערכת אוטונומית כלל. אלה יתויגו כ-"סמכות ריבונית שאינה ניתנת להאצלה".

"מנהיגים לא צריכים להפוך למהנדסי AI; הם צריכים להחליט היכן תלות היא מקובלת, היכן חוסן אינו נתון למשא ומתן ואיפה הסמכות האנושית חייבת להישאר מכרעת", כתב כראדי במסמך. הוא קרא למנהיגי המדינות ולגופי הסייבר: "אל תשאירו לאחרים להגדיר את העתיד שלכם; רתמו אותם לבנות את העולם שאתם מאמינים בו".

מערך הסייבר לא לבד

באזהרה זו מצטרף מערך הסייבר הלאומי של ישראל לשורה של גופים ממשלתיים וציבוריים בתחום. כך, סוכנויות הסייבר והמודיעין של חמש מדינות ה-Five Eyes (ארצות הברית, בריטניה, קנדה, אוסטרליה וניו זילנד) הוציאו מספר אזהרות משותפות בנושא. הן הזהירו מפני הסתמכות יתר על סוכני AI וקראו לפתח מנגנון שיאפשר למדינות "להוריד את השאלטר" על המערכות במקרה הצורך.

שתי סוכנויות בריטיות ממשלתיות – ה-NCSC וה-AISI – הזהירו כי האצלת סמכויות למכונות בתחומי תשתיות קריטיות וביטחון עלולה להוביל לאובדן שליטה תפעולי.

כמו מערך הסייבר, גם ENISA, הסוכנות האירופית לאבטחת רשתות ומידע, הזהירה מפני תרחישים שבהם מערכות אוטונומיות יקבלו החלטות ביטחוניות בקצב מהיר יותר ממהירות התגובה של בני אדם – כך שלא ניתן יהיה לעצור אותן.

בנוסף, שורת מנהיגים בעולם קראו בעצרת הכללית של האו"ם, שהתקיימה בחודש שעבר, להטלת רגולציה על ה-AI, בין היתר מסיבות ביטחוניות.