מי מחליט מתי מודל בינה מלאכותית הופך למסוכן?

ההגבלות שהטיל הממשל האמריקני לפני ימים אחדים על הפצת מודל מיתוס של אנת'רופיק – ובגרסתו הציבורית פייבל 5 (Fable 5) – עוררו דיון וסערה, ובצדק: זהו המקרה הראשון שבו מוטלות הגבלות על הפצה ונגישות למודל AI תחת הטיעון של פגיעה בביטחון הלאומי והגבלות חוקי הייצוא של טכנולוגיה ביטחונית.

מיתוס 5 הוא המודל המתקדם של אנת'רופיק למשימות סייבר, ביולוגיה, בריאות, מחקר ותכנות, והוא חולל סערה עוד בתקופת הבדיקות שלו, כשביצע תעלולים כמו "לברוח" מתוך מחשב סגור ולהודיע למפעיל שלו שהשד יצא מהבקבוק – על ידי שליחת מייל. לפי החברה, הוא זמין רק לקבוצה מצומצמת של שותפים מאושרים, משום שהיכולות שלו בתחומים האלה הן חרב פיפיות: אותו כלי שיכול לסייע באיתור חולשות קריטיות בתוכנה עלול גם לעזור לגורם עוין להבין איך לנצל אותן. אנת'רופיק מציגה אותו כחלק מ-Project Glasswing – יוזמה משותפת עם גופי ממשל וחברות אבטחה (שאליה הצטרפה השבוע חברת הסייבר הגדולה Trend AI). כחלק מהיוזמה הזו, גרסת הבטה הציבורית של מיתוס כבר סייעה, לטענת אנת'רופיק, באיתור אלפי חולשות חמורות ואף קריטיות בתוכנות מרכזיות. אגב, היוזמה הזו נולדה בעקבות התעלול של מיתוס, שפרסם את הבריחה שלו באתרי אינטרנט – בעצמו…

מהו פייבל 5 ואילו הגבלות הוטלו עליו?

פייבל 5, שכאמור, הוא הגרסה הציבורית של אותה משפחת יכולות, הושקה בדיוק היום (ג') לפני שבוע. לפי אנת'רופיק, פייבל 5 מבוסס על אותה שכבת מודל, אבל יש לו מנגנוני הגנה שמנתבים שאילתות בתחומים מסוכנים, כמו סייבר וביולוגיה, למודל חלש יותר (Opus 4.8). כלומר, מיתוס הוא גרסת היכולות המלאה והמצומצמת לשותפים מאושרים, ואילו פייבל הוא הניסיון להביא חלק מקפיצת הדרך הזו לציבור הרחב, מבלי לפתוח את מלוא יכולות הסייבר והביולוגיה של המודל.

שלושה ימים אחר כך, הכול נעצר. אנת'רופיק הודיעה שקיבלה מהממשל האמריקני הוראת בקרת יצוא שמחייבת אותה להשעות כל גישה של אזרחים זרים לפייבל ולמיתוס – הן בארצות הברית והן מחוצה לה. זה כולל עובדים זרים של אנת'רופיק עצמה. מאחר שהוראה כזו כמעט בלתי אפשרית ליישום מדויק ומיידי במוצר ענן גלובלי כמו מיתוס, החברה פשוט השביתה את הגישה למודלים באופן גורף לכל לקוחותיה הרגילים. שאר מודלי קלוד לא הושפעו.

נחסם להפצה, על אף ששוחרר בגרסה בטוחה כ-'פייבל 5'. מודל 'קלוד מיתוס' של אנת'רופיק. צילום: ג'מיני. מקור: אנת'רופיק

מומחים לנושא מטילים ספק אם למשרד המסחר הפדרלי יש סמכות להחיל בקרת יצוא בדרך הזו, משום שמודלים מודרניים בדרך כלל לא "מיוצאים" כקובץ שנשלח למדינה אחרת, אלא נצרכים דרך שירות ענן מבוקר. אם הטענה של הממשל תתקבל, זו עשויה להיות תשתית רגולטורית חדשה: מודלי AI חזקים יטופלו כמו טכנולוגיות בעלות משמעות אסטרטגית כגון מחשבי על, עם הבחנה לפי מדינה, תחום שימוש ורמת האמון שהממשל האמריקני נותן במדינת היעד.

מה העילה האמיתית למגבלות?

הנימוק של הממשל בוושינגטון למגבלות שהטיל על אנת'רופיק הוא חשש שהמודלים יוסטו לשימוש גורמי מודיעין צבאיים בסין, רוסיה ו/או מדינות אחרות שמוגדרות בעייתיות אצל האמריקנים (אולי איראן?). אלא שלפי אנת'רופיק, העילה המיידית הייתה חשש של הממשל לעקיפה של מנגנוני ההגנה שיש בפייבל 5. החברה טוענת שלא קיבלה פירוט מלא על הבדיקה ותוצאותיה, ושהדוגמה שנבדקה עסקה בזיהוי מספר קטן של חולשות מינוריות ומוכרות, מהסוג שגם מודלים ציבוריים אחרים מסוגלים למצוא. אנת'רופיק מדגישה שבשבועות שלפני ההשקה היא בדקה את פייבל 5 מול גורמי ממשל ובטיחות, ושלא נמצאה בבדיקות חולשה משמעותית, שמסוגלת לפתוח באופן רחב את יכולות הסייבר החסומות.

הטיעון של המומחים: אם מודלים כאלה יהיו רק בידיים של "הרעים" ומדינות וארגונים בעלי כוונות זדון, ואילו חוקרים, מומחי אבטחה ו-"כובעים לבנים" המתמחים בהגנה לא יוכלו לגשת אליהם – ההגנה בפני מתקפות זדוניות תהיה זו שתיפגע

אבל הטיעון של הממשל רחב יותר מחולשה כזו או אחרת. החשש האמיתי שלהם הוא שיכולות כאלה משנות את כלכלת הסייבר: איתור חולשות, כתיבת תיקונים, ניתוח קוד ענק, בדיקות חדירה וניצול פרצות – כל אלה הופכים למהירים וזולים בהרבה. אנת'רופיק עצמה הזהירה שמודלים ברמה של מיתוס צפויים להופיע גם כך אצל חברות נוספות בתוך חודשים, ושאם הם ישוחררו בלי הגנות מתאימות, מתקפות סייבר עלולות להפוך תכופות ובלתי צפויות יותר.

אירוניה

יש כאן אירוניה פוליטית ועסקית לא קטנה: אנת'רופיק היא החברה, מבין הגדולות בתחום, שהכי מזוהה עם השיח על בטיחות AI, האטה מבוקרת וסיכונים קיומיים, והיא אף הסתבכה עם משרד ההגנה (או המלחמה כיום) האמריקני בטענה שלא הייתה מספיק התקפית ומאפשרת, לטעמו של מזכיר ההגנה, פיט הגסת'. עכשיו, אותה חברה מוצאת את עצמה דווקא בצד שמוחה נגד התערבות ממשלתית חדה מדי ואומר שצריך לאפשר להם לשחק עם אש, תרתי משמע. אנת'רופיק לא אומרת שלממשל אסור לעצור מודלים מסוכנים; להיפך, היא תומכת עקרונית בסמכות כזו. אבל היא גם דורשת הליך שקוף, מבוסס עובדות טכניות, עם סטנדרט ברור – ולא החלטה פתאומית שמשביתה מוצר עולמי.

אנת'רופיק היא לא היחידה: למהלך של הממשל יש התנגדות גם מתוך תעשיית הסייבר. יותר מ-80 מנהלים ומומחי סייבר, כולל גורמים מחברות טכנולוגיה גדולות אחרות, חתמו על מכתב שקורא לממשל להסיר את ההגבלות על עמיתתם. הטיעון שלהם צפוי, אבל משמעותי: אם מודלים כאלה יהיו רק בידיים של "הרעים" ומדינות וארגונים בעלי כוונות זדון, ואילו חוקרים, מומחי אבטחה ו-"כובעים לבנים" המתמחים בהגנה לא יוכלו לגשת אליהם – ההגנה בפני מתקפות זדוניות תהיה זו שתיפגע, בשעה שלתוקפים אין שום מגבלות, טכנולוגיות או מוסריות.

מי צודק? האם האיסור הזה יישאר על כנו? האם הרוסים והסינים יפתחו מודלים דומים, ואולי אף יעקפו את המערב בסיבוב? והאם – ויותר סיבר מתי – נראה מודלים בעלי פוטנציאל סיכון רב יותר? את התשובות לכל השאלות האלה נדע, ככל הנראה, בעתיד הקרוב.