המסגרת של ממשל טראמפ לבדיקת יכולות AI מתקדמות: בלי מודלים פתוחים

הממשל האמריקני אינו מתכוון לשלב מודלי AI פתוחים במסגרת שהוא בונה לבדיקת יכולות AI מתקדמות. מדובר במסגרת וולונטרית סודית, שביצירתה משתתפות כמה חברות AI ואבטחה אמריקניות, שתישאר סגורה וסודית בפני כל גוף שאינו חלק מהתהליך – ולא משנה אם מדובר בחברת AI אחרת, מדינה בעלת ברית או קובעי מדיניות.

ההחלטה שלא לשלב מודלים פתוחים למעשה די מובנת לאור הידיעה, שכל מי שלא שותף בתהליך בכלל לא ידע איך בדוקים את המודל שלו – עם זאת, זה לא אומר שהממשל שולל שימוש כללי במודלים פתוחים, אבל הם לא ישולבו בתהליך הבחינה, וייבדקו כמו כל מודל סגור שיוגש לבדיקה.

לא ברור עדיין אילו מודלים יצטרכו לקבל אישור, או כיצד מודל מוגדר כמתקדם שדורש בדיקה מיוחדת, או כיצד הוא מוגדר כאיום על הביטחון הלאומי.

מה שכן ידוע הוא, שכדי לקבל אישור יש צורך בתהליך שיימשך 30 יום, שבמהלכו המסגרת תבדוק את המודל בסביבות מאובטחות במיוחד, עם גישה מוגבלת מאוד של עובדי החברה שהגישה את הבקשה, ועם קישור מדוקדק של מי שניגש למודל להפעלתו – והפיקוח יהיה רחב ולא של גוף אחד מוגדר בלבד.

כך או כך, אין בכוונת הממשל לפרסם את מסגרת הבדיקה באופן ציבורי, כך שבמידה רבה, מי שיגיש מודל לבדיקה יהיה עיוור לתהליך.