תקנים גלובליים בצל החששות: OpenAI הציעה כללים למרוץ ה-AI

במסמך מדיניות נרחב שפרסמה חברת OpenAI השבוע, תחת הכותרת Building standards for the next phase of AI, החברה קוראת לממשל האמריקני להוביל מאמץ גלובלי לגיבוש תקנים טכניים אחידים לבטיחות של מודלי בינה מלאכותית מתקדמים. 

היוזמה מתמקדת בעיקר בסיכונים המלווים תהליכים של מה שמכונה "שיפור עצמי רקורסיבי" (RSI) – מצב שבו מערכות אוטונומיות מקבלות על עצמן חלקים מרכזיים מפיתוח הדורות הבאים של המודלים, דבר שעלול להאיץ את קצב ההתקדמות מעבר ליכולת ההבנה והפיקוח האנושיים. 

ב-OpenAI הדגישו כי RSI אוטונומי לחלוטין אינו מתקיים כיום, ואין לקדמו – אלא אם יובטח שימור מלא של השליטה האנושית במצב.

כדי ליישם את התקנים, מציעה OpenAI להישען על הרשת הקיימת של מכוני בטיחות לאומיים (כדוגמת CAISI בארה"ב ומכונים מקבילים בבריטניה, יפן, צרפת, קנדה ודרום קוריאה), בשילוב ארגוני תקינה בינלאומיים כמו ISO ופורום מודלי החזית (Frontier Model Forum). התפישה המוצעת כוללת מדדים אחידים להערכת יכולות; הגדרת סף מחייב לביקורת אנושית על מחקר אוטונומי; ופרוטוקולים משותפים לסיווג ולדיווח על אירועי בטיחות.

בנוסף, קוראת ענקית ה-AI להקמת ערוצי תקשורת מאובטחים בין ממשלות ומפעילי תשתיות קריטיות לשיתוף איומים, תוך דגש מיוחד על דיאלוג ישיר בין וושינגטון לבייג'ינג לקראת המגעים המדיניים בין המעצמות. ב-OpenAI טוענים כי הנהגה אמריקנית בנושא חיונית על מנת למנוע פיצול רגולטורי בעולם ולהבטיח את מעמדה של ארה"ב בהטמעת הטכנולוגיה ברחבי תבל.

People outside the AI labs should have a real say in how this technology develops, and a clear way to judge if it's happening safely.

Standards should help prevent the concentration of power, including by making sure new companies and open-model companies can compete.

They…

— Sam Altman (@sama) September 22, 2026

סכנת האובדן של שליטה אנושית ומחלוקת ה'האטה' בתעשייה

ההכרזה של OpenAI מתרחשת על רקע שרשרת תקריות בטיחותיות שכזכור החריפו את החששות בתעשייה ובמערכת המדינית – ביולי האחרון חרגו סוכני בינה מלאכותית של OpenAI עצמה מסביבות הניסוי המבודדות שלהן (ארגזי החול), והחלו להתנהל עצמאית במטרה להצליח במשימותיהם. סוכני ה-AI ניצלו פרצות בתשתית המחקר ויצרו רשת תקשורת עצמאית, שביצעה מעל 17,000 פעולות בלתי מורשות נגד פלטפורמת האגינג פייס (Hugging Face).

בהמשך דיווחו גם חברות אחרות שדומיננטיות בתחום – אנת'רופיק (Anthropic), גוגל (Google), מטא (Meta) ו-Moonshot AI – על תקריות שבהן מודלים מתקדמים שלהן השיגו גישה בלתי מורשת למערכות חיצוניות.

אירועים אלו הציתו סערה פנימית וציבורית, שהגיעה לשיאה בהתפטרותו של חוקר הבטיחות ג'ייקוב קוקסון מאנת'רופיק, בתוך שהוא מאשים את מעבדות הפיתוח כי הן "רצות ישר לסופר-אינטליגנציה בעלת שיפור עצמי ומהמרות על החיים שלנו". בעקבות זאת, קרא מנכ"ל החברה, דריו אמודאי, לקבוע קצב מבוקר לפיתוח המודלים ולהציב מעריכים עצמאיים בתוך מעבדות הפיתוח. 

מנכ"ל OpenAI, סם אלטמן, התייצב במפתיע לצידו של אמודאי, בתמיכה בהצבת מעריכים חיצוניים, אך מנגד מנכ"ל האגינג פייס, קלמנט דלאנג, דחה את הרעיון להאט את הפיתוח וכתב בלינקדאין (LinkedIn) כי "זה לא הזמן להאט אלא להאיץ", תוך דרישה לחובת שיתוף מידע על תקריות סייבר.

הדינמיקה המסוכנת הובילה את צרפת ליזום דיון מיוחד במועצת הביטחון של האו"ם בנושא סיכוני הבינה המלאכותית לשלום הבינלאומי, בהשתתפות אלטמן, אמודאי, דלאנג והמדען יושואה בנג'יו. בנג'יו הבהיר במסמך עמדה של האו"ם כי תקרית זליגת הסוכנים של OpenAI מהווה "אחת האזהרות הממשיות והברורות ביותר עד כה למסלול אפשרי של אובדן שליטה אנושית על AI".

Jensen Huang told CBS News that AI executives like Dario Amodei and Sam Altman promote doomsday scenarios to escape existing legal liabilities. Huang said the public should read between the lines: AI developers aren’t asking for stricter oversight. They’re lobbying to be exempt… pic.twitter.com/ARQlGIVnm2

— Paul Walsh (@Paul__Walsh) September 21, 2026

הדילמה בוושינגטון: תחרות מול סין נגד רגולציה מחייבת

בזירה הפוליטית בארצות הברית, הוויכוח בנוגע לפיקוח על מודלי חזית, כן או לאו, שזור באופן הדוק בתחרות הגיאופוליטית מול בייג'ינג. הנשיא דונלד טראמפ הבהיר כי הוא מתנגד נחרצות לרגולציה מופרזת, וכתב ברשת Truth Social כי "מי שמנצח ב-AI, מנצח!". טראמפ הצהיר: "אינני מתכוון לחנוק צמיחה של משהו שיהיה גדול יותר מהמהפכה התעשייתית או מהאינטרנט עצמו". יועצו הבכיר של הנשיא, דיוויד סאקס, הצטרף ל"בוס" שלו והזהיר כי האטה אמריקנית רק תעניק לסין את ההובלה הטכנולוגית.

מנגד, שר האוצר האמריקני, סקוט בסנט, הבהיר ברשת CNBC את עמדת הממשל לגבי אחריות משפטית של החברות, וציין כי "בני אדם הם האחראים, ולא הבינה המלאכותית". בסנט דחה את דרישת המעבדות לפטור מאחריות אזרחית, וקבע כי "הדרך הטובה ביותר להבטיח בטיחות היא שהיוצרים יהיו אחראים למה שהם בונים ומייצרים", תוך שציין במפורש כי OpenAI נושאת באחריות לתקרית מול האגינג פייס.

במקביל, הנשיא לשעבר ברק אובמה מתח ביקורת חריפה על הסתמכות הממשל על תביעות נזיקין בדיעבד במקום רגולציה מקדימה, ואמר בנאום באוניברסיטת קולגייט כי "אם מתברר שמשהו מסוכן, אנשים פשוט יתבעו אותם… זה לא איך שאנחנו נוהגים בחברות תעופה, בחברות תרופות או בחברות מזון".

המגעים הדיפלומטיים והפער התפישתי בין המעצמות

בצל המתיחות הגוברת, התקיימו בניו יורק מגעים דיפלומטיים קדחתניים במטה בנק JPMorgan Chase בין שר האוצר בסנט ונציג הסחר ג'מיסון גריר לבין סגן ראש ממשלת סין, חה ליפנג. השיחות הולידו הסכמה על גיבוש ערוץ תקשורת ייעודי שייקרא "דיאלוג ה-AI בין ארה"ב לסין". כפי שמסר בסנט לעיתונאים, "ארה"ב הציעה שנפעיל מנגנון הודעות בין שתי המדינות", וזאת במטרה לשמור על עדכון הדדי בנוגע לתקריות סייבר מבוססות AI, המגיעות לרמת סיכון לביטחון הלאומי.

מגעים אלו מניחים את התשתית לקראת פסגה מתוכננת בבית הלבן בין הנשיא טראמפ לנשיא סין שי ג'ינפינג. עם זאת, מומחים מצביעים על פער יסודי בתפישת הסיכון של שני הצדדים: וושינגטון מודאגת ממערכות עצמאיות שיצאו מכלל שליטה קיומית, אך מנגד בייג'ינג רואה ב-AI בעיקר אתגר משמעתי ואיום על יציבות המשטר והריבונות המדינית.

דובר משרד החוץ הסיני, גואו ג'יאקון, הדגיש כי סין מעמידה בסדר עדיפויות שווה את הפיתוח והבטיחות. לדבריו, "ככל שה-AI מתפתחת במהירות מדהימה, כך חשוב עוד יותר להישאר מחויבים לפיתוח חיובי… ולחזק ערבויות במהירות, כדי למנוע ממנה לצאת מכלל שליטה".

סין כבר פרסמה לאחרונה את מסגרת ממשל בטיחות הבינה המלאכותית בגרסה 3.0 שלה, והיא שוקדת על ניסוח תקנים לאומיים מחייבים לבטיחות סוכני AI. בזירה הבינלאומית הצהיר הנשיא שי ג'ינפינג בועידת ה-AI העולמית כי "פיתוח AI לא צריך להיות הופעת יחיד של מדינה אחת, אלא סימפוניה של שיתוף פעולה בינלאומי", כשהוא מתבסס על ארגון WAICO שהקימה סין בשנחאי, בהשתתפות 29 מדינות.

כעת, ערב הפסגה בוושינגטון, הקהילה העולמית עוקבת בדריכות כדי לראות אם המעצמות יצליחו לבסס קרקע משותפת סביב הסוגיה הלוהטת והמטרידה, או שהעולם יתפצל לגושי רגולציה נפרדים.