בגלל סוכני ה-AI הסוררים: הצעת חוק אמריקנית דורשת "השבתת מתג"

מחוקקים אמריקנים רוצים לספק לממשל יכולת להורות במהירות על השבתת כלי בינה מלאכותית אשר עלולים לאיים על הציבור, אם הם חומקים משליטת אדם, מאיימים על חיי אדם, על תשתיות קריטיות או על הכלכלה, או כשנוצר סיכון לנזק קטסטרופלי.

שני חברי קונגרס, טד ליו, הדמוקרט, ונתנאל מורן, הרפובליקני, הציגו בסוף השבוע הצעת חוק בשם "חוק הורדת מתג ההשבתה של בינה מלאכותית".

הם עשו זאת לאור הודעת OpenAI כי מודלי הבינה המלאכותית שלה "יצאו משליטה בצורה חסרת תקדים" ופרצו למאגר מידע מרכזי של קידוד מחשבים.

ליו אמר כי "חובה שמערכות בינה מלאכותית יקבלו מתג השבתה… צריך שלממשלה הפדרלית יהיו סמכויות ברורות ותהליך סדור לסגירת מודלים של בינה מלאכותית סוררת". בדבריו ציין ליו גם את אנת'רופיק (Anthropic) – יריבתה המרכזית של OpenAI בפיתוח טכנולוגיות וכלים בעלי יכולת גבוהה יותר של AI – ואת הבעיות האחרונות שהציגו הכלים שלה. הוא הצביע על פרסום המודלים מיתוס (Mythos) ו-פייבל (Fable), ואמר כי יכולות הפריצה שהן הציגו בפועל גרמו למשרד המסחר "להפעיל בצורה מגושמת סעיפים בחוק היצוא, כדי למנוע מהם להיות זמינים לציבור לזמן מה". לפי ליו, "AI עוברת כעת מטכנולוגיה שעונה על שאלות – לטכנולוגיה שפועלת, בין אם מדובר בביצוע עסקאות פיננסיות, בשליטה במערכות תחבורה, או בעיסוק בהגנה ובתקיפה בסייבר".

הסנטור מורן הוסיף כי "בינה מלאכותית תמשיך להתקדם, והיא צריכה להמשיך להתקדם. אחריות פירושה לוודא שבני אדם שומרים על היכולת לשלוט בטכנולוגיה שאנו בונים". 

OpenAI לא הגיבה לדיווח. בעבר החברה הצהירה כי היא "רוצה להבטיח, בין היתר באמצעות מדיניות ממשלתית, שטכנולוגיית AI תועיל לכלל האנושות". גם אנת'רופיק לא מסרה את תגובתה.

The Hugging Face attack has led Representatives Ted Lieu (D-Califk) and Nathaniel Moran (R-Texas) to introduce the AI Kill Switch Act. pic.twitter.com/BWZ6WeVWI3

— Andrew Curran (@AndrewCurran_) July 23, 2026

"לתעשיית ה-AI יש דוושת גז, אך אין לה דוושת בלם"

בפועל החוק מציע להעניק למשרד לביטחון המולדת את הסמכות להורות לחברה פרטית לסגור מודל או כלי של בינה מלאכותית, וכי חברות המפתחות טכנולוגיית AI כזו חייבות לשמור על "היכולת הטכנית לחנוק, להשעות או לסגור אותה".

עוד כוללת הצעת החוק דרישה מחברות בינה מלאכותית לדווח לממשלה על אירועים או כשלים טכנולוגיים, כמו גם מסגרת רשמית לתגובה לאירועים כאלה, שתעבור מ"האטה ראשונית לכיבוי מלא".

יצוין כי עד כה, למרות שחברות טכנולוגיה רבות הסכימו להציג ולשתף מודלים וכלים של בינה מלאכותית הנמצאים בפיתוחן עם סוכנויות ממשלתיות אמריקניות, לא הייתה דרישה שהן יבנו דרך להתערב בפעילויותיהן או פשוט להשבית אותן. 

ג'ק קלארק, ממייסדי אנת'רופיק, אמר בעבר שהוא רוצה מדיניות ממשלתית רבה יותר סביב היכולת לשלוט בפיתוח AI: "אתה רוצה את האפשרות להוריד את הרגל מהגז וללחוץ על הבלם. כרגע זה נדמה כאילו שלתעשיית ה-AI יש דוושת גז, אבל אין לה דוושת בלם".

הרקע להצעת החוק: האירוע שדיווחנו עליו בהרחבה ובמסגרתו אירעה "תקרית סייבר חסרת תקדים", שבה שניים ממודלי הבינה המלאכותית המתקדמים ביותר של OpenAI "ברחו" מסביבת בדיקות ופרצו לפלטפורמת פיתוח הבינה המלאכותית האגינג פייס (Hugging Face) במהלך הערכת אבטחה פנימית.

הגילוי החריף את הוויכוח בשאלה האם מערכות בינה מלאכותית חזקות מספיק או שהן דורשות אמצעי הגנה חזקים יותר. 

הצעת החוק הוגשה לצד חקיקה דו-מפלגתית נפרדת, שתדרוש ממפתחי מודלי הבינה המלאכותית החזקים ביותר להעביר אותם לביקורות אבטחה עצמאיות לפני שחרורם. על פי הצעה זו, מבקרים יוסמכו על ידי משרד המסחר האמריקני, אשר גם יקים משרד חדש לפיקוח על אבטחת הבינה המלאכותית.