בפעם הראשונה בעולם: סוכן AI סורר חדר לאתר ממשלתי

סוכן עצמאי של OpenAI פרץ לאתר של ממשלת אוסטרליה ביוני האחרון, והצליח להשיג גישה לנתונים פרטיים. מומחים אומרים כי מדובר במקרה הראשון מסוגו בעולם.

ראש ממשלת אוסטרליה, אנתוני אלבניזי, שנמצא בימים אלה בעצרת האו"ם בניו יורק, מסר אתמול (ד') כי "הסוכן חדר לפורטל סטטיסטי, שמכיל קבצים ציבוריים ושאינם ציבוריים (מידע פומבי ומידע שאינו חשוף לציבור – י"ה). המידע נקצר מפורטל שירות הדיווח הסטטיסטי של תוכנית הבריאות. הוא מכיל נתונים וסטטיסטיקות שאינם רגישים".

אלבניזי הדגיש כי "בשלב זה לא נראה שנקצר מידע אישי, אך החקירות נמשכות". "למרות זאת", ציין ראש הממשלה האוסטרלי, "המצב הזה הוא כמובן בלתי מתקבל על הדעת. ל-OpenAI לקח יותר מדי זמן ליידע את הרשויות האוסטרליות על הפריצה ביוני".

"שיחה גלויה מאוד" עם סם אלטמן

לדברי אלבניזי, הוא ניהל "שיחה גלויה מאוד" עם סם אלטמן, מנכ"ל OpenAI, והתלונן בפניו שלקח לחברה "יותר מדי זמן" לחשוף את הפריצה. "יהיו לכך השלכות משפטיות", ציין. הוא הוסיף כי "העליתי בפני אלטמן את הדאגה הקיצונית של אוסטרליה מהמקרה הזה". לדבריו, "אלטמן הודה שיש בעיות בפרוטוקולים ב-OpenAI".

OpenAI מסרה בתגובה כי גילתה את הפריצה רק בחודש שעבר, בעת שבחנה פעילות של מודלים "שאינה לפי המתווים שנקבעו". לדבריה, "זיהינו פעילות שכוללת כמה אתרי אינטרנט ושירותים ממשלתיים אוסטרליים, בהם המודלים שלנו ניסו לחפש תשובות וסטטיסטיקות זמינות לשאלות על אוסטרליה, במהלך הערכה פנימית. במהלך זה, המודלים שלנו נקטו פעולות שלא התכוונו אליהן".

האם החדירה תשפיע גם על מערכות ממשלתיות אחרות?

ראש ממשלת אוסטרליה הודיע שסוכנות הסייבר של המדינה תערוך חקירה פורנזית, על מנת לברר האם מערכות ממשלתיות אחרות הושפעו מהאירוע. החקירה תבחן גם האם יש צורך שהמשטרה תטפל בנושא.

מומחי אבטחה במדינה ציינו כי שלוש מערכות ממשלתיות נוספות עלולות להיות מושפעות גם הן מהאירוע: אלה של המכון האוסטרלי לבריאות ורווחה ושל שתי סוכנויות מדינתיות – הלשכה לסטטיסטיקה ומחקר פשיעה של ניו סאות' וויילס, ומשרד הבריאות של ויקטוריה.

אוסטרליה היא אחת מ-20 מדינות שחתמו בתחילת השבוע על הצהרה משותפת שקוראת לפיקוח עולמי ולהגבלות לפיתוח הבינה המלאכותית.

לדברי מומחי אבטחת סייבר, "האירוע הוא קריאת השכמה לרגולטורים, לאור העובדה שסוכני בינה מלאכותית הופכים לזמינים יותר ויותר לשימוש אישי ומסחרי". אחרים ציינו ש-"זהו האירוע הראשון, אבל לבטח לא האחרון. צפויים עוד אירועים שכאלה, ויש להניח שהם יהיו חמורים יותר ובתדירות גבוהה יותר".