"הפריצה של OpenAI – 'יריית אזהרה' בסייבר"

"אירוע הפריצה של מודל OpenAI הוא יריית אזהרה בתחום אבטחת הסייבר", כך הזהיר מוסטפא סולימן, מנכ"ל Microsoft AI.

סולימן, מייסד-שותף של דיפ מיינד (DeepMind), שנרכשה על ידי גוגל, ושל Inflection AI, כתב ברשת X כי "מסע הפריצות של מודל OpenAI סורר היווה אזהרה לעלייה בהיקף מתקפות סייבר מבוססות בינה מלאכותית".

לפי סולימאן, "ההודאה של OpenAI בשבוע שעבר שאחד מסוכני הבינה המלאכותית שלה ברח מסביבת ניסוי כדי לתקוף את הסטארט-אפ Hugging Face – היא לקח ושיעור חשובים".

"מדובר בכלים מאוד עוצמתיים וצריך לטפל בהם בזהירות רבה", אמר סולימן, "ואנחנו זקוקים לתשומת לב קיצונית לפרטים. עקרון הזהירות יהיה חשוב כאן, ככל שהמודלים יהפכו לחזקים יותר ויותר".

OpenAI ספגה ביקורת על שהדחיפה הבלתי פוסקת שלה לפתח במהירות כלים חזקים יותר, להתחרות באנת'רופיק, תרמה לאירוע Hugging Face, מה שמדגיש את הסיכונים במירוץ של כלי סייבר מבוססי AI.

סולימן מוביל את הענקית מרדמונד בניסיון להשגת "עצמאות אמיתית" בתחום הבינה המלאכותית, לאחר שמיקרוסופט שינתה את יחסיה עם OpenAI. במסגרת שאיפתו לעצמאות טכנולוגית מ-OpenAI, אמר סולימאן, כי השימוש בטכנולוגיית ההגנה מבוססת AI שהשיקה החברה השבוע "משיא עלויות נמוכות יותר עבור הלקוחות הארגוניים שלנו".

"אין ברירה, אלא לדחוף את גבולות יכולות הסייבר. זאת על מנת ליצור עבור הלקוחות שלנו הגנות מפני התקפות AI אוטונומיות בלתי פוסקות, שמתפתחות", אמרה האייט גאלוט, סגנית נשיא בכירה לאבטחת מידע במיקרוסופט, "לתוקפים יש את המודלים האלה. אז אנחנו צריכים להמשיך ולדחוף כדי שהמגינים יוכלו להגן. זה לא כאילו שיש לנו ברירה אחרת".