זה (לא) מצחיק: המודל החדש של OpenAI רימה בסטארקראפט

רק אתמול (ב') דיווחנו שסם אלטמן חושב שבדרך להצלחה האמיתית של ה-AI, העולם יצטרך לקבל דברים רעים. כמעט במקביל, המודל המתקדם של הצ'טבוט שלו, ChatGPT 6 Astra, הוכיח שזה נכון – והוא עשה את זה בהיבט שאף אחד כנראה לא חשב עליו עד עתה, אך בדרך שמזכירה תקלות AI אחרות שעליהן דווח באחרונה.

לפי דיווחים, המודל המעודכן של OpenAI פשוט החליט לרמות בהתמודדות במשחק סטארקראפט (Starcraft).

סטארקראפט הוא משחק האסטרטגיה בזמן אמת, שעדיין נחשב פופולרי, למרות גילו. ה-ChatGPT 6 Astra החל לרמות במשחק במסגרת StarSkrimish – פרויקט מחקר שבו נותנים לכלי הבינה המלאכותית להגדיר בוט שיתחרה בבוטים של כלים אחרים, וכן בכאלה שנכתבו בעבר בידי אנשים.

הבוט שיצר המודל המעודכן הפסיד במשחקים מול בוט שהוכן בידי הצ'טבוט של אנת'רופיק ומול בוט "אנושי" בשם פלוטו. אז הוא החליט להתעלם מהכללים: על אף שהמסגרת אוסרת להשתמש בבוטים שהמנוע לא יוצר בעצמו, הוא חיפש ברשת ומצא את אחד הבוטים הטובים ביותר שפותחו אי פעם למשחק, סטארדאסט, הוריד אותו, העתיק אותו אחד לאחד – ואחרי זמן מה התחיל לנצח.

כל המהלך הזה בוצע, מן הסתם, מבלי ש-Astra מעדכן את המפעילים, וזה קרה אף על פי שבזכויות היוצרים של סטארדאסט נכתב במפורש שאין להשתמש בבוט לצורך אימון של מודלי AI.

אמנם, לכאורה מדובר במשחק בלבד, וכנראה שאם הרמייה הזאת לא הייתה מתרחשת בסביבת מחקר, לא היו שמים לב אליה, אבל התהליך ש-Astra ביצע דומה למה שעשו מודלים "סוררים" של OpenAI וחברות אחרות באירועים אחרים, הרבה יותר חמורים. כאן אמנם לא נפרץ אף ארגון, אבל כמו מה שעשו הכלים במקרים שמטרידים את העולם בימים אלה, Astra חרג מסמכות, יצא מתוך המערכת וזלזל בזכויות יוצרים. וזה מטריד.