צבא סין אימן מודלי AI על קלוד ו-GPT

בשבוע שעבר טען מייקל קרציוס, שר המדע והטכנולוגיה של ארצות הברית, כי Moonshot AI, חברת בינה מלאכותית מבייג'ינג שבסין, זיקקה את מודל פייבל שאנת'רופיק שחררה באחרונה כדי לפתח את מודל Kimi K3 שלה. אמר – וצדק: חוקרי צבא מסין עשו שימוש בפלטים של מודלי AI אמריקניים מובילים שפותחו על ידי OpenAI ואנת'רופיק כדי לאמן מודלי בינה מלאכותית מקומיים. הניצול נחשף בסקירה של יותר מ-80 מאמרים אקדמיים ופטנטים סיניים, ופורסם בסוף השבוע על ידי סוכנות רויטרס.

זיקוק בעולם ה-AI משמעו תהליך שבו שואבים ממודל חזק מיליוני תשובות ומאמנים עליהן מודל חדש, שמחקה אותו. כך, פלטים ממערכת AI חזקה משמשים לאימון מודלים קטנים ומיוחדים, שניתן לפרוס אותם מקומית, ללא עוצמות מחשוב ענקיות, שנדרשות לבניית מערכות AI מאפס.

הממצאים, שלא דווחו בעבר, מספקים הצצה נדירה לאופן שבו מוסדות צבא וביטחון מסין מנצלים AI מארצות הברית כדי לקצר את זמן פיתוחי המודלים והמערכות שלהם. זה קורה למרות המאמצים האמריקניים להגביל את גישת סין לשבבים מתקדמים ולטכנולוגיות אחרות, בעלות חשיבות אסטרטגית.

מודלי AI אמריקניים – דרך של הסינים לצמצם את הפער עם האמריקנים

לפי המסמכים, צבא סין עשה שימוש נרחב בטכניקת זיקוק מודל. סקירת המאמרים והפטנטים, שכללה מחקר שנערך על ידי מכון המחקר קרן ג'יימסטאון מוושינגטון, הראתה שחוקרים שקשורים לצבא סין ולמוסדות ביטחוניים נוספים במדינה עושים שימוש נרחב בשיטת פעולה זו. לפי המאמרים, "ארגוני ההגנה הסיניים רואים במודלים מובילים של AI אמריקניות כמקור לתובנות טכניות, כמו גם כדרך לצמצם את הפער עם היריבים האמריקניים".

סאני צ'אנג, עמית מחקר בקרן ג'יימסטאון, שניתח יותר מ-60 מאמרים, אמר כי "מדענים צבאיים סינים לוכדים באופן שיטתי את שלבי ההיגיון של המודלים המערביים, כדי להתאים אותם למעקב, ללוחמת סייבר ולקבלת החלטות טקטיות". לדבריו, "ללמד מודל את התשובה הנכונה זה דבר אחד, אבל ללמד אותו את ההיגיון מאחורי התשובה זה הרבה יותר קשה. המאמרים מעידים שחוקרים סיניים הקשורים לצבא עושים זאת: מנסים להעביר את ההיגיון היקר והקנייני הזה ממודלים מערביים – למערכות קטנות יותר, שהם יכולים לשלוט ולפרוס מקומית".

כך, למשל, באחד המאמרים, שפורסם בשנה שעברה על ידי חוקרי PLA 96941, יחידת מודיעין צבאית ולוחמת סייבר בבייג'ינג, תואר השימוש ב-GPT-3.5 של OpenAI לעיבוד קוד מקור צבאי רגיש. כדי לצלוח את המגבלה ב-GPT, שמונעת ממודלי צד שלישי לטפל במידע מסווג, הם השתמשו ב-GPT-3.5 לסיכום קוד תוכנה ואימנו מודל מקומי על סיכומים אלה, כך שיוכלו לפעול ברשתות צבא סיניות.

התגובות

סין דחתה את ההאשמות וטענה שוושינגטון פועלת ל-"בניית הגמוניה של בינה מלאכותית". עוד היא טענה ש-"חברות אמריקניות נקטו בפרקטיקות דומות". Moonshot AI הכחישה את האשמות הממשל בוושינגטון שלפיהן דגם Kimi K3 שלה נבנה באמצעות זיקוק, וטענה שהוא מבוסס של חידושים קנייניים.

הבית הלבן, הפנטגון, משרד החוץ הסיני, צבא סין ו-OpenAI לא הגיבו לדיווח.

"סוג של גניבת קניין רוחני"

מומחים ציינו כי חברות בינה מלאכותית אמריקניות לחצו על מקבלי ההחלטות בוושינגטון להקשות על צדדים שלישיים להעתיק או לשכפל מודלים מסחריים מתקדמים, וכינו זאת "סוג של גניבת קניין רוחני".

לדבריהם, זיקוק מודלים של בינה מלאכותית מאפשר למפתחים רבות מהיכולות המרכזיות של המודל. אחד מהם הזכיר כי בתחילת השנה אנת'רופיק האשימה את עליבאבא הסינית בזיקוק מודל קלוד שלה. אנת'רופיק טענה אז שהקמפיין הסיני השתמש ב-25 אלף חשבונות מזויפים כדי להריץ 28.8 מיליון אינטראקציות על קלוד במשך שישה שבועות. "בהתחשב בנפח שכזה, המטרה הייתה בבירור שכפול (של המודל – י"ה)", טענה החברה.

מומחה אחר הסביר כי "כאשר מודל לומד להסיק דרך חולשות תוכנה, פערי אבטחה ונתיבי תקיפה, העתקת ההתנהגות שלו מעתיקה גם את היכולת האנליטית הזו".

מומחים רבים ציינו שחברות סיניות גונבות מחברות מערביות, בקביעות ובאופן שגרתי, טכנולוגיות, קניין רוחני וסודות מסחריים אחרים, לעיתים בתמיכה בשתיקה מצד השלטון בבייג'ינג. "העתקת מודלים של בינה מלאכותית ממשיכה מסורת ארוכה ומבוססת של גניבת קניין רוחני בחסות סין", כתבו. "זה בדיוק כמו מפעלי הדיסקים המזויפים של מוזיקה, שפעלו בסין במלוא המרץ לפני 20 שנה".

מנגד, היו מי שאמרו שחברות בינה מלאכותית כמו OpenAI ואנת'רופיק בנו את עצמן על שימוש בנתונים ובתוכן של אחרים, כאשר אלה נלקחו כמעט לחלוטין ללא הסכמה או פיצוי.