סערה ב-OpenAI: בכירת הרובוטיקה התפטרה במחאה על עסקת הפנטגון

קייטלין קלינובסקי עזבה במפתיע בעקבות חוזה ענק מול צבא ארה"ב, עקב חששות מנשק אוטונומי ומעקב אזרחי ● כיצד נכנסה החברה לוואקום שהותירה אנת'רופיק כשסירבה לאותן דרישות?

רקמה עיסקה שננויה במחלוקת עם הפנטגון. OpenAI.

סערה מטלטלת את תעשיית הבינה המלאכותית העולמית באחרונה ובטבורה השאלה – האם לספק לממשלות שירותי AI לצורכי צבא וביון. הדרמה התעצמה אפילו יותר כעת, בעקבות התפטרותה המהדהדת של קייטלין קלינובסקי, ראשת מחלקת הרובוטיקה של חברת טכנולוגיית העילית OpenAI

הצעד הדרמטי של הבכירה התרחש כיוזמת מחאה אשית וישירה כנגד החלטת הנהלת החברה לחתום על הסכם שיתוף פעולה אסטרטגי עם משרד ההגנה האמריקני, במסגרתו ישולבו מודלי הבינה המלאכותית של OpenAI בתוך הרשתות המסווגות של הפנטגון.

על פי התקשורת העולמית, קלינובסקי – שהצטרפה לארגון רק בחודש נובמבר 2024 לאחר שהובילה בהצלחה את פיתוח משקפי המציאות הרבודה בחברת מטא – היא דמות מפתח טכנולוגית. ככלל, היא התמקדה בפיתוח תחום שזכה לכינוי "בינה מלאכותית מוגשמת" (Embodied AI) – טכנולוגיה המאפשרת למודלים מולטי מודליים לעבד נתוני חיישנים שנאספים בזמן אמת מהסביבה הפיזית, ולתרגם אותם לפעולות עצמאיות של רובוטים. היכולת של מערכות אלו לפתור משימות מורכבות באופן עצמאי לחלוטין היא פריצת דרך שמעוררת עניין עצום בקרב גורמי צבא וממשל.

קווים אדומים נחצו

בהודעה רשמית שפרסמה קלינובסקי ברשת החברתית X, היא הבהירה בצורה נחרצת את מניעיה וכתבה כי מדובר בהחלטה קשה אך הכרחית מבחינתה. 

היא ציינה במפורש שלמרות שלבינה מלאכותית ישנו תפקיד חשוב בשמירה על הביטחון הלאומי, קיימים קווים אדומים שנחצו ללא דיון מעמיק מספיק.

בנוסף היא התריעה מפני תרחישי אימה עתידיים, וציינה כי "מעקב אחר אמריקנים ללא פיקוח משפטי ואוטונומיה קטלנית ללא אישור אנושי, הם קווים שהיו ראויים ליותר דיון… זה היה עניין של עיקרון, לא של אנשים".

החברה מצידה אישרה באופן מיידי את דבר עזיבתה, וכפי שצוין בבלומברג, הנהלת OpenAI מיהרה להוציא הצהרה רשמית שבה נטען בתוקף כי ההסכם המסחרי עם הפנטגון סולל דרך עבודה אחראית לשימוש ביטחוני בטכנולוגיה, תוך שמירה בלתי מתפשרת על קווים אדומים מובהקים שאוסרים באופן גורף על פיתוח נשק אוטונומי או הפעלת מעקב בתוך גבולות המדינה.

על אף ההצהרות המרגיעות מצד ענקית ה-AI, ההבטחות הללו לא הצליחו להשקיט את הסערה הציבורית והתקשורתית שהתחוללה מיד לאחר מכן. כפי שדיווח הניו יורק טיימס, מומחים בכירים בתחום האתיקה הטכנולוגית הזהירו כי הערבויות שסיפקה החברה לגבי מניעת שימוש לא מורשה בטכנולוגיות שלה עלולות שלא לספק את ההגנה המשפטית והמעשית הנדרשת מפני הפעלת מערכי מעקב המוני.

התגובה של הציבור הרחב למהלך הייתה חריפה ומהירה אף יותר – זמן קצר לאחר חשיפת העסקה הביטחונית חל זינוק מסחרר של לא פחות מ-295 אחוזים בשיעורי מחיקת האפליקציה המפורסמת של ChatGPT ממכשירי הטלפון של המשתמשים ברחבי העולם. זאת בזמן שאפליקציית קלוד – כלי ה-AI של החברה המתחרה אנת'רופיק – זינקה במהירות שיא לצמרת טבלאות ההורדות בחנויות האפליקציות הדיגיטליות.

הלחץ הכבד ניכר היטב גם בתוך הנהלת החברה הפנימית, עד כדי כך שמנכ"ל OpenAI, סם אלטמן, נאלץ להודות באופן פומבי כי הריצה החפוזה לחתום על ההסכם מול מחלקת ההגנה נראתה כלפי חוץ כמהלך "אופורטוניסטי ומרושל".

ויתר עח ערכיו. סם אלטמן, מנכ"ל OpenAI.

ויתר עח ערכיו. סם אלטמן, מנכ"ל OpenAI. צילום: ShutterStock

תפסה את מקום אנת'רופיק שהוכנסה לרשימה השחורה

נזכיר כי ההזדמנות העסקית שאליה מיהרה ענקית הבינה המלאכותית לזנק בסוף פברואר נוצרה באופן ישיר כתוצאה מפיצוץ משא ומתן מקביל, מתוח ודרמטי הרבה יותר, שהתנהל בין ממשל טראמפ לבין החברה המתחרה אנת'רופיק.

כפי שדיווחנו, ממש בחפיפה לעסקת הענק שנחתמה מול OpenAI, רשויות ארצות הברית הכניסו את אנת'רופיק לרשימה השחורה של הגופים המהווים סכנה לביטחון המולדת. 

הממשל הגדיר את החברה כ"סיכון חמור לשרשרת האספקה", בצעד השמור בדרך כלל לישויות עוינות כמו חברת וואווי הסינית, וביטל באופן מיידי וחד-צדדי חוזה יוקרתי עימה בשווי מוערך של כמאתיים מיליון דולר.

שורש העימות החריף הזה נעוץ בדרישתו החד-משמעית של הממשל בוושינגטון לקבל לידיו גישה בלתי מוגבלת למודלי השפה המתקדמים עבור כל תרחיש שימוש צבאי חוקי.

דריו אמודיי, מנכ''ל אנת'רופיק.

דריו אמודיי, מנכ"ל אנת'רופיק. צילום: Mijansk786, ShutterStock

דרישה ממשלתית זו נתקלה בסירוב מוחלט ועיקש מצד הנהלת אנת'רופיק, אשר בחרה להציב גבולות אתיים מובהקים ובלתי מתפשרים.

מנכ"ל אנת'רופיק, דריו אמודיי, סירב באופן נחרץ לפנטגון. הוא מאן לאפשר למוצרי החברה לסייע בהפעלת מערכות נשק אוטונומי קטלני, המסוגל לפגוע במטרות אנושיות ללא אישור ופיקוח של אדם מבוגר, או לחלופין לטובת הקמת מערכי מעקב המוני חודרניים נגד אזרחים תמימים. מדובר באותם עקרונות מוסריים ממש, שעליהם דיברה קלינובסקי עם הגשת מכתב ההתפטרות שלה מהחברה המתחרה.

ידוע כי המתיחות מול חברת אנת'רופיק הגיעה לנקודת רתיחה בלתי הפיכה בעקבות סדרת חשיפות עיתונאיות של העיתונים המובילים וול סטריט ג'ורנל והגרדיאן. הדיווחים הללו חשפו כי הצבא האמריקני כבר עשה בעבר שימוש מבצעי בשטח במודל קלוד, במסגרת פשיטה צבאית מורכבת שבוצעה בחודש ינואר בוונצואלה לטובת לכידתו של הנשיא ניקולס מדורו.

שר ההגנה של ארצות הברית, פיט הגסת'.

שר ההגנה של ארצות הברית, פיט הגסת'. צילום: Joshua Sukoff, ShutterStock

פיט הגסת': הצבא האמריקני לא יעסיק חברות AI סרבניות

חשיפות דרמטיות אלו עוררו דאגה עמוקה במסדרונות אנת'רופיק וגרמו להנהלת החברה להתבצר עוד יותר בסירובה העקרוני להמשיך בשיתוף הפעולה, דבר שגרר מנגד תגובה ממשלתית זועמת וחסרת תקדים.

רשת החדשות NPR דיווחה כי שר ההגנה האמריקני, פיט הגסת', הצהיר בבוטות חסרת תקדים שהצבא האמריקני לא יעסיק בשורותיו מודלים של בינה מלאכותית שאינם מאפשרים למפקדים לנהל מלחמות בפועל, ואף איים בגלוי להפעיל את התקנות המחמירות של חוק הייצור הביטחוני ההיסטורי, כדי לאלץ את החברה הסוררת לשתף פעולה משפטית. 

בנוסף לכך, תת-שר ההגנה האמריקני למחקר ולהנדסה מתקדמת, אמיל מייקל, הבהיר בצורה שאינה משתמעת לשתי פנים שממשלת ארצות הברית והקונגרס לעולם לא יאפשרו לחברה מסחרית פרטית בעמק הסיליקון להכתיב להם כללי מדיניות מחמירים, החורגים ממה שהוגדר מראש בהליך חקיקה דמוקרטי.

הבדלי הגישות התהומיים בין אנת'רופיק ו-OpenAI הומחשו היטב גם במבדקי בטיחות מקצועיים שפורסמו לאחרונה ברבים. במבדקים התגלה כי המודל השמרני של אנת'רופיק סירב בשיעור גבוה במיוחד של כשבעים אחוזים לענות על שאלות מסוכנות ולהפיק תוכן מזיק, בעוד שהמודלים המקבילים של חברת OpenAI הפגינו במפתיע נכונות מטרידה לשתף פעולה בהתלהבות עם בקשות זדוניות' וסיפקו למשתמשים מרצון נוסחאות כימיות מדויקות ליצירת חומרי נפץ ואף תרשימים עבור בניית פצצות.

המצב העגום הנוכחי בתעשייה מדגיש ביתר שאת את הוואקום הרגולטורי המסוכן השורר כיום בזירה, סוגיה קריטית שעליה עמד הפיזיקאי המוערך מקס טגמרק מאוניברסיטת MIT. בראיון שהעניק באחרונה, טגמרק תיאר את אוזלת היד כמתן "חנינה תאגידית" מצד הממשלות, מציאות עגומה שמותירה חברות טכנולוגיה בעלות כוונות טובות להתמודד לגמרי לבדן מול לחצים כלכליים וממשלתיים אדירים.

עזיבתה הרועשת של דמות טכנית כה בכירה כמו קלינובסקי היא ללא ספק הסנונית הראשונה המעידה בבירור על המחיר המוסרי והאנושי הכבד שמשלמות חברות הטק הגדולות בניסיונן לרצות בכל מחיר את הלקוח העשיר והחזק ביותר בעולם – הפנטגון, וזאת גם במחיר של זניחת עקרונות בטיחות שהן עצמן התוו רק חודשים ספורים קודם לכן.

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים