האם המפתחים יביאו לעצירת המרוץ ל-AI?

יותר מ-1,100 מפתחים, מהנדסים וחוקרים של ה-AI מהחברות המובילות בעולם חתמו השבוע על עצומה שקוראת להאט את קצב הפיתוח של הבינה המלאכותית, ולשים דגש רב יותר על בטיחות. בניגוד לעצומות קודמות, לא מדובר בעוד מכתב של משתמשים מודאגים או אנשי אקדמיה. החותמים הם עובדים, בהם בכירים, בחברות שמפתחות את הטכנולוגיה ומתפרנסות ממנה. היא מופנית לממשל האמריקני ולממשלות נוספות, בדרישה להפעיל רגולציה ולקבוע כללים ברורים לפיתוח ולשימוש ב-AI.

מאז פריצתה של הבינה המלאכותית, ובפרט זו היוצרת (GenAI), לחיינו, העולם מתחלק לשלושה מחנות: אלה שמתפעלים מהיכולות, מהחדשנות ומהשינויים שהיא מחוללת כמעט בכל תחום, אלה שמזהירים מפני קצב ההתפתחות המהיר והסיכונים שהוא טומן בחובו, ואלה שגם וגם.

חותמי העצומה אינם לבד – גם בכירי תעשיית ההיי-טק מתריעים מפני הסכנות. אילון מאסק, למשל, הזהיר עוד ב-2014 שהבינה המלאכותית תהיה מסוכנת אף יותר מנשק גרעיני. סם אלטמן השווה אותה לפרויקט מנהטן, שבו ארצות הברית פיתחה את הנשק הגרעיני, ואת הפצצות שהיא הטילה על הירושימה ונגאסקי – מה שהביא לסיום מלחמת העולם השנייה, אבל גם למרוץ חימוש מטורף שלה ושל ברית המועצות ומדינות נוספות.

המרוץ האמיתי של סין וארצות הברית לבינה המלאכותית. צילום: Ivan Marc, ShutterStock

השאלה היא האם ניתן להאט את קצב הפיתוח של טכנולוגיה שכבר הפכה למרוץ עולמי, והאם יש למעצמות, ובפרט לארצות הברית ולסין, אינטרס לעשות את זה. התשובה, הן אצל האמריקנים והן אצל הסינים, שלילית. אחד הנמענים של העצומה הוא נשיא ארצות הברית, דונלד טראמפ, שרואה ב-AI נכס אסטרטגי, שנועד להבטיח את עליונותה של אמריקה בשוק זה ואת ניצחונה במרוץ. לא רק שהוא וסגנו, ג'יי.די. ואנס, מתנגדים לרגולציה שעלולה לעכב את התפתחות הטכנולוגיה, ומעדיפים לנסח כללים בשיתוף פעולה עם התעשייה – טראמפ גם מקדם השקעות של מיליארדים רבים מאוד של דולרים בהקמת חוות שרתים שעומדות מאחורי המהפכה הזאת.

בסין יש מקרה מיוחד – ולא לטובה: מדינת הענק היא מעצמת בינה מלאכותית, אלא ששם יש רגולציה כבדה על התחום. הרגולציה הזאת לא מתרכזת בעיכוב חדשנות, גם אם זה תוצר לוואי שלה. להיפך: נשיא סין, שי ג'ינפינג, רואה ב-AI הזדמנות עצומה לצמיחה כלכלית, עצמאות טכנולוגית – וגם למאבק מול ארצות הברית. מה שכן, הממשל בבייג'ינג מפעיל פיקוח הדוק על החברות שמפתחות בינה מלאכותית, שמזרימות אליו את המידע שהן אוספות.

גם התעשייה מחפשת פתרונות

בטיחות ה-AI שחותמי העצומה מתייחסים אליה קשורה גם להגנת סייבר. למעשה, הן קשורות זו בזו באופן הדוק. הקפיצות המהירות של יכולות הבינה המלאכותית שמאפשרות להאקרים לבצע את המתקפות שלהם מפחיתות את בטיחות ה-AI.

חברות רבות מפתחות כלים שיאפשרו למנהלי אבטחת מידע ולמנמ"רים לשלוט טוב יותר במערכות שלהם בעידן ה-AI, ומנגד להשתמש ביכולות הבינה המלאכותית כדי להגן על הארגון. רק היום (ה') הכריזה צ'ק פוינט כי היא משלבת חדשנות עם חזרה למקורות, ומכניסה יכולות בינה מלאכותית למוצר הכי ותיק ובעבר מוצר הדגל שלה – הפיירוול.

אחד מפיתוחי הבינה המלאכותית שנמצאים כיום כמעט בכל ארגון טכנולוגי או חצי טכנולוגי הוא סוכן AI. או, יותר נכון, סוכני AI. ארגונים משתמשים בהם למטרות שונות – ניתוח נתונים בזמן אמת, שיפור שירות לקוחות ובעיקר אוטומציה של תהליכים עסקיים מקצה לקצה. מנכ"ל אקרוניס, יאן-יאפ יאגר, אמר בכנס בסופיה, בירת בולגריה, שכתבנו יניב הלפרין נכח בו בשבוע שעבר, כי "ארגונים לא יכולים לשבת ולחכות" ועליהם להבין ש-"הדרך ל-AI עוברת ב-IT אוטונומי".

מנכ"ל אקרוניס, יאן-יאפ יאגר. צילום: יח"צ

יש לא מעט חברות שמפתחות פתרונות לאבטחת סוכני בינה מלאכותית. אחת מהן היא בקסלאש סקיוריטי. מייסד החברה וה-CTO שלה, יוסי פיק, סיפר בהרחבה על הפלטפורמה שהיא פיתחה בפרק של פודקאסט אנשים ומחשבים, שפרסמנו השבוע.

בימים האחרונים סיקרנו בהרחבה פרשה שמסעירה את העולם מאז פרסומה: שני סוכני בינה מלאכותית מתקדמים של OpenAI פרצו למערכות של אחת משותפותיה, האגינג פייס. המקרה הזה מחזק את הטיעון המרכזי של חותמי העצומה – שקצב ההתפתחות המטורף של ה-AI מקרב אותנו למצב שבו לא נוכל לשלוט על הפיתוחים וחמור מכך, לא נוכל לתת אמון בסביבות שאמורות להיות סטריליות ומוגנות.

את קצב התפתחות ה-AI אי אפשר לעצור. השאלה היא לא האם התפתחותה תימשך, אלא כיצד ניתן להבטיח שההתקדמות תהיה בטוחה, אחראית ומבוקרת יותר. זו אחת השאלות החשובות ביותר שממשלות, חברות וארגונים יצטרכו להשיב עליהן בשנים הקרובות

אתגר שוק העבודה

לצד החששות הטכנולוגיים קיים גם חשש חברתי: הבינה המלאכותית נתפסת יותר ויותר כסיבה, או תירוץ, לפיטורי עובדים. כמעט כל הודעה על קיצוצי כוח אדם בחברות טכנולוגיה מלווה באזכור של AI. אמת היא שהבינה המלאכותית יוצרת משרות חדשות, והרבה חברות מגייסות מומחי AI או אנשים שימכרו את מוצרי הבינה המלאכותית שלהן, אבל בשלב זה, הציבור רואה בעיקר את הפיטורים ופחות את הגיוסים.

דניאל שרייבר, מייסד-שותף ומנכ"ל למונייד ויו"ר מכון פרוזאיק לבינה מלאכותית. צילום: אושרי צילום

מי שמתריע מפני ההשלכות החברתיות של ה-AI הוא דניאל שרייבר, מנכ"ל ומייסד למונייד, ומנכ"ל מכון פרוזאיק לבינה מלאכותית. בכמה פורומים, כולל בכנסת, הוא הציג נתונים שלפיהם ממשלות כבר נערכות לאפשרות שהבינה המלאכותית תגרום לעלייה במספר המובטלים, גם בקרב עובדי צווארון לבן. בגלל זה, הוא קורא למדינות לתמוך כלכלית באותם מובטלים, וכן לנקוט במדיניות חדשה של חלוקת משאבים וצמצום פערים חברתיים. זה כבר קיים בכמה מדינות. בהנחה ששרייבר צודק, השאלה היא האם לא מדובר במעט מדי ומאוחר מדי.

האם ישראל תהיה מעצמת שבבים?

לקראת סיום, אני מבקש להתייחס בקצרה לשני נושאים נוספים שקשורים לבינה מלאכותית. הראשון הוא הנושא החם של הבינה המלאכותית הפיזית (Physical AI). הכוונה היא לשילוב בין מודלי AI לכלי רכב אוטונומיים ומכונות חכמות. זהו אחד התחומים שהמטה הלאומי לבינה מלאכותית במשרד ראש הממשלה לקח על עצמו לקדם. ב-8 בספטמבר יקיים המטה, יחד עם אנשים ומחשבים, כנס ראשון מסוגו בנושא, בהשתתפות בכירי התעשייה, ביניהם פרופ' אמנון שעשוע, שלפני ימים אחדים הודיע על פרישתו מניהול החברה שייסד, מובילאיי, ואייל ולדמן, שמכר את מלאנוקס שהקים לחברה הכי גדולה בעולם ה-AI, אנבידיה.

נושא שני הוא: האם ישראל יכולה להיות מעצמת שבבים? יש מומחים שאומרים שלמרות גודלה של המדינה וההשקעות האסטרונומיות של ארצות הברית, סין ולא רק הן בתחום, התשובה לכך חיובית, וזה צריך להיות חלק מהחזון הישראלי.

הדס לורבר, חוקרת בכירה וראשת תחום טכנולוגיות מתקדמות וביטחון לאומי ב-INSS. צילום: אסתי צילום

במאמר שפרסמה השבוע הדס לורבר מהמכון למחקרי ביטחון לאומי (INSS) היא טוענת שעוצמתן של מדינות נמדדת בשליטה על כל שרשרת הערך – ממינרלים, דרך ייצור שבבים ועד לתשתיות מחשוב, אנרגיה ומרכזי נתונים. לדבריה, ישראל חייבת להיות חלק מהמרוץ ואף להוביל אותו. היא מדגישה את עובדת היותה של ישראל מרכז עולמי לתכנון שבבים, עם נוכחות בולטת מאוד כאן של אנבידיה (א-פרופו רכישת מלאנוקס), אינטל, אפל ואחרות.

יש הגיון בדבריה. אלא שכדי להפוך את החזון הזה למציאות, לא די בכישרונות הטכנולוגיים שיש כאן למכביר. ממשלת ישראל תידרש לשכנע חברות להקים כאן לא רק מרכזי מו"פ, אלא גם מתקני ייצור. אינטל כבר עושה זאת, אבל זוהי רק חברה אחת, גדולה ככל שתהיה. על הממשלה להקים תשתיות מתאימות, להציע ודאות כלכלית, ולהבטיח שתהיה מספיק אנרגיה זמינה ושהסביבה העסקית תהיה תחרותית. אלה אתגרים שאינם טכנולוגיים בלבד, אלא גם כלכליים ומדיניים, והממשלה הבאה תידרש לעסוק בהם. יש לקוות שהיא תמלא את הדרישה הזאת.

השורה התחתונה: את קצב ההתפתחות של הבינה המלאכותית אי אפשר לעצור. לכן, השאלה היא לא האם התפתחותה תימשך, אלא כיצד ניתן להבטיח שההתקדמות תהיה בטוחה, אחראית ומבוקרת יותר. זו בדיוק הקריאה שעולה מעצומת המפתחים והחוקרים – וזו גם אחת השאלות החשובות ביותר שממשלות, חברות וארגונים יצטרכו להשיב עליהן בשנים הקרובות. לתשומת לב ראשי המפלגות.