מנכ"ל אנת'רופיק מזהיר: מהפכת ה-AI מתבגרת ואנו לא מוכנים

האם למנכ"ל אנת'רופיק (Anthropic), ומייסד החברה, דריו אמודי, יש מחשבות שניות לגבי התפקיד של ה-AI במודל החיים הנוכחי והעתידי של האנושות? כנראה שלא, והוא ממש אינו מתכוון לסגור את החברה מחר בבוקר, אבל נראה שהוא כן חושב שהאנושות לא לגמרי מוכנה להתמודדות עם מה שהשימוש ב-AI מוביל אליו. הכוונה היא אל מה שמחכה מאחורי הפינה, שהולכת ומתקרבת עם מודלי AI שרק הולכים ומתקדמים.

The Adolescence of Technology: an essay on the risks posed by powerful AI to national security, economies and democracy—and how we can defend against them: https://t.co/0phIiJjrmz

— Dario Amodei (@DarioAmodei) January 26, 2026

במאמר ארוך במיוחד, שנושא את השם 'ההתבגרות של הטכנולוגיה' ושאורכו כ-20,000 מילה או קצת פחות, פורס אמודי את נקודת המבט שלו על הגבול שבין מערכות ה-AI לאנשים, וטוען שאנחנו נמצאים כיום בגיל ההתבגרות של המערכות הללו, כשלא ברור גם לו האם זה בוודאות יוביל להצלחה, או דווקא לאסון – וגם אם הוא לא אומר זאת, הרוח של סקיינט (Skynet) – הבינה המלאכותית מסרט "שליחות קטלנית" – כך נדמה, שורה מעל.

אמודי מעריך שאנחנו נמצאים במרחק של כמה שנים בודדות מהתפתחות של מה שהוא מגדיר 'מערכות AI עוצמתיות' – מערכות שייקחו את מה שהן מסוגלות לעשות כבר כיום לתחומים עוד יותר מפותחים.

הדוגמאות שהוא מספק כוללות, בין השאר, שליטה אוטומטית בכלים ורובוטים ותכנון מכונות חדשות באופן עצמאי.

מנכ"ל אנת'רופיק גם חושב שיהיו היבטים רבים בהם ה-AI כבר תהיה יותר חכמה מבני האדם, במיוחד בהיבטים של כתיבה, ביולוגיה, הנדסה, תכנות ועוד, ומכיוון שהיא תפעל במהירות הרבה יותר גדולה, היא גם תוכל ליצור במהירות מאות עותקים של עצמה בו זמנית.

הסיכונים והפתרונות: דחיפות לשיתוף פעולה גלובלי

העוצמה והמהירות הללו הם מהסיכונים המובילים אותם מציין אמודי במאמר שלו. הוא חושש שזה יכול לגרום לכך שהבינה ה מלאכותית תפתח התנהגויות עצמאיות שלא רק שלא נוכל לחזות אותן, באופן לא מפתיע, גם לא נוכל לעצור אותן.

בדומה לרבים אחרים, הוא חושש יותר, כנראה, מהשימוש לרעה ב-AI בידי אנשים. החשש מתייחס הן לשימוש ממשלתי (כגון ניצול AI לחיזוק מעמד הממשל או לשם פגיעה בבחירות) והן לשימוש ברמה האישית. 

בדבריו הוא הזכיר את מתקפת גז הסארין ברכבת התחתית של טוקיו ב-1995, שגבתה את חייהם של 14 בני אדם לצד מאות פצועים, וכתב: "היחיד המופרע שרוצה להרוג אנשים, אך חסרו לו המשמעת או המיומנות לעשות זאת, כעת יוכל לפעול ברמת היכולת של הווירולוג בעל תואר הדוקטור, שסביר להניח שלא תהיה לו מוטיבציה לעשות דברים כאלה. אני מודאג שיש מספר פוטנציאלי גדול של אנשים כאלה, ושאם תהיה להם גישה לדרך קלה להרוג מיליוני אנשים, במוקדם או במאוחר אחד מהם יעשה זאת".

במאמרו הוא מתאר עוד שורה של בעיות שיכולות להתפתח, מכיוון שבשלב הנוכחי הטכנולוגיה מתפתחת יותר מהר מהיכולת של החברה להכיל אותה במלואה, אך טוען שאסור להתייחס ל-AI כמרושעת, אלא להיזהר מכך שניתן לאפשר לה לנוע בלי כל בלמים.

לא יעצרו את התקדמותו. קלוד של אנת'רופיק. צילום: Shutterstock

אבל כאמור, לא צריך לחשוש לעתידה של אנת'רופיק. אמודי לא מתכוון לעצור את חימוש ה-AI המתקדם ולהוציא את החברה שלו מהמרוץ אחרי המודל הבא. הוא גם לא חושב בכלל שאפשר לעצור את הטכנולוגיה, להפך: הוא עדיין אופטימי לגבי היכולת של האנושות להתמודדות עם האתגר.

"למען הסר ספק", כתב, "אני חושב שיש סיכוי סביר שבסופו של דבר נגיע לנקודה שבה יש צורך בפעולה משמעותית הרבה יותר. אני מאמין שאם נפעל בנחישות ובזהירות, ניתן יהיה להתגבר על הסיכונים – הייתי אפילו אומר שהסיכויים שלנו טובים".

אמודי הוסיף וטען שהכלים שלנו להתמודדות עם הסכנות הללו היא לפתח את המערכות כך שיכללו מערכות הגנה פנימיות, כולל התוויית הנחיות מוסריות שיהיו מוטמעות בכל היבט – אם כי הוא לא מתייחס לכך שכל אדם עם קצת ידע יוכל לבטל אותן. הוא חושב שיש צורך באופן מיידי בשיתוף פעולה בינלאומי, שיכול כנראה עם זאת רק להאט את הקצב, אבל יוכל לשתף מידע רב על סיכונים מתעוררים שמתגלים, וכן לדאוג לחקיקה מעודכנת שתוכל להגן על האנשים וגם על הסביבה שלהם – ובכל מקרה הכל צריך לזוז כבר עכשיו, כי אחרת החלון שעוד יש יכול להיסגר. כי ה-AI, אם אפשר לומר זאת, תשאיר לנו אבק בקצב הזה.