מותר סוכן ה-AI מן האדם: הדיון הפילוסופי שקיבל תפנית טכנולוגית

מאז שחר האנושות ריתקה השאלה האם ובמה באמת מותר האדם משאר החיים על פני כדור הארץ. קהלת החכם כבר קבע: "וּמוֹתַר הָאָדָם מִן הַבְּהֵמָה אָיִן" (קהלת, פרק ג', פסוק י"ט). כלומר, קהלת, שעל פי רוב פרשני התנ"ך מדובר בשלמה המלך, הנחשב לאדם החכם שאי פעם חי, סבר שאין הבדל מהותי בין האדם לבהמה: שניהם בעלי חיים, ותו לא. המושג 'מותר' מקורו בשורש העברי י-ת-ר.

מה שמעניין הוא שרוב האנשים בוחרים להתעלם מהמילה 'אָיִן' ההופכת את המשפט, ומתייחסים ל"מוֹתַר הָאָדָם מִן הַבְּהֵמָה" כמובן מאליו, כלומר – האדם שונה מהבהמה, יש לו יתרון ועדיפות עליה – זאת בניגוד לטענתו המפורשת של קהלת.

מכאן ניסו לאורך הדורות להסביר ולרכך את דבריו, ובעיקר להוכיח כי האדם אכן מותר מן הבהמה. אחת הפרשנויות המרכזיות גורסת שקהלת דיבר על מישור גשמי בלבד: מבחינת חיים ומוות, לידה, קיום, כיליון – אין שום הבדל. אבל במרחב הרוחני והפנימי – שם שונה האדם. הטענה היא שלאדם יכולת בחירה, מחשבה חופשית, מוסר ואתיקה. בין המאמינים יש שיוסיפו: האדם נברא בצלם האלוהים, ויש בו נשמה.

כמובן שקשה מאוד להוכיח זאת, כשם שקשה להוכיח שלבהמה אין דברים דומים, או אחרים, הנשגבים מבינת האדם.

אם נקבע שהכל פיזי, הכל חיווט נוירוני, הרי שנטען שבעצם אנחנו די דומים לסוכני הבינה המלאכותית, ואולי אפילו אנחנו, בני האנוש, גרסה מיושנת, שבירה ומתכלה של הדבר האמיתי החדש

ישות חדשה בעולמנו

לאחרונה הצטרפה לשיח הזה פונקציה חדשה לחלוטין – ה-AI. בתחילה הופיעה ה-Artificial Intelligence כגורם פסיבי: האדם שואל, התוכנה עונה. גוגל למתקדמים. הדבר גרר גלי התפעלות ממהירות התגובה, מהיכולת לנסח שאלות מורכבות ולא רק מילות חיפוש, ומעושר התשובות ודיוקן. אך לא היה בכך כדי לקרוא תיגר על סדרי עולם, ולא כדי לערער את מעמדו של האדם.

עם הופעת סוכן הבינה המלאכותית – ה-AI Agents – ישויות המסוגלות לא רק לענות אלא לפעול עצמאית, לקבל החלטות ולבצע משימות באופן אוטונומי, תוך יכולת למידה והסתגלות מרשימים – השתנה המצב.

טכנולוגיה שתתעלה על בני האנוש? Agentic AI. צילום: Shutterstock

לפתע הפכה ישות זו לחלופה ממשית לאדם, למשל כחלופה לאדם העובד. אפשר להתווכח היכן אנחנו ממוקמים על הציר – האם מדובר בחלופה לחלק ממשימות העובד, או בחלופה מלאה? אך כך או אחרת, ברור שמדובר בחלופה כלשהי ליכולות "אנושיות" של חשיבה, למידה וביצוע.

אבל אז יגידו המקטרגים, אוקיי. זאת אמנם מכונה סופר משוכללת, אבל זאת עדיין מכונה ותו לא. ייתכן שהם צודקים, אבל יש עוד הבדל בין המכונות שהכרנו עד היום ומה שה-AI Agent טומן בחובו: תוכנה קלאסית מאופיינת בבינאריות, הכל 1 או 0. אם מוכנסת תשומה X – תמיד מתקבלת תפוקה Y. ה-AI Agent אינו כך. הוא יכול להיות 1, 0 וכל דבר שביניהם. מרחב אינסופי של אפשרויות. הוא אוטונומי, לומד, מסתגל ובעיקר לא צפוי. בהתנהגותו הוא דומה הרבה יותר לאדם מאשר למכונה.

אז כמו שניתן להגיד די בוודאות שה-AI Agent איננו ישות אנושית, אך גם איננו מכונה בינארית, אפשר גם להסיק בצורה הפוכה שיש בו גם מאפייני מכונה, אבל גם מאפיינים אנושיים.

אם נרצה נוכל גם להגיד שיש בו את כל הטוב שבשני העולמות, יכולות עיבוד נתונים בכל מקום, בכל זמן ובסקאלות שאנחנו כאנשים לא יכולים אפילו לתפוש, שרק מכונה יכולה לעשות, ומצד שני – יכולת הסקה, למידה והסתגלות שרק בן אנוש יכול להפגין.

אז מהו מותר האדם מה-AI Agent?

ומכאן עולה השאלה המרתקת של ימינו: מה מותר האדם מה-AI Agent? רבים ינסחו את התשובה בצורה דומה לאופן שבו נענתה השאלה על מותר האדם מן הבהמה: לאדם יש "נשמה", עולם רוחני ואמוני, מוסר ואתיקה ובחירה חופשית, ולכן הוא עדיין עולה על כל ישות מכונה "מלאכותית".

אך ישנם עוד הבדלים חשובים בהשוואה:

שני הבדלים בולטים בהשוואה: ראשית, סוכן ה-AI יכול להיות בעל תוחלת חיים אינסופית. שנית, מהותו כולה שוכנת במרחב הדיגיטלי, שלא כמו האדם והחיה, אשר חיים במרחב הפיזי, ה-AI Agent קיים רק במרחב הדיגיטלי. יותר נכון שכל ההוראות שלו קיימות במרחב הדיגיטלי. עם כניסת הבינה המלאכותית הסוכנת לעולם הפיזי דרך רובוטיקה, גם פרדיגמה זאת עומדת לעבור טלטלה רצינית.

איפה עובר הגבול בין התנהגות של מכונה להתנהגות אנושית של ה-AI Agent? האם אפשר בכלל לקרוא לזה התנהגות אנושית, אולי דמויית התנהגות אנושית, אולי בכלל לא קשורה להתנהגות אנושית? אני סבור שדיון כזה יגלוש מהר לדיון על מהו האדם, האם יש נפש או נשמה? גם וגם? האם החשיבה האנושית מבוססת על משהו רוחני, לא חומרי, או שהכל תוצר של תהליכים כימיים כאלה ואחרים המחווטים בנוירונים חשמליים במוח שלנו. אם נקבע שהכל פיזי, הכל חיווט נוירוני, הרי שנטען שבעצם אנחנו די דומים לסוכני הבינה המלאכותית, ואולי אפילו אנחנו, בני האנוש, גרסה מיושנת, שבירה ומתכלה של הדבר האמיתי החדש. ואם מדובר במשהו רוחני, הרי שחזקה עלינו חובת ההוכחה, שעדיין לא הוכחה, שקיימת רוח כלשהיא, לבטח לא הוכחה ממשית המוסכמת על כלל החוקרים.

שינוי טכנולוגי או שינוי עולמות?

בנוגע ל-AI בכלל, ול-Agentic AI בפרט, קיימות שתי אסכולות מרכזיות – האחת גורסת שמדובר בקפיצה טכנולוגית גדולה, נחשונית, אך קפיצה בלבד. לא שינוי מהות, אלא שיפור מהותי של הקיים. טיעון מאוד הגיוני. בהיסטוריה האנושית ראינו קפיצות טכנולוגיות שונות, הדפוס, הגלגל, האלחוט, שכולן שינו ואולי שיפרו את תנאי המחיה של האדם, אך לא את האדם עצמו, לבטח לא היוו קריאת תיגר על האדם עצמו. האדם, למרות כל המהפכות הטכנולוגיות, המשיך ועדיין ממשיך להתחבט באותן שאלות קיומיות משחר ההיסטוריה.

אני שייך לאסכולה השנייה – אני סבור שלראשונה בהיסטוריה מתקיימת כאן ישות שנוצרה אמנם בידי אדם, אך מסוגלת להתעלות עליו. יכולתה ללמוד ולהסתגל טומנת בחובה אינסוף הזדמנויות, ולא פחות מכך, איומים וסכנות.

ישנם כבר היום תחומים שבהם היא עולה על האדם. כתיבת קוד היא דוגמה בולטת, והעולם המודרני, כידוע, מושתת על קוד. כמעט כל דבר שאנו נוגעים בו קשור לתוכנה. לא רחוק היום שרוב שורות הקוד בעולם יכתבו על ידי AI Agents ללא מגע יד אדם.

וזאת רק ההתחלה. במדע, בספרות, בתרבות ובמכניקה, בכל מקום כמעט, נראה עוד ועוד ישויות כאלה המקבלות יותר ויותר אוטונומיה בקבלת החלטות ובביצוע הלכה למעשה, פשוט משום שהן עושות זאת טוב יותר, מהר יותר, ומדויק יותר, ואינן מתעייפות לעולם.

מסקנה: הצורך לשאול שאלות ולקבוע גבולות גזרה

אין ספק שהופעת ה-AI Agent גורמת לנו לחשוב ולהרהר לאן הדבר הזה יכול להוביל אותנו. מינוף יכולות בני האנוש לגבהים שלא חלמנו עליהם, או מלחמה ואיום על הגזע האנושי? האם באמת מדובר בישות חדשה העולה עלינו אלפי מונים? האם ומתי יעלה הגולם על יוצרו? מתי ישאל AI Agent את השאלה "וּמוֹתַר סוכן ה-AI מִן הָאָדָם"? (אג'נט-עתידי שנת 2039, פרק 3376683456, פסוק י"ב). ימים יגידו.

ה-AI Agents מהווים הזדמנות אנושית אדירה להתפתחות החיים על כדור הארץ וייתכן שגם מחוצה לה. אבל כגודל ההזדמנויות כך גודל הסכנות. אם זה מודל יותר טוב מהמודל האנושי, למה בכלל צריך את בני האנוש? כיצד, אם בכלל, ניתן לתעל את ה-AI למקום שהיא רק משפרת, מוסיפה ותורמת, ולא למקום הורס, אלים, לוקח? מה זה אומר עלינו ועל מרחב החיים שלנו?

אם לא נציף את השאלות הללו עכשיו, ולא ננסה להגדיר כבר היום את תחומי הגזרה, מה מותר לסוכן לעשות ומה אסור לו, לאיזה משאבים ומידע יש לו גישה ולאיזה אין – אנחנו עלולים לשלם על כך מחיר כבד מאוד. ולא בעוד הרבה שנים.

הכותב הוא מנכ"ל ומייסד Tego AI