בינה מלאכותית: בין שליחות קטלנית למציאות קרובה

הסרט "שליחות קטלנית" הציג תרחיש שבו בינה מלאכותית נלחמת באנושות. ארבעה עשורים מאוחר יותר, כשהבינה המלאכותית כבר נמצאת בכל תחום, נשאלת השאלה: עד כמה התרחיש הזה רלוונטי להיום?

העימות בין אדם למחשב הוא מוטיב רב שנים בתרבות הפופולרית. אחד מחלוצי התחום היה הסופר אייזיק אסימוב, שכבר בשנות השישים של המאה שעברה הגדיר את שלושת חוקי הרובוטיקה. אחד מהם קובע כי רובוט לעולם לא יזיק לאדם. בקולנוע, הסרטים כמו "שליחות קטלנית", "המטריקס", "בלייד ראנר", "סרט אקס מכינה" ו"אני רובוט" עוסקים בשאלה: מה קורה כשהטכנולוגיה מפסיקה להיות כלי והופכת לשחקן עצמאי שמגדיר מחדש את מקומו של האדם בעולם?

"הבעיה האמיתית אינה מרד של מכונות, אלא האפשרות שבני אדם יסתמכו יותר מדי על מערכות שהם אינם מבינים לחלוטין. הסיכון איננו שה-AI תפתח רצון להשמיד את האנושות, ולא נראה רובוטים מחסלים אנשים ברחובות, אלא שהיא תפעל על פי מטרות שהוגדרו לה באופן חלקי או שגוי

הדמיון בין הסרטים למציאות מתחיל לקרום עור וגידים

העולם של היום רחוק מאוד מבינה מלאכותית בעלת מודעות עצמאית, או מערכת מחשב אחת שמרכזת שליטה גלובלית. הבינה המלאכותית מפוזרת בין חברות וטכנולוגיות שונות, אינה מודעת לעצמה ואינה מחזיקה רצון או אינסטינקט הישרדותי. מדובר במערכות אשר מחקות התנהגות אנושית בצורה מוגבלת, מזהות דפוסים ומספקות תחזיות, ולא בישויות שחושבות או מחליטות להילחם או להגן על האנושות. עם זאת, הדמיון בין הסרט למציאות מתחיל לקרום עור וגידים.

באפריל 2026 פרסם מערך הסייבר הלאומי של ישראל אזהרה מפני איום חדש מצד הבינה המלאכותית. במסמך נכתב שהאיום במרחב הסייבר עובר תמורה דרמטית, והאופן שבו אנו מתגוננים חייב להשתנות. בעוד שבעבר מתקפות סייבר מורכבות היו נחלתם של מומחים, כיום הדור חדש של ה-AI הופך את שיטות ההגנה המסורתיות ללא יעילות.

המודל של קלוד מפחיד את מערך הסייבר. אנת'רופיק. צילום: Shutterstock

האירוע הדרמטי שהוביל לאזהרה החריגה היה הפרסום של חברת אנת'רופיק (Anthropic), בעלת מודל קלוד (Claude), שאחת מגרסאותיו המיועדות למצוא פרצות אבטחה בארגונים הפגינה "יכולות גבוהות בצורה יוצאת דופן באיתור חולשות ובפיתוח וקטורי תקיפה מורכבים, במהירות וברמת תחכום כזו שמעוררים חשש משמעותי מזליגת היכולות לידי תוקפים עוינים".

במהלך הרצת המודל, אותרו בכל מערכות ההפעלה והדפדפנים שנבדקו אלפי חולשות, רבות מהן קריטיות. עוד לפני הפרסום הזה, היו באנת'רופיק שני אירועים, שכללו דליפת אלפי קבצים פנימיים ויותר מחצי מיליון שורות קוד של התוכנה הזו. כעת, בינה מלאכותית עצמאית המתמחה בפריצה למערכות מחשב בצורה אוטונומית, נמצאת בחוץ ויתכן שתגיע לידיים לא רצויות. במענה, אנת'רופיק פתחה בפרויקט הגנה מיוחד במסגרתו – היא שחררה את קוד התכנה לחברות כמו אפל, גוגל ומיקרוסופט, כדי שאלו יעזרו לה להגן על העולם מפני התכנה שהיא פיתחה ו"ברחה לה".

מערך הסייבר הלאומי מעריך כי מדובר בחודשים עד להגעת מודלי שפה של יצרנים נוספים לרמה טכנולוגית דומה. המשמעות היא שבין אם מדובר בבינה מלאכותית שפועלת, ללא מודעות, באופן חופשי במרחב הסייבר, ובין אם מדובר בגורמים עוינים שישתלטו על המודל ויעשו בו שימוש עוין – אנחנו בסכנת חדירה לכל מערכת מחשב, טלפון נייד, שעון חכם והמחשב הביתי שלנו.

AI תילחם ב-AI?

כאן נכנס השלב המתואר ברבים מהסרטים. מערך הסייבר הלאומי מציע שכלי הבינה המלאכותית הם אלו שיהוו את שכבת ההגנה העיקרית והמרכזית מפני התקיפות של כלי ה-AI. זהו מעגל קסמים, בו אותו סוג של כלים שמפותחים על ידי אותן חברות והם אלו שפורצים למערכת המחשוב של הארגון, הם גם אלו שיגנו על הארגון. נשאלת השאלה, היכן נמצאת הבקרה האנושית ומדוע לא עוצרים את מעגל הקסמים הזה, במיוחד כאשר מרבית הסרטים העתידניים מזהירים מהאפשרות הזאת?

הבעיה האמיתית אינה מרד של מכונות, אלא האפשרות שבני אדם יסתמכו יותר מדי על מערכות שהם אינם מבינים לחלוטין. הסיכון איננו שה-AI תפתח רצון להשמיד את האנושות, ולא נראה רובוטים מחסלים אנשים ברחובות, אלא שהיא תפעל על פי מטרות שהוגדרו לה באופן חלקי או שגוי. הסיכון הוא באלו החושבים שניתן להשתמש בדיוק באותם אמצעים שגרמו את הבעיה כדי לפתור אותה. וכך יקרה שהשליטה של הבינה המלאכותית באנושות לא תילקח בכוח, היא תועבר בהדרגה על ידי המומחים.

בסופו של דבר, השאלה אינה האם התסריט של "שליחות קטלנית" יתממש, אלא איזה סוג של שליטה אנחנו בוחרים למסור לבינה המלאכותית. המוקד הוא: לא מה המכונות רוצות, אלא מה אנחנו מאפשרים להן לעשות. וכאשר אותו מנגנון אחראי גם על גילוי החולשות וגם על ניצולן, הבקרה האנושית פשוט נעלמת.

התוצאה היא מערכת סגורה, בה ההתקפה, התגובה והתיקון – כולם מתבצעים על ידי אותה בינה מלאכותית ובנקודה הזו מתרחשת ההשתלטות האמיתית. מערכת עולמית שבה הבקרה אינה אנושית, אלא מבוצעת על ידי בינה מלאכותית. ייתכן שזה ההבדל העמוק ביותר בין המציאות לבין אותם תסריטים עתידניים. שם, המכונות משתלטות כי הן מחליטות. כאן, הן משתלטות כי אנחנו פשוט אפשרנו להן.

אגב, הכתבה נכתבה בעזרת שימוש בכלי בינה מלאכותית…

הכותב הוא ד"ר רן אפק מבית הספר לפילוסופיה, בלשנות ולימודי מדע באוניברסיטת תל אביב