הנסיך הארי וחלוצי טק קוראים לאסור על "AI סופר אינטליגנטית"

הבינה המלאכותית הסופר אינטליגנטית (Artificial Super Intelligence, או ASI), שחברות ענק עובדות עליה במרץ רב, מעוררת דאגות רבות. כעת, שורה של חלוצים בעולם הטכנולוגיה בכלל והבינה המלאכותית בפרט קוראים לאסור עליה, כאשר לקריאה הזאת מצטרפים קובעי מדיניות וכמה סלבס, בהם הנסיך הארי ורעייתו, מייגן מרקל.

הדוכס והדוכסית מססקס הם בין החותמים על הצהרה של "המוסד לחיים עתידיים", שקוראת "לאסור על פיתוח בינה מלאכותית סופר אינטליגנטית". מדובר בהצהרה קצרה, שעד לפרסום שורות אלה זכתה ל-4,300 חתימות. הנה הנוסח המלא שלה: "אנחנו קוראים לאיסור על פיתוח (בינה מלאכותית) סופר אינטליגנטית, שלא יוסר לפני שיהיו קונצנזוס מדעי רחב שזה ייעשה בצורה בטוחה ונשלטת, ויקבל תמיכה ציבורית חזקה".

בין החותמים הנוספים על ההצרה ניתן למנות את "הסנדקים של ה-AI", יהושע בנג'יו ופרופ' ג'פרי הינטון, שהזהיר באחרונה שה-AI הסופר אינטליגנטית תנסה לשלוט בבני האדם; סטיב ווזניאק, שייסד את אפל יחד עם סטיב ג'ובס; סוזן רייס, שהייתה היועצת לביטחון לאומי של ארצות הברית בתקופת נשיאותו של ברק אובמה; סטיב באנון, לשעבר יועצו של הנשיא דונלד טראמפ ואחת הדמויות הבולטות בימין האמריקני; השחקן ג'וזף גורדון-לויט; מגיש הטלוויזיה והסופר הבריטי סטיבן פריי; מארי רובינסון, בעברה נשיאת אירלנד; היזם הבריטי סר ריצ'רד ברנסון, מקים וירג'ין; והזמרת קיית בוש. גם פרופ' יובל נח הררי הישראלי חתום על ההצהרה.

פרופ' יובל נח הררי. צילום: ShutterStock

"הסופר אינטליגנטיות תשבור את מערכת ההפעלה של הציוויליזציה"

לדברי הנסיך הארי, "הבינה המלאכותית צריכה לשרת את האנושות, לא להחליף אותה. המבחן האמיתי של ההתקדמות יהיה לא עד כמה אנחנו זזים מהר, אלא עד כמה אנחנו עושים זאת בצורה חכמה".

פרופ' נח הררי ציין כי "סביר מאוד להניח שהסופר אינטליגנטיות תשבור את מערכת ההפעלה של הציוויליזציה האנושית – וזה לחלוטין לא נחוץ. אם במקום זה נתמקד בבניית כלי AI ניתנים לשליטה, על מנת לסייע לאנשים אמיתיים, נוכל להסתמך הרבה יותר על ולהבין בצורה בטוחה יותר את היתרונות המדהימים של הבינה המלאכותית".

לדברי בנג'יו, "מערכות AI יוכלו לעבור את רוב בני האדם ברוב המשימות הקוגניטיביות בעוד מעט שנים. ההתקדמויות האלה יכולות להביא פתרונות לאתגרים גלובליים ענקיים, אבל גם לשאת עימם סיכונים משמעותיים. על מנת להתקדם בבטחה אל עבר הסופר אינטליגנטיות, אנחנו צריכים לקבוע, בצורה מדעית, כיצד לבנות מערכות בינה מלאכותית שבאופן בסיסי, לא יכולות להזיק לאנשים, בין אם על ידי שימוש לא נכון או זדוני. אנחנו צריכים גם להבטיח שתהיה לציבור אמירה חזקה הרבה יותר בהחלטות שיעצבו את העתיד הקולקטיבי שלנו".

לא חתם על ההצהרה (מן הסתם). מנכ"ל מטא, מארק צוקרברג. צילום: עיבוד ממוחשב כאילוסטרציה. מקור: Shutterstock

חברות רבות, בהן OpenAI, מיקרוסופט וגוגל, מקיימות בימים אלה מאמצים לפיתוח אותה בינה מלאכותית סופר אינטליגנטית. אחת הבולטות בחברות אלה היא מטא, שמנסה לצורך כך לפתות מומחים מ-OpenAI לעבור אליה בסכומי עתק. החברה של מארק צוקרברג הודיעה ביוני האחרון על רכישת 49% ממניות Scale AI תמורת קרוב ל-15 מיליארד דולר ועל צירופו של אחד ממקימיה, אלכסנדר וואנג, שהוא אחד השמות החמים בעולם הלוהט של הבינה המלאכותית. רק השבוע פורסם שהחברה צפויה לצמצם 600 משרות בחטיבת ה-AI שלה, שמפתחת את אותה בינה מלאכותית סופר אינטליגנטית, כדי לייעל את תהליכי הפיתוח.