בינה מלאכותית – האירוע הנורא ביותר בהיסטוריית האנושות?

"איננו יכולים לדעת אם לנצח הבינה המלאכותית תעזור לנו - או אולי היא תתעלם מאיתנו ותדחק אותנו הצידה - או חלילה תשמיד אותנו", כך אמר סטיבן הוקינג בפני משתתפי ועידת Web Summit 2017 שהתקיימה בליסבון

סטיבן הוקינג. צילום: BigStock

"אני רוצה לדבר על תבונה מלאכותית, הדבר חשוב לכם, אנשי תעשיית התרופות באופן מקצועי, ולחברה (Society) בכללה", כך אמר סטיבן הוקינג בנאום מוקלט בפני משתתפי ועידת Web Summit 2017 שהתקיימה בליסבון בתחילת נובמבר.

"יש המון אתגרים והזדמנויות שאנו עומדים בפניהם ברגע זה, ואני מאמין שאחד האתגרים החשובים – דבר שישפיע על חיי היומיום של האנושות, הוא שכל דבר שניתן להשיג באמצעות מחשוב, ניתן להשיגו גם באמצעות מוח ביולוגי, ולהיפך".

לבטל את המחלות והעוני

עם זאת, אמר, "יש פונציאל סופי להתפתחות מוח האדם. מחשבים יוכלו בתיאוריה לחקות את המוח האנושי ולהשיג אותו. איננו יכולים לחזות מה אנו עשויים להשיג אם כל הזכויות שלנו יוחזקו בידי תבונה מלאכותית. יתכן שעם החוקים של המהפכה הטכנולוגית החדשה אנו עשויים לתקן משהו מהנזק שנעשה לעולם הטבע בידי האדם באמצעות התיעוש. נוכל לבטל את המחלות והעוני".

"כל היבט בחיינו יעבור שינוי. בטווח הקצר שיפור איכות החיים הוא האירוע הגדול ביותר בהסטוריה האנושית, או אולי הגרוע ביותר. פשוט איננו יודעים, לפיכך איננו יכולים לדעת אם לנצח הבינה המלאכותית תעזור לנו – או אולי היא תתעלם מאיתנו ותדחוק אותנו הצידה או חלילה תשמיד אותנו".

האירוע הנורא ביותר בהיסטוריה של התרבות האנושית

לדברי הוקינג, "אם לא נתכונן לאיום הפוטנציאלי, התפתחות הבינה המלאכותית עשויה להיות האירוע הנורא ביותר בהיסטוריה של התרבות האנושית. הבינה המלאכותית מביאה איתה סכנות כדוגמת כלי נשק אוטונומיים רבי-עוצמה וגם בטווח הקצר יותר, הם עלולים לגרום להרס הכלכלה".

כבר היום, הסביר, "אנו מודאגים מכך שמכונות חכמות תוכלנה להחליף עבודות שהיום נעשות בידי בני אדם ולהרוס את חייהם של מיליוני אנשים. הבינה המלאכותית עלולה להחליט להילחם באנושות ולהרוס אותנו".

מה התשובה? לדברי הוקינג, "יש לשלוט על התבונה המלאכותית ולגרום לה לעבוד עבורנו וכדי להפחית עד כמה שאפשר את הסיכונים, אנו צריכים להתקין מערכות ניהול יעילות המבוססות על הנסיון בכל התחומים הקשורים לפיתוח התבונה המלאכותית. ברור שכל מגזר בכלכלה יצטרך לשלב אמצעים למניעת נזקים, אבל בכל הקשור לתבונה מלאכותית זה חיוני ביותר".

"אנחנו המדענים, מפתחים רעיונות, אבל אנחנו גם משפיעים על הצורך לגרום להם לעבוד נכון. אולי טוב שנעצור רגע ונאפשר לתבונה המלאכותית להיות לא רק בעלת יכולות ומצליחות אלא גם למקסם את התועלת לחברה. מערכות התבונה המלאכותית צריכות לעשות מה שאנו רוצים שיעשו  לתועלת האנושות".

בפברואר השנה פורסם דוח של האיחוד האירופי הקורא לפתח חוקי רובוטיקה, מכיוון שהתבונה המלאכותית היא אחת המגמות הטכנולגויות הגדולות של המאה . הדו"ח מציע להטיל רגולציה דחופה על הפיתוחים האחרונים, וכן פיתוחים עתידיים  של רובוטים ומערכות תבונה מלאכותית. באופן מפתיע הדו"ח ממליץ על יצירת סוג של אישיות אלקטרונית שיבטיח את הזכויות והאחריות. אחד השותפים בפירמת עריכת הדין הבינלאומית אוסבורן קלארק (Osborne Clarke) אמר כי "איננו סומכים על רצונה הטוב של גורילה, כך שאין צורך לקפוץ לאישיות רובוטית".

הדו"ח הדגיש את האפשרות שבטווח זמן של כמה עשורים, היכולת האינטלקטואלית של התבונה המלאכותית עשויה לעבור את זו האנושית ולאתגר את יחסי האדם והרובוטים. לבסוף, הדו"ח קורא להקמת סוכנות אירופית לרובוטיקה ותבונה מלאכותית שתספק התמחויות טכניות, אתיות ורגולטוריות. אם יתקבל, הנושא יעלה על שולחנה של הנציבות האירופית שתחלית אילו צעדים לנקוט".

מקום מרגש ומסוכן

"אני אופטימי ואני מאמין שאנחנו יכולים ליצור בינה מלאכותית לטובת העולם שתעבוד בהרמוניה איתנו", אמר הוקינג. "אנחנו פשוט צריכים להיות מודעים לסכנות, לזהות אותם ולהטמיע את הפרקטיקות הטובות ביותר של ניהול ולהתכונן לתוצאות זמן רב מראש. יתכן שלכמה מהמאזינים להרצאה הזו יש כבר פתרונות או תשובות אבל ישנן שאלות רבות שהתבונה המלאכותית מעמידה בפנינו".

"כולנו חייבים להבטיח שלדור הבא  תהיה הזדמנות לקחת חלק בכך – יש ללמד מדע כבר מהכיתות הנמוכות כך שנוכל למצות את הפוטנציאל שלנו  וליצור עולם טוב יותר לכל המין האנושי".

"אנו צריכים לקיים דיונים תיאורטיים מקיפים כיצד צריכה הבינה המלאכותית להיות ולנקוט בצעדים שיבטיחו שנתכנן אותה נכון. לכולכם יש את הפוטנציאל לדחוף את הגבולות של מה שמקובל או צפוי כאשר אנו חושבים בגדול".

לסיכום אמר הוקינג כי "אנו עומדים על סיפו של עתיד גדול. זה יהיה מקום מרגש ומסוכן  ויש בו מקום לחלוציות. אני מקווה  שתעשו זאת בהצלחה".

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר.

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים