פסגת ה-AI בברטיסלבה: אלגואתיקה, אמנות זומבים ואחריות

הוזמנתי להשתתף ב-High Level Summit, אשר התקיים במסגרת Bratislava AI Forum – כנס בינלאומי חשוב ויוקרתי, בחסות נשיא סלובקיה, פטר פלגריני, ובהשתתפות מזכ"ל ארגון ה-OECD, האו"ם, אונסק"ו, נשיאת הבנק האירופי המרכזי, וכן 35 שרים ממדינות ה-OECD.

העתיד אינו נקבע על ידי מהירות האלגוריתמים, אלא על ידי אופי הבחירות שלנו, והיכולת שלנו לחבר מטרה מוסרית עם ממשל יעיל וחינוך אמיץ

חזרתי אליכם עם סיכום קצר של עיקרי האירוע.

הבינה המלאכותית – הארכיטקטית החדשה של יקום המידע

האנושות ניצבת בנקודת מפנה היסטורית, שבה הבינה המלאכותית הפכה בזמן קצר להפליא מנתונים מפוזרים ל"ארכיטקטית הגדולה" של יקום המידע. הטכנולוגיה הזו תוארה באירוע כ-Game Changer כמעט בכל תחום בחיינו, כשהיא מסוגלת לעבד במיקרו-שניות משימות שבעבר דרשו ימים של עבודה מחשבית מסורתית.

עם זאת, הדוברים בכנס הדגישו כי למרות העוצמה הטכנולוגית, העיצוב הסופי של גורלנו ומשמעותו נותרים תמיד – בחירה שלנו.

הלך הרוח סימן כי התקופה של ההתלבטויות הפנימיות האינסופיות הסתיימה, וכעת נדרשת פעולה נחושה וחשיבה "מחוץ לקופסה" כדי להנדס עתיד הממוקד באדם.

התשתית המוסרית: "אלגואתיקה" וכבוד האדם

אחת התמות המרכזיות בדיון הייתה שהטכנולוגיה חייבת להישאר בשירות כבוד האדם. הנשיא פלגריני הציג את המושג "אלגואתיקה" (Algorethics) – מערכת ערכים ברורה המנחה את העיצוב והשימוש במערכות אלו.

האתיקה אינה יכולה להיות מחשבה שבאה בדיעבד; היא חייבת להיות "ההגה" של המערכת. ללא הגה זה, אנו מסתכנים בגלישה לעולם שבו הפרטיות נשחקת והמכונות מתחילות לקבל החלטות השייכות באופן בלעדי לבני אדם.

סוגיה פילוסופית עמוקה שעלתה הייתה הקשר בין חופש לאחריות. הקרדינל פיטר טורקסון הסביר כי חופש אינו שלם אלא אם כן הוא מלווה בתחושת אחריות, וכי האדם מוכרח לעולם לא לוותר על מעמדו כיוצר הכלים ולהניח למכונה לשלוט בו.

הנוכחים ציינו בהקשר זה כי קיימת סכנה שקטה של "היחלשות כושר השיפוט", שבה בני אדם מוותרים על קולם הפנימי השואל "האם זה באמת כך?" לטובת תשובות מהירות וביטחון עצמי מופרז של האלגוריתם.

במרכז – עו"ד ד"ר איל ברוק, ראש תחום AI משרד עורכי הדין ש. הורוביץ' בפסגת ה-AI בברטיסלבה. צילום: יח"צ

הכלכלה החדשה: פריון, חדשנות ויתרון ה"מאמץ השני"

נשיאת הבנק המרכזי האירופי, לגארד, השוותה את השפעת ה-AI להחדרת החשמל בשנות ה-20. לטענתה, לבינה המלאכותית יש תכונות ייחודיות שעשויות להאיץ את מחזור הפריון: האופי ה"רקורסיבי" שלה, המאפשר לה להשתמש בפלט שלה כדי לשפר את ביצועיה בלולאה מתמדת.

דוגמה מרשימה לכך היא תחום המדע: בעוד שלאנושות נדרשו כ-60 שנה לפענח קרוב ל-200,000 מבני חלבון, ה-AI השיגה למעלה מ-200 מיליון תחזיות בתוך פחות משנתיים.

לגארד טענה כי אירופה, למרות שלא הייתה 'המנוע הראשון' (First Mover) בתחום, יכולה להפוך ל'מאמץ שני' (Second Mover) חזק – אם תפעל בנחישות.

לדבריה, היתרון האירופי טמון בכלכלה מגוונת ובשימוש חכם בנתונים תעשייתיים ורפואיים ("מרחבי נתונים"), המהווים את "האוצר שלנו". עם זאת, נדרשים הסרת חסמים בירוקרטיים, אינטגרציה של שוקי ההון והוזלת עלויות האנרגיה, כדי שהשינוי יחלחל לכל חלקי הכלכלה.

אתגר האמון: דיפ-פייק, "אמנות זומבים" ורגולציה

האמון הוגדר כמרכיב חיוני לכל טרנספורמציה דיגיטלית. בכנס נידונו סכנות ממשיות – כגון סרטוני "דיפ-פייק" המשמשים להונאות פיננסיות רחבות היקף כפי שקרה בהונג קונג ובאיחוד האמירויות – המערערות את אמון הצרכנים ואת יציבות השוק.

בתחום היצירתי התבטאתי בעצמי והזהרתי מפני יצירת "אמנות זומבים" – ייצור אינסופי של יצירות המבוססות על ממוצע סטטיסטי, שעלול להוביל למונו-תרבות אסתטית ולניוון של מיומנויות אנושיות מקוריות.

הפתרון המוצע הוא רגולציה מבוססת סיכון, כפי שמוצג בחוק ה-AI האירופי. נדרשת ארכיטקטורה משפטית חדשה, שבה האחריות מחולקת בין המפתחים (לאיכות הקוד), המטמיעים (להחלטות היישום) והמשתמשים. המערכת חייבת להיות שקופה, ניתנת להסבר ובטוחה.

רב-צדדיות ו"מדינות חכמות"

הדוברים הדגישו כי ה-AI אינה צריכה לעמוד עבור "קידום אי-שוויון" וכי קיים חשש כבד שריכוז הטכנולוגיה והכוח בידי חברות ענק מעטות יצור "קהילה סגורה". נציגי הארגונים הבינלאומיים (ה-OECD, האו"ם ואונסק"ו) קראו לכינון שיתוף פעולה גלובלי, כדי להבטיח שגם מדינות מתפתחות יזכו לגישה לתשתיות מחשוב בסיסיות ולנתונים.

סלובקיה הוצגה כדוגמה ל"מדינה חכמה" (Smart Power) שיכולה לשמש כמעבדת ניסוי (Test Bed) אירופית לפתרונות בטוחים בתחומי הבריאות והחינוך. 

המסר בפסגה היה ברור: איננו רק נוסעים ב"אוטובוס בנהיגה עצמית ללא בלמים"; אנו עדיין יכולים לבחור את המסלול ואת המלווים שלנו למסע. העתיד אינו נקבע על ידי מהירות האלגוריתמים, אלא על ידי אופי הבחירות שלנו, והיכולת שלנו לחבר מטרה מוסרית עם ממשל יעיל וחינוך אמיץ.

לסיכום, הפסגה קראה לעבור ממצב של "מרדף" אחרי הטכנולוגיה למצב של הובלה מבוססת ערכים. לפי המשתתפים המכובדים מאוד, המפתח להצלחה טמון בשילוב שבין עוצמת המחשוב לבין אמון, כבוד והזדמנות לכל חלקי החברה.