מאפלטון ועד ChatGPT: כל מהפכת ידע מתחילה בחרדה

בשבועות האחרונים שיח הבינה המלאכותית חורג שוב משאלת היכולות של הטכנולוגיה ועובר לשאלת השליטה בה. לצד אזהרות מצד בכירים וחוקרים בתעשייה, ובהם Anthropic, מפני מערכות עתידיות אוטונומיות וסיכונים בקנה מידה רחב, נשמעים גם קולות המבקשים לצנן את תרחישי הקיצון ולהתמקד בבניית מוסדות, רגולציה ומנגנוני פיקוח שיתפתחו לצד הטכנולוגיה.

בתוך כך עולה שאלה עקרונית נוספת: עד כמה נכון שהחברות שמפתחות את מערכות ה-AI יהיו גם אלה שמגדירות עבור הציבור והמדינות את גודל הסיכון ואת הדרך להתמודד איתו?

העלייה המטאורית של הבינה המלאכותית והנוכחות ההולכת וגוברת שלה בכל תחומי חיינו מעוררות שיח ציבורי שהולך ומתלהט. ברור שמדובר במהפכה יוצאת דופן בעוצמתה ובהשלכותיה, ולכן השיח סביבה משלב סקרנות ותקוות גדולות מחד, וחרדות עמוקות מאידך.

דרך מאירת עיניים לנתח את המציאות המתהווה יכולה להיגזר ממבט היסטורי רחב על שאלות של ידע וטכנולוגיות ידיעה.

החרדה מטכנולוגיות ידע אינה חדשה

ראשית, חשוב לזכור שאין זו הפעם הראשונה בהיסטוריה שטכנולוגיית ידע חדשה מעוררת חרדה באשר ליכולת האדם לחשוב, ללמוד ולייצר ידע כפי שהיה מקובל.

כבר בעת העתיקה, במעבר מתרבות המבוססת על מסורת שבעל פה לתרבות של טקסט כתוב, עלו חששות לגבי מהותו של הידע – ולמעשה גם לגבי מהות האדם. לא אחר מאשר אפלטון, בדיאלוג "פאדרוס", הביע חשש כי הטקסט הכתוב יחליש את יכולות הזיכרון של האדם, יפגע בדיאלוג החי שבו ראה מפתח ליצירה ולהפצה של ידע פילוסופי, וייצר במקומו, בשל היותו פסיבי וחד-ממדי, רק אשליה של ידע.

באופן אירוני, אפלטון עצמו השתמש בכתב כדי לבטא את חרדותיו, אך עשה זאת בדרך של דיאלוג כתוב, במטרה לחקות ככל שניתן את השיחה החיה שאת סגולותיה רצה לשמר.

לצד זאת, עליית טכנולוגיית הכתב הביאה להתגבשות מעמד חדש של בעלי מקצועות רלוונטיים – פקידי ממשל, לבלרים ומלומדים מסוגים שונים – ולהיחלשות מקבילה של מי שמעמדם היה תלוי בשליטה בתרבות שבעל פה.

קשה שלא לשמוע את ההד לדיונים המתנהלים כיום סביב הבינה המלאכותית: האם כלי AI גורמים לנו לדעת יותר, או רק להרגיש שאנחנו יודעים יותר? האם הם מרחיבים את יכולת החשיבה שלנו, או גורמים לנו לוותר על יכולות מהותיות לאדם?

מהכתב לדפוס – ומהדפוס ל-AI

בדורות שלאחר אפלטון, המעבר ממגילה לקודקס, ומאוחר יותר הופעת הדפוס במאה ה-15, יצרו טלטלות דומות. כאשר ספרים הפכו נגישים וזולים יותר, השתנו גם מוקדי הכוח הקשורים ביצירת ידע ובהפצתו. מוסדות דת, מלומדים וקבוצות מצומצמות של יודעי קרוא וכתוב איבדו חלק מן הבלעדיות שלהם, ולצדם נוצרו מוקדי כוח חדשים: עורכים, מו"לים ומפיצי ספרים.

בכל אחת מהמהפכות הללו היו מי שהרוויחו ומי שמעמדם נחלש. טכנולוגיית ידע חדשה אינה משנה רק את האופן שבו אנו מבצעים פעולה מסוימת; היא משנה גם את יחסי הכוחות שסביבה ואת עצם ההבנה של מהו ידע.

זו אולי דרך להבין את התגובות העזות שמעוררת מהפכת ה-AI. השאלה אינה רק מה הטכנולוגיות מסוגלות לעשות, אלא גם מי מאבד שליטה על הידע ומי מקבל גישה חדשה אליו.

האקדמיה נדרשת להגדיר מחדש מהו "לדעת"

עבור האקדמיה מדובר באתגר עמוק במיוחד. במשך מאות שנים מוסדות אקדמיים הובילו תהליכי יצירה, ארגון והפצה של ידע. כיום חלק ניכר מהמחקר והפיתוח המתקדם, ובייחוד בבינה מלאכותית, מתבצע בחברות טכנולוגיה פרטיות.

במקביל, באוניברסיטאות מתנהל דיון יומיומי: כיצד נכון ללמד? כיצד בוחנים סטודנט בעולם שבו מערכת יכולה לכתוב עבודה בתוך שניות? ומהי המשמעות של "לדעת" כאשר תשובות נמצאות תמיד במרחק שאלה אחת ממודל שפה?

דווקא משום כך, התגובה הנכונה אינה בצמצום הלמידה, אלא בהרחבתה ובהעמקתה.

עידן הבינה המלאכותית דורש מאיתנו הבנה עמוקה יותר וביקורתיות רבה יותר. אדם שמשתמש במודל שפה מבלי להבין כיצד הוא פועל, מה מגבלותיו ומדוע הוא עלול לטעות, עלול להפוך אותו לקופסה שחורה בעלת סמכות כמעט מוחלטת.

לכן על מערכות החינוך והאקדמיה להעניק גם למי שאינם מהנדסים או מתמטיקאים הבנה בסיסית של הטכנולוגיה. במקביל, ההכשרה הנכונה במקצועות ה-STEM תחייב העמקה ביכולת המתמטית לצד רכישת מיומנויות רכות, ובהן עבודה בצוותים וקידום תהליכים.

אי אפשר לעצור מהפכה טכנולוגית – אבל אפשר לעצב אותה

גם בתחומי האתיקה והרגולציה אין מקום לפאסיביות. הניסיון ההיסטורי מלמד שקשה לעצור טכנולוגיה משמעותית באמצעות איסור. לא עצרנו את הכתב, את הדפוס, את המחשב האישי או את האינטרנט, וסביר שגם את הבינה המלאכותית לא נוכל לעצור.

אבל מהפכות טכנולוגיות אינן מתרחשות בחלל ריק. הן דורשות כללים, מנגנוני פיקוח ודיון ציבורי בשאלות של אחריות, פרטיות, הטיות, שקיפות וכוח.

האתגר הגדול אינו רק בעוצמה החריגה של הטכנולוגיות החדשות, אלא גם בהקשר החברתי-פוליטי שבו הן נוצרות, ובמפגש בין הון גדול לבין מנהיגות פוליטית בעלת אופי סמכותני בשתי המדינות שמובילות את הפיתוח – ארה"ב וסין.

האתגרים כבירים, אבל כך גם ההזדמנויות שנפתחות בפנינו, כפי שקרה במהפכות קודמות בתחום טכנולוגיות הידע.