מטכנולוגיה שממקסמת תשומת לב – לטכנולוגיה המחויבת לאדם

במשך שנים התרגלנו לחשוב על פלטפורמות דיגיטליות כתשתית כמעט ניטרלית, מרחב שבו אנשים פועלים, משתפים ולעיתים גם פוגעים, בעוד האחריות נתפשת בעיקר ככזו המוטלת על המשתמשים עצמם. אלא שבשבועות האחרונים נדמה שמשהו השתנה. פסק דין שניתן בניו מקסיקו קבע כי ענקית הרשתות החברתיות והטכנולוגיה מטא (Meta) אחראית לפגיעה בילדים, לא רק בגין תוכן שפורסם, אלא בשל האופן שבו המערכת עצמה תוכננה ופעלה. במקרה המסוים, אין זו הבחנה טכנית, אלא שינוי תפישתי שמעביר את מרכז הכובד מן התוכן אל העיצוב והארכיטקטורה של הפלטפורמות.

הדיון שהתנהל בתיק המשפטי הזה הציף טענה לא פשוטה לפיה הפלטפורמה לא רק אפשרה פגיעה, אלא יצרה סביבה שמגבירה אותה. אלגוריתמים שממקסמים מעורבות חיברו, חשפו והעצימו סיכונים, גם כאשר מדובר בילדים וילדות. כאשר חברה יודעת, או אמורה לדעת, כיצד המנגנונים שלה פועלים בפועל, קשה לראות בכך "תוצר לוואי" – זהו כבר חלק מן האופן שבו המערכת תוכננה, בנויה ופועלת.

עבור דירקטוריונים, אין מדובר עוד בשאלת מוניטין בלבד אלא בסיכון מהותי, שכן מודלים עסקיים המבוססים על מעורבות בכל מחיר עלולים להפוך לחשיפה משפטית, רגולטורית וכלכלית

הטכנולוגיה ההומנית נכנסת לתמונה

כאן נכנס לתמונה מושג שעד לאחרונה נשמע תיאורטי למדי – טכנולוגיה הומנית (Humane Technology). לא מדובר בכוונות או בהצהרות, אלא באופן שבו מערכות מתוכננות ומופעלות, ובזה כלול, כמובן, ההיבט הכלכלי הגלום בפיתוחן: האם הן נבנות כדי להגדיל את הזמן שאנו מבלים בהן, זמן שמתורגם להכנסות ולנתונים או כדי באמת לשרת את המשתמש וליצור עבורו ערך?; האם הן מתגמלות תוכן קיצוני ופוגעני, שמייצר יותר מעורבות ולכן גם יותר ערך עסקי, או מזהות אותו בזמן ופועלות לצמצם את החשיפה אליו?; והאם קיימת נקודה שבה הנהלה בוחרת להציב גבול, גם כאשר לכך יש מחיר עסקי?1

כאשר מדובר בילדים, השאלות הללו אינן מופשטות. כיו"ר עמותת בית לכל ילד, אני פוגש את המציאות הזו לא דרך כותרות אלא דרך החיים עצמם. ילדים וילדות שנחשפים מוקדם מדי, עמוק מדי, ולעיתים ללא שכבות ההגנה שהיינו מצפים להן. לא תמיד משום שמישהו ביקש לפגוע בהם, אלא משום שהמערכת סביבם לא נבנתה מלכתחילה מתוך נקודת מבט של הגנה והבנה לפוטנציאל הפגיעות.

הפער בין היכולת הטכנולוגית לבין האחריות איננו עתידי. הוא מתקיים כאן ועכשיו. אם בעבר התמקדנו בהגנה במרחב הפיזי, הרי שהיום ברור כי המרחב הדיגיטלי הוא חלק בלתי נפרד מסביבת החיים של ילדים. כאשר קיים איום, קיימת גם חובה, לא כהמלצה, אלא כחלק מהאחריות הבסיסית של מערכת ציבורית ועסקית כאחד.

מכאן נובע הצורך בשינוי עומק. עבור רגולטורים, אין די באכיפה בדיעבד, ויש צורך בקביעת סטנדרטים של עיצוב המגדירים מראש מהי מערכת בטוחה ומהי אחריות כלפי קטינים כברירת מחדל. עבור דירקטוריונים, אין מדובר עוד בשאלת מוניטין בלבד אלא בסיכון מהותי, שכן מודלים עסקיים המבוססים על מעורבות בכל מחיר עלולים להפוך לחשיפה משפטית, רגולטורית וכלכלית. עבור החברות עצמן, זהו רגע של בחירה ויישום ההבנה שאמון איננו תוצר לוואי של צמיחה אלא תנאי לה, ושמדידה של הצלחה אינה יכולה להתבסס רק על היקף שימוש, אלא גם על הנזק שנמנע. חייבים להביא בחשבון את פוטנציאל ההשפעות החיצוניות וערכים לצד ההיבטים הקפיטליסטים.

מעבר להיבטים הניהוליים והרגולטוריים, מתחדדת גם שאלה רחבה יותר הנוגעת לאופייה של החברה שאנו מבקשים להיות. האם מדובר בעולם שבו מערכות מתקדמות יודעות לזהות חולשה ולנצל אותה, או בעולם שבו אותן מערכות עצמן מזהות חולשה ופועלות להגן עליה. הטכנולוגיה כבר מאפשרת את שני הכיוונים; הבחירה איננה טכנולוגית, אלא ערכית.

פסק הדין בניו מקסיקו אינו מספק את כל התשובות, אך הוא מסמן כיוון ברור ומשרטט גבול ראשוני. מכאן ואילך, האחריות אינה מונחת רק לפתחם של בתי המשפט, אלא בראש ובראשונה נמצאת בידי מקבלי ההחלטות, הנהלות, רגולטורים והחברה כולה. בסופו של דבר, טכנולוגיה איננה רק קוד. היא הדרך שבה ערכים מתורגמים למערכות, למוצרים ולהחלטות. והמבחן האמיתי שלה ושלנו איננו רק במה שהיא מאפשרת, אלא גם במה שהיא בוחרת למנוע.

הכותב הוא יו"ר הועד המנהל של עמותת "בית לכל ילד", דירקטור ופעיל חברתי, לשעבר המפקח על הבנקים