רוצים להשתמש בבינה מלאכותית? כתבו קוד – אבל הפעם קוד אתי

לפני שנים בודדות עוררו פיטוריה של ד"ר טימניט גברו, חוקרת בינה מלאכותית מגוגל, סערה בעולם הטכנולוגיה. מחקרה של ד"ר גברו ומספר עמיתיה נחסם לפרסום על ידי החברה. המחקר הביא ביקורת על אחד המודלים של בינה מלאכותי, בו נעשה שימוש במנועי תרגום אוטומטי, תמלול אוטומטי ועוד. כותבי המאמר העלו מספר נקודות בהן: הטיות בנתונים על בסיסם נבנה המודל, שעלולות להביא לאפליה או פגיעה באוכלוסייה מסוימת; פגיעה אפשרית באיכות הסביבה, כתוצאה מצורך מוגבר בחשמל להרצת המודל ועיבוד נתוני עתק; אפשרות ליצור על בסיס המודל טקסטים בצורה מלאכותית למניפולציות בדעת ציבור, דרך תקשורת ורשתות חברתיות. מקרה זה יצר הד תקשורתי והציף שאלות נוספות שקשורות לאתיקה של בינה מלאכותית.

מערכות בינה מלאכותית עשויות להקצין פערים בחברה. כיוון שמערכות תבוניות תלויות במידה רבה במידע שמוזן להן, המערכות עלולות ללמוד את פערי השוויון שקיימים בחברה וזה יבוא לידי ביטוי בתפקוד המערכות.

יתרה מכך, מקרה זה המחיש כיצד השאלות האתיות של השימוש של בינה מלאכותית הפכו להיות מנושא שמעסיק את המהנדסים לנושא שנמצא בליבו של הדיון הציבורי.

נדרש קוד אתי – לצד הקוד הקלאסי להפעלת המערכות

אם עד כה החלטות הנוגעות לאתיקה של בינה מלאכותית התקבלו על ידי אנשים או גופים בהתאם להשקפת עולמם, הרי שכעת ברור מאליו שנדרשת התייחסות חברתית מקיפה הרבה יותר בדמותן של הנחיות או רגולציה. המקרה הקלאסי של רכב אוטונומי שנקלע לסיטואציה אשר בה עליו להחליט האם לפגוע בילד או במבוגר כבר לא יכול להישאר בהתאם לשיקול מוסרי פרסונלי כזה או אחר. מפתחי ה-AI נדרשים להתייחס גם לסוגיות שכאלו, תוך הפעלת שיקולים חברתיים, ולגבש קוד אתי, לצד הקוד הקלאסי להפעלת המערכות.

כפי שנוכחנו לראות, מערכות בינה מלאכותית יכולות להקצין פערים בחברה. כיוון שמערכות תבוניות תלויות במידה רבה במידע שמוזן להן, המערכות עלולות ללמוד את פערי השוויון שקיימים בחברה וזה יבוא לידי ביטוי בתפקוד המערכות. אם לדוגמה מנתונים סטטיסטיים עולה שבעלי שיער ג'ינג'י הם טבחים טובים מכל שאר, מערכת תבונית תלמד לזהות את המאפיין ותעשה סינון ראשוני של מועמדים לטבחות. או למשל, אם עד כה אנשים גבוהים היו לקוחות בטוחים יותר בבנק ועמדו בתשלומי הלוואות ללא פיגורים בניגוד לשאר האוכלוסייה, מערכת לדירוג אשראי תלמד זאת ותציע להם הלוואות בתנאים מיטביים. אלא שכאן נשאלת שאלה אתית לא פשוטה: האם על המסעדה והבנק מוטל לפעול בהתאם למקסום רווחיהם או לתת הזדמנות שווה לכולם. לדעתי, אם אנחנו כחברה דואגים לשוויון, עלינו להיות מודעים לעלויות הכרוכות בכך, להסכים להן ולנסח רגולציות בעניין.

חייבים קוד אתי לשימוש בה. בינה מלאכותית. צילום: BigStock

הצהרת מונטריאול והצעות ה-ACM וה-RSS

קיימות יוזמות בעולם לניסוח עקרונות של מערכות תבוניות. הצהרת מונטריאול (2017-18) נבנתה בהנחה שמאחר שבינה מלאכותית תשפיע בסופו של דבר על כל מגזרי החברה, היא דורשת עקרונות שינחו את התפתחותה, כדי להבטיח את עמידתה בערכים אנושיים ובהתקדמות חברתית.

ההצהרה כוללת 10 עקרונות, החל מהגנה על פרטיות ועד לייצוג שווה, כאשר כמה עקרונות נוגעים ישירות באחריות ובאתיקה; למשל, עקרון הזהירות קובע כי "כל אדם המעורב בפיתוח AI חייב לנקוט צעדי זהירות על ידי צפייה, ככל האפשר, בתוצאות השליליות של השימוש במערכות תבוניות ובנקיטת הצעדים המתאימים כדי להימנע מהן". ההצהרה מרחיקה לכת מעקרונות אתיים תיאורטיים ומציעה המלצות לביצוע מעבר דיגיטלי אתי, הכולל את כל הרמות השונות של החברה.

ב-2018 בארצות הברית, ACM (ר"ת Association for Computing Machinery) הציעה קוד אתי והנחיות לשימוש במערכות מבוססות בינה מלאכותית. יוזמה דומה נערכה על ידי RSS (ר"ת Royal Statistical Society) בבריטניה בשנת 2019, שייצרה מדריך מעשי לשימוש אתי במערכות AI.

אין מחלוקת כי בינה מלאכותית עשויה לשפר מאוד את איכות חיינו ולהוביל לשינויים והתפתחויות חסרי תקדים, אלא שאנחנו כחברה אחראים לניסוח עקרונות אתיים שיאפשרו בניית מערכות תבוניות עם "ערכים", ולכן, לצד התפתחות האדירה שלה, יש ליזום כתיבה של קוד אתי שתבטיח כי היא לא תהיה כחרב פיפיות. דווקא עכשיו יש לנו כאנושות הזדמנות לעשות תיקון ולצמצם פערים חברתיים והטיות מלאכותיות ולהוקיע סטיגמות, אפליות ופגיעה ארוכת שנים שכבר אין לה מקום בחיינו.

הכותבת היא ראש התוכנית לתואר שני במערכות תבוניות באפקה, המכללה האקדמית להנדסה בתל אביב