האם הבינה המלאכותית גורמת לאפליה?

הבינה המלאכותית הג'נרטיבית, או היוצרת (Generative AI), הגיחה לחיינו במהירות ובהיקף רחב, פלשה לכל תחום ומשפיעה כמעט על כל אדם בעולם המערבי. כדי להמשיג, מדובר בכלים כמו ChatGPT, בארד של גוגל ומיד ג'רני, אבל ממש לא רק בהם, אלא גם בכלים שמאפשרים לנו לקבל החלטות. כך או כך, התהליכים הסוציולוגיים הכרוכים בהגחתה של הבינה המלאכותית הג'נרטיבית לא מצליחים להדביק את קצב התפתחותה וחדירתה ליום יום של כל אחת ואחד מאיתנו. הפער הזה מייצר הרבה חששות ומוציא פחדים קמאיים הטבועים בנו, בני האנוש.

בשלב הזה, אי הוודאות לגבי אופייה המדויק של השפעת הבינה המלאכותית הג'נרטיבית על האנושות רבה. ברם, אין ספק שהשפעתה תהיה מרחיקת לכת. אי הוודאות הזו מטלטלת כמעט כל ענף ותחום. אנחנו, בני האדם, חשים בנוח בסביבה יציבה. אי היציבות המסתמנת בעקבות חדירתם של הטכנולוגיה והמודלים הג'נרטיביים מערערת באופן משמעותי ורחב היקף את היציבות שהורגלנו אליה. כתולדה של ערעור זה, אנחנו נוטים לשים דגש על הפוטנציאל השלילי הגלום "בדבר החדש והבלתי מוכר הזה", ופחות מתייחסים לתרומתו הפוטנציאלית, שהינה מעבר לגבולות הדמיון.

אחד הטיעונים השכיחים נגד הבינה המלאכותית בכלל, וזו הג'נרטיבית בפרט, הוא החשש מאפליה. הבינה המלאכותית מוטמעת ברוב מערכות קבלת ההחלטות שבהן אנחנו משתמשים בחיי היום יום – בין אם אנחנו יודעים את זה ובין אם לאו. המדובר במערכות לניהול תורים למענה קולי או עדיפות לטיפול רפואי, עבור דרך אישור קבלת משכנתה בבנק, התאמת הפרסומת שתקפוץ במהלך הגלישה באינטרנט, תמחור מוצר או שירות ברכישה אונליין, מתן דיאגנוזה רפואית או המלצה לטיפול בריאותי ועוד ועוד.

אנחנו סלחניים כלפי הטיות אנושיות; האם גם במקרה של הטיות AI?

מאחורי הבינה המלאכותית עומדים מודלים סטטיסטיים רחבי היקף, שמייצרים תובנות ומסקנות מתוך נתוני העתק שהוזנו לתוכם. כאשר טבועה הטיה בנתונים, יש סיכוי שהתובנות שיילמדו על ידי המודל תהיינה מוטות. אך האם בעולם שבו חיינו טרום הפצעתה של הבינה המלאכותית לא היו הטיות?

התשובה היא: היו גם היו. אלא שאנחנו סלחניים כלפיהן כי הן "הטיות אנושיות" שכולנו סובלים מהן. פסיכולוגים רבים, וגם זוכה פרס נובל, איש מדעי הכלכלה, פרופ' דניאל כהנמן, הצביעו על קיומן של הטיות אנושיות בקבלת החלטות במצבי אי ודאות. לא רק שהטיות אלה הפכו למקובלות, אלא שהן אף הוטמעו בתוך מודלים כלכליים והתנהגותיים שעל פיהם מקבלים החלטות הרות גורל בתחומי הפיננסים, הביטחון, החינוך ועוד.

בתוך תקופה קצרה נוכל ליהנות מיתרונותיה של הבינה המלאכותית, תוך הפחתה משמעותית בסכנת ההטיה או האפליה החבויה בה כיום

זאת ועוד, אנחנו סובלניים כלפי הטיות סטטיסטיות כל עוד לא עומדת מאחוריהן "הבינה המלאכותית" הדמונית. למשל, תנאי פוליסת הביטוח שאנחנו רוכשים מחושבים לפי מודלים אקטואריים שמביאים בחשבון סטטיסטיקה של ההמונים. דוגמה נוספת היא המינון של תרופות. כאשר אנחנו נוטלים כדור נגד כאב ראש – כמות החומר הפעיל הנמצאת בו חושבה באופן סטטיסטי על אלפי נסיינים בעלי מין, גיל, משקל ופרמטרים נוספים שבחלקם אולי דומים לשלנו, אבל ברובם – שונים מהם. ובכל זאת, אנחנו לא חשים שיש עיוות, הטיה או אפליה כלשהי באופן שבו חושבו תנאי הפוליסה או מינון התרופה.

בהקשר הזה, האופן שבו פועלת הבינה המלאכותית הוא אחד היתרונות הגדולים שלה, בכך שהיא מאפשרת התאמה אישית לכל אחד ואחת. זאת, הן בהתאמת תמחור ותנאי רכישה של מוצרים ושירותים שונים, הן בהתאמה תרופתית של מינון וחומרים פעילים, הן בהוראה פרטנית מותאמת אישית של נושאים חדשים והן בשלל דברים אחרים.

איך אפשר למנוע את הטיות הבינה המלאכותית?

הבינה המלאכותית פועלת בהיקפים רחבים ביותר, ולכן גם יתרונותיה וגם ליקוייה מופצים במהירות לכל עבר. כאמור, היא מבוססת על מודלים סטטיסטיים עצומים ולכן, ניתן יהיה לחלץ את הליקויים הללו באמצעות שיטות סטטיסטיות שונות. קל יותר לחלץ הטיה מתוך מודל סטטיסטי מובנה מאשר ממוחו של רופא, שופט, כלכלן או כל בעל השפעה אחר. או, בעצם, כל בן אנוש.

עלינו לזכור שהבינה המלאכותית הג'נרטיבית הגיחה לחיינו בעוצמה שאליה אנחנו חשופים רק לפני פחות משנה. אם תשאלו את האדם הממוצע שיודע כיום מה זה ChatGPT – הוא לא שמע על הכלי הזה לפני שנה. טובי המוחות באקדמיה ובתעשייה עובדים כיום על שיפורה של אותה בינה מלאכותית ג'נרטיבית, יכולת זיהוי ותיקון הטיות בה, רגולציה לתקינה של מהימנות ה-AI ועל שיפור יכולותיה לתת הסבר לתוצאות המופקות ממנה. קצב ההתפתחות של כלל הצירים הללו עצום, ובתוך תקופה קצרה נוכל להנות מיתרונותיה של הבינה המלאכותית, תוך הפחתה משמעותית בסכנת ההטיה או האפליה החבויה בה כיום.

הכותבת היא מרצה בכירה בבית הספר למדעי הנתונים ובינה מלאכותית באפקה – המכללה האקדמית להנדסה בתל אביב.