מחקר מקיף בארה"ב: אלגוריתמים מבוססי AI לגיוס עובדים מפלים מועמדים שחורים

המחקר העצמאי המקיף ביותר שנערך עד כה על אלגוריתמים מבוססי בינה מלאכותית בתחום הגיוס מצא פערים מוטי גזענות משמעותיים באופן שבו מערכות AI מסננות מועמדים לעבודה. לפי הממצאים, יותר מאחד מכל ארבעה מועמדים שחורים הגיש מועמדות למשרות שבהן האלגוריתם הפיק תוצאות העלולות לעורר חשד להפליה לפי הסטנדרטים הפדרליים בארצות הברית.

המחקר, שכותרתו "Algorithmic Monocultures in Hiring" נכתב על ידי חוקרים מאוניברסיטת סטנפורד, אוניברסיטת צ'פמן ואוניברסיטת נורת'איסטרן.

החוקרים ניתחו יותר מארבעה מיליון בקשות עבודה, שהוגשו על ידי כשלושה מיליון מועמדים ב־156 חברות שונות — רובן תאגידים עם הכנסות שנתיות של יותר מחמישה מיליארד דולר. כל המועמדים סוננו באמצעות אלגוריתמים של חברת Pymetrics, פלטפורמת גיוס מבוססת AI.

“מצאנו פערים מוטי גזענות מובהקים בתוצאות המועמדים”, כתבו החוקרים.

חברת Harver, הבעלים של Pymetrics מאז 2022, לא הגיבה לבקשת תגובה.

איך פועל האלגוריתם — ואיפה מתחילה הבעיה

במקום לנתח קורות חיים, מערכת Pymetrics בוחנת מועמדים באמצעות סדרת משחקים מקוונים, שמטרתם למדוד תכונות קוגניטיביות והתנהגותיות כמו סובלנות לסיכון, מהירות עיבוד מידע ונטייה לאלטרואיזם. החברה שיווקה במשך שנים את השיטה כאובייקטיבית והוגנת יותר ממיון מסורתי של קורות חיים, ואף טענה בעבר כי לא נמצאו פערים ברמה שמעלה חשש משפטי.

אלא שהמחקר החדש טוען, כי הבעיה אינה בחישובים עצמם — אלא באופן שבו נמדדה ההטיה. בעוד Pymetrics בחנה את כלל המועמדים וכלל המשרות יחד כמקשה אחת, החוקרים בחרו לבדוק כל אחת מ־1,746 המשרות בנפרד — בדיוק כפי שנדרש לפי חוקי האפליה בתעסוקה בארה"ב, והתוצאות היו שונות לחלוטין: ב־10.62% מהמשרות נמצאה השפעה שלילית על מועמדים שחורים, 30% מהמועמדים השחורים הגישו מועמדות לפחות למשרה אחת שבה נמצאה אפליה פוטנציאלית, 25.87% מכלל הבקשות שהגישו מועמדים שחורים — כמעט 40 אלף פניות — היו למשרות שבהן האלגוריתם יצר תוצאה המוגדרת כמפלה לפי ההנחיות הפדרליות.

גם מועמדים אסייתים נפגעו: כ־14.74% מהבקשות שלהם הוגשו למשרות שבהן נמצאו תוצאות מפלות.

החוקרים טוענים, כי איחוד הנתונים ברמת כלל התעשייה "מסתיר את ההשפעה השלילית בכל משרה בנפרד", וכי מדובר בפרשנות "שגויה או לפחות חלקית" של ההנחיות הפדרליות.

"רשימה שחורה אלגוריתמית"

אחד הממצאים המדאיגים ביותר במחקר הוא מה שהחוקרים מכנים "נידוי אלגוריתמי" (Algorithmic Blackball) – מצב שבו דחייה על ידי חברה אחת מנבאת במידה גבוהה דחייה גם בחברות אחרות. הסיבה לכך פשוטה: ציוני המועמדים במבחני Pymetrics נשמרים במערכת עד 330 ימים ונעשה בהם שימוש חוזר בין חברות שונות, המשתמשות באותה פלטפורמה. בפועל, מועמד שנבחן פעם אחת עשוי לקבל שוב ושוב אותה הערכה מול מעסיקים שונים – מבלי לדעת זאת כלל.

המחקר מצא, כי בקרב מועמדים שהגישו מועמדות ל־10 משרות שונות שסוננו על ידי Pymetrics, כ־4% נדחו מכל המשרות — שיעור גבוה משמעותית ממה שהיה צפוי אילו כל חברה הייתה מקבלת החלטות עצמאיות. לדברי החוקרים, מדובר בתופעה שעלולה ליצור "נעילה אלגוריתמית" של מועמדים מחוץ לשוק העבודה.

רגולטורים כבר מתחילים להגיב

הממצאים מגיעים בזמן שרשויות בארה״ב ובאירופה מנסות להסדיר את השימוש ב־AI בתהליכי גיוס.

ניו יורק הייתה העיר הראשונה שחוקקה חוק ייעודי בתחום ב־2021, אך החוקרים טוענים כי ההנחיות הקיימות דווקא מעודדות איחוד נתונים — אותה שיטה שלטענתם מסתירה אפליה.

באירופה, חוק ה־AI האירופי (EU AI Act) כבר מגדיר מערכות גיוס מבוססות AI כ"מערכות בסיכון גבוה", והוראות הציות צפויות להיכנס לתוקף ב־2 באוגוסט 2026.

החוקרים ממליצים על ארבעה צעדים מרכזיים: בדיקת אפליה ברמת כל משרה בנפרד, פיקוח רחב יותר על ספקי אלגוריתמים הפועלים מול מספר מעסיקים, מעקב אחר הסיכונים הנובעים מריכוזיות בשוק, יצירת מסלול חוקי, שיאפשר לחוקרים עצמאיים לקבל גישה לנתוני אלגוריתמים לצורכי ביקורת. לדבריהם, ללא גישה למחקר עצמאי — הפערים שנחשפו במחקר אשר השפיעו על עשרות אלפי מועמדים בחברות הגדולות בארה"ב, ייתכן שלעולם לא היו מתגלים.