קו תחתון
כלים לגיוס משרות המתיימרים להשתמש בבינה מלאכותית כדי להימנע מהטיות מגדריות וגזעיות עשויים שלא לשפר את הגיוון בגיוס עובדים, ויכולים למעשה להנציח את הדעות הקדומות הללו, טענו חוקרים מאוניברסיטת קיימברידג' ביום ראשון, כשהם ליהקו את התוכניות - שגררו ביקורת בעבר - כדרך להשתמש בטכנולוגיה כדי להציע פתרון מהיר לבעיה עמוקה יותר.
מוצגת מערכת זיהוי הפנים המופעלת על ידי AI של Google Vision.
גטי אימג'ס
עובדות מפתח
במאמר שפורסם על ידי פילוסופיה וטכנולוגיה, חוקרים בדקו טענות של מספר חברות המציעות כלי גיוס מופעלי בינה מלאכותית, שרבות מהן טוענות לבטל הטיות ולקדם גיוון על ידי הסתרת השמות, המינים ומזהים אחרים של מועמדים, וחלקם לדרג מועמדים בהתבסס על סריקות קורות חיים, הערכות מקוונות וניתוח הדיבור והבעות הפנים של המועמדים.
החוקרים - שני פרופסורים במרכז לחקר מגדר של אוניברסיטת קיימברידג' - טענו כי הכלים הללו עשויים למעשה לקדם אחידות בגיוס עובדים, משום שהם משחזרים הטיות תרבותיות של "המועמד האידיאלי", שהיה היסטורית גברים לבנים או אירופאים.
ייתכן שהכלים גם לא ישפרו את הגיוון מכיוון שהם מבוססים על נתוני החברה בעבר ובכך עשויים לקדם מועמדים הדומים ביותר לעובדים הנוכחיים.
יש "אחריות מועטה לאופן שבו המוצרים הללו נבנים או נבדקים", אמרה אלינור דראג', מחברת מחקר וחוקרת ממרכז אוניברסיטת קיימברידג' ללימודי מגדר, בהצהרה, והוסיפה שהטכנולוגיה עלולה לשמש "מסוכנת" מקור ל"אינפורמציה שגויה על האופן שבו ניתן 'להטות' את הגיוס ולהפוך אותו להוגן יותר".
ציטוט חשוב
"על ידי הטענה שניתן להסיר גזענות, סקסיזם וצורות אחרות של אפליה מתהליך הגיוס באמצעות בינה מלאכותית, החברות הללו מצמצמות גזע ומגדר לנקודות מידע חסרות משמעות, ולא מערכות כוח שמעצבות את האופן שבו אנו נעים בעולם, "אמר דרייג' בהצהרה.
משיק
אמזון הודיעה על כך ב-2018 להפסיק שימוש בכלי גיוס בינה מלאכותית לבדיקת קורות חיים של מועמדים לעבודה לאחר שמצא שהמערכת מפלה באופן חריף נשים. הסיבה לכך היא שדגמי המחשבים שעליהם הסתמכה פותחו על סמך קורות חיים שהוגשו לחברה במהלך 10 השנים האחרונות, שהגיעו לרוב ממועמדים גברים.
רקע מפתח
ארגונים פנו יותר ויותר ל-AI כדי לסייע בניהול תהליכי גיוס לעבודה. באחד סקר 2020 מבין יותר מ-300 מובילי משאבי אנוש שצוטטו על ידי מחברי המאמר של יום ראשון, חברת הייעוץ גרטנר מצאה כי 86% מהמעסיקים משתמשים בטכנולוגיה וירטואלית בשיטות העבודה שלהם, מגמה שהואצה מאז מגיפת Covid-19 אילצה רבים לעבור עבודה מקוונת. בעוד שחברות מסוימות טענו שבינה מלאכותית יכולה להציע תהליך גיוס חסכוני יותר בעלות ובזמן, חלקן מומחים יש מצא למערכות יש נטייה לקדם - במקום לחסל - גיוס מוטות גזעני ומגדר על ידי שכפול דעות קדומות קיימות מהעולם האמיתי. יש כמה מחוקקים בארה"ב מכוון להתמודד עם הטיות במערכות בינה מלאכותית, שכן הטכנולוגיה ממשיכה להתפתח במהירות ויש מעט חוקים להסדיר אותה. הבית הלבן פורסם השבוע "מתווה למגילת זכויות בינה מלאכותית", הטוען שאלגוריתמים המשמשים בגיוס עובדים נמצאו כ"משקפים ומשחזרים אי-שוויון לא רצויים קיימים" או מטמיעים "הטיה ואפליה" חדשים. התוכנית - שאינה מחייבת מבחינה משפטית או מדיניות ממשלתית רשמית - קוראת לחברות להבטיח ש-AI אינו מפלה או מפר את פרטיות הנתונים, ולגרום למשתמשים להיות מודעים מתי הטכנולוגיה נמצאת בשימוש.
מה לצפות
ברשימת המלצות, מחברי יום ראשון פילוסופיה וטכנולוגיה המאמר הציע שחברות המפתחות טכנולוגיות בינה מלאכותיות מתמקדות באי-שוויון רחב יותר ושיטתי במקום "מקרים פרטניים של הטיה". לדוגמה, הם מציעים למפתחי תוכנה לבחון את הקטגוריות המשמשות למיון, עיבוד וסיווג מועמדים וכיצד קטגוריות אלו עשויות לקדם אפליה על ידי הסתמכות על הנחות מסוימות לגבי מגדר וגזע. חוקרים גם טוענים שאנשי מקצוע בתחום משאבי אנוש צריכים לנסות להבין כיצד פועלים כלי גיוס בינה מלאכותית ומהן חלק מהמגבלות הפוטנציאליות שלהם.
עובדה מפתיעה
האיחוד האירופי סיווג תוכנות גיוס וכלים להערכת ביצועים המופעלים על ידי בינה מלאכותית כ"סיכון גבוה" בחדש שלו טיוטה מסגרת חוקית בנושא בינה מלאכותית, כלומר הכלים יהיו נתונים לבדיקה נוספת ויצטרכו לעמוד בדרישות תאימות מסוימות.
לקריאה נוספת
DC רוצה להוביל את המאבק נגד הטיית AI (אקסיוס)
מקור: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/