AI-baserad och inkluderande rekrytering
AI-system används ofta inom rekrytering och har stor potential att effektivisera processer. Men eftersom AI tränas på historisk data, tenderar systemen att förstärka redan existerande fördomar, vilket riskerar att leda till oavsiktlig diskriminering. Det vill vi motverka.
Syftet med projektet, som finansieras av det norska Barn, ungdoms- och familjedirektoratet (BufDir), är att öka medvetenheten och kunskapen hos företag och organisationer om hur man rekryterar personer med funktionsnedsättning och undviker risken för oavsiktlig diskriminering i samband med AI-baserad rekrytering.
Genom att identifiera och belysa riskerna, och genom att arbeta med både arbetsgivare och arbetstagare, kommer vi att ta fram konkreta rekommendationer till arbetsgivare om hur de kan säkerställa att deras rekryteringsprocesser är inkluderande och tillgängliga.
Projektet ska resultera i en guide om hur AI-baserade rekryteringsprocesser kan göras inkluderande och en checklista för att öka tillgängligheten i digitaliserad rekrytering.
Det här är ett superviktigt område att jobba med, vi måste öka kunskapen så att det inte slår fel och exkluderar människor, säger Malin Hammarberg, Senior UX-designer på Stiftelsen Funka. Jag ser fram emot att sprida kunskap om både problemen och hur vi kan lösa dem.
Bakgrund
AI-system är sällan tränade i att ta hänsyn till individuella behov, vilket innebär att kandidater med tillgänglighetsbehov kan ha svårt att hantera olika typer av tester. Personer som använder tekniska hjälpmedel kan också missgynnas eftersom systemet kan analysera användningen av tekniken på ett felaktigt sätt.
Många arbetsgivare saknar insikt i hur AI-system fungerar i praktiken och vilka konsekvenser användningen av dem får för personer med funktionsnedsättning. En viktig brist är att arbetsgivare ofta förlitar sig på att AI-system ska vara ”neutrala”, utan att förstå att dessa modeller baseras på historiska data som kan innehålla fördomar. Detta kan leda till att redan existerande mönster av exkludering förstärks, vilket gör det ännu svårare för underrepresenterade grupper att komma in på arbetsmarknaden.
Arbetsgivarna behöver också få en bättre förståelse för vilka hinder AI-system kan skapa i praktiken. Det kan handla om otillgängliga testformat som exkluderar kandidater med syn-, hörsel- eller kognitiva funktionsnedsättningar, eller systemens tolkning av kroppsspråk, tonfall eller språkliga förmågor som leder till felbedömningar. Många inser inte att dessa faktorer kan påverka urvalsprocessens rättvisa, och de har inte kunskapen att identifiera och åtgärda problemen.
Kontakt
Sara Kjellstrand
sara.kjellstrand@stiftelsenfunka.org