AI-baserad och inkluderande rekrytering

AI-system används ofta inom rekrytering och har stor potential att effektivisera processer. Men eftersom AI tränas på historisk data, tenderar systemen att förstärka redan existerande fördomar, vilket riskerar att leda till oavsiktlig diskriminering. Det vill vi motverka.

Syftet med projektet, som finansieras av det norska Barn, ungdoms- och familjedirektoratet (BufDir), är att öka medvetenheten och kunskapen hos företag och organisationer om hur man rekryterar personer med funktionsnedsättning och undviker risken för oavsiktlig diskriminering i samband med AI-baserad rekrytering.

Genom att identifiera och belysa riskerna, och genom att arbeta med både arbetsgivare och arbetstagare, kommer vi att ta fram konkreta rekommendationer till arbetsgivare om hur de kan säkerställa att deras rekryteringsprocesser är inkluderande och tillgängliga.

Projektet resulterade i en guide om hur AI-baserade rekryteringsprocesser kan göras inkluderande och en checklista för att öka tillgängligheten i digitaliserad rekrytering. Rapporten är på norska.

Sluttrapport: AI-basert og inkluderende rekruttering – Word, öppnas i ett nytt fönster

Bakgrund

AI-system är sällan tränade i att ta hänsyn till individuella behov, vilket innebär att kandidater med tillgänglighetsbehov kan ha svårt att hantera olika typer av tester. Personer som använder tekniska hjälpmedel kan också missgynnas eftersom systemet kan analysera användningen av tekniken på ett felaktigt sätt.

Många arbetsgivare saknar insikt i hur AI-system fungerar i praktiken och vilka konsekvenser användningen av dem får för personer med funktionsnedsättning. En viktig brist är att arbetsgivare ofta förlitar sig på att AI-system ska vara ”neutrala”, utan att förstå att dessa modeller baseras på historiska data som kan innehålla fördomar. Detta kan leda till att redan existerande mönster av exkludering förstärks, vilket gör det ännu svårare för underrepresenterade grupper att komma in på arbetsmarknaden.

Arbetsgivarna behöver också få en bättre förståelse för vilka hinder AI-system kan skapa i praktiken. Det kan handla om otillgängliga testformat som exkluderar kandidater med syn-, hörsel- eller kognitiva funktionsnedsättningar, eller systemens tolkning av kroppsspråk, tonfall eller språkliga förmågor som leder till felbedömningar. Många inser inte att dessa faktorer kan påverka urvalsprocessens rättvisa, och de har inte kunskapen att identifiera och åtgärda problemen.