In de Verenigde Staten heeft een federale rechter recent het licht op groen gezet voor een collectieve rechtszaak tegen HR-technologiebedrijf Workday. Centraal in de zaak staat de beschuldiging dat het algoritme van Workday sollicitanten systematisch zou benadelen op basis van leeftijd, ras en handicap. De zaak belooft een belangrijk precedent te worden in het steeds gevoeligere debat rond kunstmatige intelligentie in wervingsprocessen.
AI-discriminatie
Derek Mobley, een ervaren professional in financiën en IT, diende vorig jaar de aanklacht in. Hij zegt dat hij in zeven jaar tijd meer dan honderd keer werd afgewezen via het Workday-platform, vaak binnen een uur. Volgens hem wijst dat op volledig geautomatiseerde beslissingen zonder menselijke beoordeling.
Algoritmische logica
Mobley, inmiddels gesteund door vier andere sollicitanten boven de veertig, beweert dat het systeem van Workday op basis van algoritmische logica systematisch kandidaten uit beschermde groepen achterstelt. Hij eist, samen met de andere eisers, schadevergoeding en een aanpassing van Workday’s werkwijze en technologie.
Beslissingen
Workday bedient wereldwijd meer dan 11.000 organisaties met software voor werving en personeelsbeheer. Het bedrijf profileert zich met tools zoals ‘HiredScore AI’, dat naar eigen zeggen ‘verantwoorde AI’ inzet om het selectieproces efficiënter te maken. In een reactie noemt Workday de beslissing van de rechter ‘louter procedureel’ en gebaseerd op aantijgingen, niet op harde feiten. “Onze technologie neemt geen beslissingen namens klanten”, aldus de woordvoerder.
Onbedoelde discriminatie
Deskundigen blijven echter waarschuwen voor de risico’s van onbedoelde discriminatie door AI. Wervingsalgoritmen worden vaak getraind op historische personeelsdata, wat bestaande vooroordelen kan versterken. Volgens de eisers herkent het Workday-systeem patronen in het aannamebeleid van werkgevers en sluit het bepaalde profielen daardoor sneller uit.
Hoewel de rechtszaak zich nog in een vroeg stadium bevindt, kan ze verstrekkende gevolgen hebben voor bedrijven die AI inzetten bij personeelsselectie.