Wat veel sollicitanten zich misschien niet realiseren is dat de eerste hindernis bij het solliciteren naar een baan tegenwoordig de omgang met AI is. Kandidaten moeten vaak een invullen kunstmatige intelligentie een systeem dat hun cv’s doorzoekt en in het geheim bepaalt wie doorgaat, om vervolgens hun sollicitaties in een spamlade of map te deponeren, zodat ze nooit gezien worden.
Nu een nieuwe class action-rechtszaak die dinsdag werd ingediend, is de eerste in de VS die AI beschuldigt dienst bedrijven die de Fair Credit Reporting Act schenden. Eightfold AI, een door durfkapitaal ondersteund AI-wervingsplatform, wordt door twee werknemers in Californië aangeklaagd wegens het naar verluidt opstellen van rapporten die worden gebruikt om sollicitanten te screenen zonder hun medeweten, toestemming of enige mogelijkheid om fouten te corrigeren.
“Ik heb op honderden banen gesolliciteerd, maar het voelt alsof een onzichtbare kracht mij ervan weerhoudt eerlijk in aanmerking te worden genomen”, zei Erin Kistler, een van de aanklagers, in een verklaring. persbericht. Volgens de klacht hebben beide eisers gesolliciteerd naar banen bij verschillende bedrijven die Eightfold AI gebruiken, waaronder PayPal en Microsoft.
Van de duizenden banen waarnaar hij het afgelopen jaar heeft gezocht, heeft slechts 0,3% van zijn sollicitaties de follow-up of sollicitatiegesprekken gehaald, zegt Kistler. op de hoogte gebracht New York Times. “Het is triest, en ik weet dat ik niet de enige ben die zich zo voelt.”
Achtvoudig AI-algoritme doorzoek carrièresites, vacaturesites en cv-databases om een dataset te creëren van “1 miljoen functietitels, 1 miljoen vaardigheden en profielen van meer dan 1 miljard mensen die werkzaam zijn in elke baan, beroep, branche en geografie”, aldus de website van het bedrijf – waarvan een groot deel “onnauwkeurig, onvolledig of afgeleid van onbekende externe bronnen” was, beweert de klacht.
Met behulp van AI-modellen die op basis van die gegevens zijn getraind, zeggen de eisers dat Eightfold AI sollicitaties beoordeelde op een schaal van 1 tot 5, op basis van de vaardigheden, ervaring en doelstellingen van de rekruteringsmanager. Deze door AI gegenereerde evaluaties dienen als “consumentenrapporten onder de federale Fair Credit Reporting Act (FCRA) en de Californische wet”, beweert de rechtszaak.
In tegenstelling tot kredietrapporten (een soort consumentenrapport dat door de FCRA wordt gereguleerd om nauwkeurigheid en eerlijkheid te garanderen), krijgen aanvragers geen feedback over hun scores of hoe de beoordelingen zijn gegenereerd, en zijn ze zich er zelden van bewust dat een algoritme deze evalueert. Als de tool een fout maakt, heeft de kandidaat geen mogelijkheid om deze te corrigeren.
Dit creëert een ‘black box’-situatie waarin we kunnen zien wat er in een AI-systeem gaat en wat er uit komt. Maar de redenen tussen de twee blijven verborgen of onbegrijpelijk voor mensen of voor de bedrijven die op deze beoordelingen vertrouwen wanneer ze potentiële werknemers overwegen. Dit gebrek aan duidelijkheid is verontrustend in een tijd waarin steeds meer bedrijven hiermee te maken krijgen vertrouwen op AI voor rekrutering en kandidatenscreening.
Dat zei een woordvoerder van Eightfold AI Snel bedrijf dat “deze karakterisering van ons product feitelijk onjuist is. Eightfold biedt technologie die bedrijven gebruiken om hun talentprocessen te beheren en met kandidaten te communiceren. Eightfold ‘snuffelt’ niet in persoonlijke webgeschiedenis, sociale media en dergelijke om vertrouwelijke documenten te creëren. Het Eightfold-platform werkt op gegevens die door kandidaten aan onze klanten zijn verstrekt of door onze klanten zijn verstrekt.
“We gebruiken informatie zoals vaardigheden, ervaring en opleiding die sollicitanten aan onze klanten willen verstrekken, en gegevens die door onze klanten onder contract zijn geautoriseerd.” Een woordvoerder van het bedrijf wees ook op Eightfold’s blauwdruk voor meer informatie over de specifieke gegevenspraktijken.
Ondertussen eisen de aanklagers niet dat AI uit de rekrutering wordt verwijderd. In plaats daarvan vragen ze AI-bedrijven om aan dezelfde normen te voldoen als andere bedrijven.
“Het feit dat deze bedrijven fraai klinkende AI-technologie gebruiken en worden ondersteund door durfkapitaal betekent niet dat ze boven de wet staan”, zegt David Seligman, uitvoerend directeur van Towards Justice, een van de advocatenkantoren die de eisers vertegenwoordigt in de class action-rechtszaak, in een persbericht. “Dit is niet het Wilde Westen.”
Naarmate het gebruik van AI bij de werving van werknemers echter wijdverbreider wordt, zullen dit soort juridische conflicten waarschijnlijk vaker voorkomen.
