Kunstmatige intelligentie zal helpen bepalen of u uw volgende baan krijgt

Асуудлыг Арилгахын Тулд Манай Хэрэгслийг Туршиж Үзээрэй

AI wordt gebruikt om sollicitanten aan te trekken en om te voorspellen of een kandidaat geschikt is voor een functie. Maar is het aan de taak?

Christina Animashaun / Vox

Dit verhaal maakt deel uit van een groep verhalen genaamd hercoderen

Ontdekken en uitleggen hoe onze digitale wereld verandert - en ons verandert.

Open source-logo

Met ouders die kunstmatige intelligentie gebruiken om toekomstige babysitters te scannen sociale media en een eindeloze reeks artikelen waarin wordt uitgelegd hoe je cv de bots kan verslaan, vraag je je misschien af ​​of een robot je je volgende baan zal aanbieden.

We zijn er nog niet, maar recruiters gebruiken AI steeds vaker om de eerste bezuinigingsronde te maken en om te bepalen of een vacature zelfs voor jou wordt geadverteerd. Deze tools, die vaak zijn getraind op gegevens die zijn verzameld over eerdere of vergelijkbare sollicitanten, kunnen de moeite die recruiters moeten doen om iemand in dienst te nemen, verminderen. Vorig jaar 67 procent van de wervingsmanagers en recruiters ondervraagd van LinkedIn zei dat AI hen tijd bespaart.

Maar critici beweren dat dergelijke systemen vooringenomenheid kunnen introduceren, aansprakelijkheid en transparantie missen en niet gegarandeerd accuraat zijn. Neem bijvoorbeeld het in Utah gevestigde bedrijf HireVue, dat een videoplatform voor sollicitatiegesprekken die kunstmatige intelligentie kan gebruiken om kandidaten te beoordelen en, zo beweert het, hun kans op succes in een functie te voorspellen. Het bedrijf zegt dat het psychologen in dienst heeft om te helpen bij het ontwikkelen van op maat gemaakte beoordelingsalgoritmen die de ideale eigenschappen weerspiegelen voor een bepaalde rol waarvoor een klant (meestal een bedrijf) hoopt in te huren, zoals een verkoopvertegenwoordiger of computeringenieur.

Gezichtsherkenningsdozen en stippen bedekken de foto van een blonde man.

Uitvoer van een kunstmatige-intelligentiesysteem van Google Vision, die gezichtsherkenning uitvoert op een foto van een man in San Ramon, Californië op 22 november 2019.

Smith-collectie/Gado/Getty Images

Dat algoritme wordt vervolgens gebruikt om te analyseren hoe individuele kandidaten vooraf geselecteerde vragen beantwoorden in een opgenomen video-interview, waarbij hun verbale reacties en, in sommige gevallen, gezichtsbewegingen worden beoordeeld. HireVue claimt de tool - die wordt gebruikt door ongeveer 100 klanten, waaronder Hilton en Unilever — is meer voorspellend voor de prestaties op het werk dan menselijke interviewers die dezelfde gestructureerde interviews afnemen.

Maar vorige maand dienden advocaten van het Electronic Privacy Information Center (EPIC), een non-profitorganisatie op het gebied van privacyrechten, een klacht met de Federal Trade Commission, die het bureau ertoe aanzet het bedrijf te onderzoeken op mogelijke vooringenomenheid, onnauwkeurigheid en gebrek aan transparantie. Het beschuldigde HireVue ook van misleidende handelspraktijken omdat het bedrijf beweert dat het geen gezichtsherkenning gebruikt. (EPIC stelt dat de gezichtsanalyse van HireVue kwalificeert als gezichtsherkenning.)

De rechtszaak volgt op de introductie van de Algoritmische verantwoordingswet in het Congres eerder dit jaar, die de FTC de bevoegdheid zou verlenen om regelgeving op te stellen om zogenaamde geautomatiseerde beslissingssystemen te controleren op vooringenomenheid. Ondertussen onderzoekt de Equal Opportunity Employment Commission (EEOC) - het federale agentschap dat zich bezighoudt met discriminatie op het werk - naar verluidt nu ten minste twee gevallen van discriminatie waarbij algoritmen voor baanbeslissingen betrokken zijn. Wet van Bloomberg .

AI kan tijdens het wervings- en wervingsproces opduiken

Recruiters kunnen tijdens het hele wervingsproces gebruikmaken van kunstmatige intelligentie, van adverteren en het aantrekken van potentiële sollicitanten tot het voorspellen van de werkprestaties van kandidaten. Net als bij de rest van de digitale advertenties van de wereld, helpt AI om te bepalen wie welke functiebeschrijvingen [en] wie ziet welke jobmarketing ziet, legt Aaron Rieke uit, een directeur bij opleving , een op DC gebaseerde non-profit onderzoeksgroep voor digitale technologie.

En het zijn niet alleen een paar uitschieters, zoals HireVue, die voorspellende AI gebruiken. Eigen HR-personeel van Vox LinkedIn Recruiter, een populaire tool die kunstmatige intelligentie gebruikt om kandidaten te rangschikken. Evenzo gebruikt het banenplatform ZipRecruiter AI om kandidaten te matchen met banen in de buurt die mogelijk goed passen, op basis van de eigenschappen die de sollicitanten met het platform hebben gedeeld - zoals hun vermelde vaardigheden, ervaring en locatie - en eerdere interacties tussen vergelijkbare kandidaten en potentiële kandidaten. werkgevers. Omdat ik vorig jaar bijvoorbeeld heb gesolliciteerd voor een paar bijlessen in San Francisco op ZipRecruiter, bleef ik e-mails ontvangen van het platform dat soortgelijke banen in het gebied adverteerde.

Word lid van het Open Sourced Reporting Network

Christina Animashaun / Vox

Open Sourced is het jaarlange rapportageproject van Recode by Vox om de wereld van data, persoonlijke privacy, algoritmen en kunstmatige intelligentie te ontrafelen. En we hebben uw hulp nodig. Vul dit formulier in om bij te dragen aan onze rapportage.

Over het algemeen zegt het bedrijf dat zijn AI heeft getraind in meer dan 1,5 miljard interacties tussen werkgevers en kandidaten.

Platforms zoals Arya - die zegt dat het wordt gebruikt door Home Depot en Dyson - gaan zelfs nog verder en gebruiken machine learning om kandidaten te vinden op basis van gegevens die mogelijk beschikbaar zijn in de interne database van een bedrijf, openbare vacaturesites, sociale platforms zoals Facebook en LinkedIn, en andere profielen die beschikbaar zijn op het open web, zoals die op professionele lidmaatschapssites.

Arya beweert dat het zelfs kan voorspellen of een werknemer waarschijnlijk zijn oude baan zal verlaten en een nieuwe baan zal nemen, op basis van de gegevens die het verzamelt over een kandidaat, zoals hun promoties, verplaatsing tussen eerdere functies en sectoren, en de voorspelde fit van een nieuwe functie, evenals gegevens over de rol en de industrie in het algemeen.

Een ander gebruik van AI is het doorzoeken van sollicitatiemateriaal, zoals cv's en beoordelingen, om aan te bevelen met welke kandidaten recruiters als eerste contact moeten opnemen. Somen Mondal, de CEO en mede-oprichter van een dergelijke screening- en matchingservice, Ideal, zegt dat deze systemen meer doen dan automatisch cv's doorzoeken op relevante trefwoorden.

Ideal kan bijvoorbeeld ervaringen met cv's van kandidaten leren begrijpen en vergelijken en de sollicitanten vervolgens rangschikken op basis van hoe goed ze overeenkomen met een vacature. Het is bijna alsof een recruiter een bedrijf googelt [vermeld in een sollicitatie] en erover leert, legt Mondal uit, die zegt dat zijn platform wordt gebruikt om 5 miljoen kandidaten per maand te screenen.

Maar AI opereert niet alleen achter de schermen. Als je ooit op een baan hebt gesolliciteerd en vervolgens betrokken bent geraakt bij een sms-gesprek, bestaat de kans dat je met een wervingsbot praat . Chatbots die natuurlijke taal gebruiken, gemaakt door bedrijven zoals Mya kan helpen bij het automatiseren van het contact opnemen met eerdere sollicitanten over een nieuwe vacature bij een bedrijf, of om erachter te komen of een sollicitant voldoet aan de basisvereisten van een functie, zoals beschikbaarheid, waardoor er geen menselijke telefonische screeningsgesprekken meer nodig zijn. Mya kan bijvoorbeeld contact opnemen via sms en e-mail, maar ook via berichtentoepassingen zoals Facebook en WhatsApp.

Een ander snel groeiend gebruik van kunstmatige intelligentie bij het selecteren van banen zijn talent- en persoonlijkheidsbeoordelingen. Een bedrijf dat voorstander is van deze toepassing is Pymetrics, dat neurowetenschappelijke computerspellen verkoopt die kandidaten kunnen spelen (een zo'n spel omvat op de spatiebalk drukken wanneer een rode cirkel, maar geen groene cirkel, op het scherm knippert).

Deze spellen zijn bedoeld om de cognitieve en persoonlijkheidskenmerken van kandidaten te voorspellen. Pymetrics zegt op zijn website dat het systeem miljoenen datapunten bestudeert die uit de games zijn verzameld om sollicitanten te matchen met banen die als goed worden beoordeeld, op basis van de voorspellende algoritmen van Pymetrics.

Voorstanders zeggen dat AI-systemen sneller zijn en rekening kunnen houden met informatie die menselijke recruiters niet snel kunnen berekenen

Deze tools helpen HR-afdelingen om sneller door grote groepen sollicitanten te gaan en het uiteindelijk goedkoper te maken om iemand in dienst te nemen. Voorstanders zeggen dat ze eerlijker en grondiger kunnen zijn dan overwerkte menselijke recruiters die door honderden cv's en begeleidende brieven bladeren.

Bedrijven komen gewoon niet door de applicaties heen. En als ze dat doen, besteden ze gemiddeld drie seconden, zegt Mondal. Er is een heel probleem met efficiëntie. Hij stelt dat het gebruik van een AI-systeem ervoor kan zorgen dat op zijn minst elk cv wordt gescreend. Eén vacature kan immers duizenden sollicitaties opleveren, met een enorm aandeel van mensen die totaal ongekwalificeerd zijn voor een functie.

Dergelijke tools kunnen automatisch eigenschappen herkennen in het sollicitatiemateriaal van eerdere succesvolle aanwervingen en zoeken naar tekenen van dat kenmerk in materiaal dat door nieuwe sollicitanten wordt ingediend. Mondal zegt dat systemen zoals Ideal tussen de 16 en 25 factoren (of elementen) in elke toepassing kunnen overwegen, erop wijzend dat het, in tegenstelling tot mensen, zoiets als woon-werkafstand in milliseconden kan berekenen.

Je kunt beginnen met het verfijnen van het systeem met niet alleen de mensen die je hebt binnengehaald om te interviewen, of niet alleen de mensen die je hebt aangenomen, maar die het uiteindelijk goed hebben gedaan in de functie. Het is dus een complete lus, legt Mondal uit. Als mens is het erg moeilijk om naar al die gegevens te kijken gedurende de levenscyclus van een sollicitant. En [met AI] gebeurt dit in seconden.

Deze systemen werken doorgaans op een grotere schaal dan die van een menselijke recruiter. HireVue beweert bijvoorbeeld dat de kunstmatige intelligentie die in zijn videoplatform wordt gebruikt, evalueert tienduizenden factoren . Zelfs als bedrijven dezelfde op AI gebaseerde wervingstool gebruiken, gebruiken ze waarschijnlijk een systeem dat is geoptimaliseerd voor hun eigen wervingsvoorkeuren. Bovendien verandert een algoritme waarschijnlijk als het voortdurend wordt getraind op nieuwe gegevens.

Een andere dienst, Humantic, beweert dat het een idee kan krijgen van de psychologie van kandidaten op basis van hun cv's, LinkedIn-profielen en andere op tekst gebaseerde gegevens die een sollicitant zou kunnen indienen, door hun taalgebruik te doorgronden en te bestuderen (het product is geïnspireerd op het gebied van psycholinguïstiek). Het idee is om de noodzaak voor aanvullende persoonlijkheidsbeoordelingen te elimineren. We proberen de informatie die er al is te recyclen, legt Amarpreet Kalkat, medeoprichter van het bedrijf, uit. Hij zegt dat de dienst door meer dan 100 bedrijven wordt gebruikt.

Voorstanders van deze wervingstools beweren ook dat kunstmatige intelligentie kan worden gebruikt om menselijke vooroordelen te vermijden, zoals een onbewuste voorkeur voor afgestudeerden van een bepaalde universiteit, of een vooroordeel tegen vrouwen of een raciale minderheid. (Maar AI versterkt vaak de vooringenomenheid; daarover later meer.) Ze stellen dat AI kan helpen om informatie met betrekking tot de identiteit van een kandidaat, zoals hun naam, leeftijd, geslacht of school, te verwijderen of te abstraheren, en om sollicitanten eerlijker in overweging te nemen.

Het idee dat AI zou kunnen ingrijpen op - of in ieder geval beter doen dan - bevooroordeelde mensen inspireerde Californische wetgevers eerder dit jaar om te introduceren een rekening collega-beleidsmakers aansporen om het gebruik van nieuwe technologie, waaronder kunstmatige intelligentie en op algoritmen gebaseerde technologieën, te onderzoeken om vooringenomenheid en discriminatie bij aanwerving te verminderen.

AI-tools weerspiegelen wie ze bouwt en traint

Deze AI-systemen zijn zo goed als de gegevens waarop ze zijn getraind en de mensen die ze bouwen. Als een machine learning tool voor het screenen van cv's is getraind op historische gegevens, zoals cv's die zijn verzameld van eerder aangenomen kandidaten van een bedrijf, zal het systeem zowel de bewuste als onbewuste voorkeuren erven van de personeelsmanagers die deze selecties hebben gemaakt. Die aanpak kan helpen bij het vinden van geweldige, hooggekwalificeerde kandidaten. Maar Rieke waarschuwt dat die methode ook dwaze patronen kan oppikken die toch echt en prominent aanwezig zijn in een dataset.

Een dergelijk hulpmiddel voor het screenen van cv's identificeerde de naam Jared en het spelen van lacrosse op de middelbare school als de beste voorspellers van werkprestaties, zoals Quartz gemeld .

Als je een voormalige lacrossespeler op de middelbare school bent met de naam Jared, klinkt die specifieke tool misschien niet zo slecht. Maar systemen kunnen ook leren om op andere snode manieren racistisch, seksistisch, leeftijdsgebonden en bevooroordeeld te zijn. Bijvoorbeeld, Reuters meldde vorig jaar dat Amazon een wervingsalgoritme had gemaakt dat onbedoeld neiging om mannelijke sollicitanten te bevoordelen boven vrouwelijke sollicitanten voor bepaalde functies. Het systeem is getraind op een decennium aan cv's die aan het bedrijf zijn voorgelegd en waarvan Reuters meldde dat deze voornamelijk van mannen waren.

Een bezoeker van Intel's Artificial Intelligence (AI) Day loopt op 4 april 2017 langs een uithangbord in Bangalore, India.

Manjunath Kiran/AFP via Getty Images

(Een woordvoerder van Amazon vertelde Recode dat het systeem nooit werd gebruikt en om verschillende redenen werd verlaten, onder meer omdat de algoritmen primitief waren en de modellen willekeurig ongekwalificeerde kandidaten teruggaven.)

Mondal zegt dat er geen manier is om deze systemen te gebruiken zonder regelmatige, uitgebreide audits. Dat komt omdat, zelfs als je een machine learning-tool expliciet instrueert om vrouwen niet te discrimineren, het per ongeluk kan leren om andere proxy's te discrimineren die verband houden met vrouwelijk zijn, zoals afgestudeerd zijn aan een vrouwenuniversiteit.

Je moet een manier hebben om ervoor te zorgen dat je geen mensen kiest die op een specifieke manier zijn gegroepeerd en dat je alleen dat soort mensen aanneemt, zegt hij. Om ervoor te zorgen dat deze systemen geen onrechtvaardige vooroordelen introduceren, moet regelmatig worden gecontroleerd of nieuwe medewerkers niet onevenredig één demografische groep vertegenwoordigen.

Maar er is scepsis dat pogingen om algoritmen en AI te ontkrachten een complete oplossing zijn. En het verslag van Upturn over aandelen- en wervingsalgoritmen merkt op dat [de-biasing] best practices nog moeten worden uitgekristalliseerd [en] [veel] technieken houden een beperkte focus op individuele beschermde kenmerken zoals geslacht of ras, en pakken zelden intersectionele problemen aan, waar meerdere beschermde eigenschappen leiden tot samengestelde ongelijksoortige effecten.

En als een vacature wordt geadverteerd op een online platform zoals Facebook, is het mogelijk dat u een bericht niet eens ziet vanwege vooroordelen die worden geproduceerd door Dat algoritmen van het platform. Er is ook bezorgdheid dat systemen zoals die van HireVue inherent kunnen worden gebouwd om: discrimineren van mensen met een bepaalde handicap .

Critici zijn ook sceptisch over de vraag of deze tools doen wat ze zeggen, vooral wanneer ze brede beweringen doen over de voorspelde psychologie, emotie en geschiktheid van een kandidaat voor een functie. Adina Sterling, hoogleraar organisatiegedrag aan Stanford, merkt ook op dat een algoritme, als het niet zorgvuldig is ontworpen, zijn voorkeuren naar een enkel type kandidaat zou kunnen sturen. Zo'n systeem mist misschien een meer onconventionele sollicitant die toch zou kunnen uitblinken, zoals een acteur die solliciteert naar een baan in de verkoop.

Algoritmen zijn goed voor schaalvoordelen. Ze zijn niet goed voor nuance, legt ze uit, eraan toevoegend dat ze niet gelooft dat bedrijven waakzaam genoeg zijn bij het bestuderen van de AI-tools voor rekrutering die ze gebruiken en controleren waarvoor deze systemen eigenlijk optimaliseren.

Wie regelt deze instrumenten?

Arbeidsadvocaat Mark Girouard zegt dat AI en algoritmische selectiesystemen onder vallen de Uniforme Richtlijnen voor Selectieprocedures voor Werknemers , richtlijnen opgesteld in 1978 door federale agentschappen die de selectienormen en werkgelegenheidsbeoordelingen van bedrijven begeleiden.

Veel van deze AI-tools zeggen zij volg de viervijfde-regel, een statistische vuistregel die is opgesteld volgens die richtlijnen voor de selectie van werknemers. De regel wordt gebruikt om het selectiepercentage van demografische groepen van sollicitanten te vergelijken en te onderzoeken of selectiecriteria een nadelige invloed kunnen hebben gehad op een beschermde minderheidsgroep.

Maar experts hebben dat is genoteerd dat de regel slechts één test is, en Rieke benadrukt dat het slagen voor de test niet betekent dat deze AI-tools doen wat ze beweren. Een systeem dat willekeurig kandidaten koos, zou de test kunnen doorstaan, zegt hij. Girouard legt uit dat zolang een tool geen ongelijksoortige impact heeft op ras of geslacht, er op federaal niveau geen wet is die vereist dat dat dergelijke AI-tools werken zoals bedoeld.

In zijn zaak tegen HireVue stelt EPIC dat het bedrijf niet heeft voldaan aan de vastgestelde AI-transparantierichtlijnen, inclusief kunstmatige-intelligentieprincipes zoals uiteengezet door de Organisatie voor Economische Samenwerking en Ontwikkeling die zijn onderschreven door de VS en 41 andere landen . HireVue vertelde Recode dat het de normen volgt die zijn vastgesteld door de Uniforme Richtlijnen, evenals richtlijnen die zijn opgesteld door andere professionele organisaties. Het bedrijf zegt ook dat zijn systemen zijn getraind op een diverse dataset en dat zijn tools zijn klanten hebben geholpen de diversiteit van hun personeel te vergroten.

Op staatsniveau heeft Illinois enige eerste vooruitgang geboekt bij het promoten van het transparante gebruik van deze tools. In januari is het Wet op video-interviews over kunstmatige intelligentie zal van kracht worden, wat vereist dat werkgevers die op kunstmatige intelligentie gebaseerde videoanalysetechnologie gebruiken, sollicitanten op de hoogte stellen, uitleggen en toestemming krijgen.

Toch zegt Rieke dat maar weinig bedrijven de methodologieën die in hun bias-audits worden gebruikt, in zinvol detail vrijgeven. Hij is niet op de hoogte van een bedrijf dat de resultaten heeft vrijgegeven van een audit uitgevoerd door een derde partij.

Ondertussen hebben senatoren geduwd de EEOC om te onderzoeken of bevooroordeelde algoritmen voor gezichtsanalyse de antidiscriminatiewetten zouden kunnen schenden, en experts hebben eerder waarschuwde het bureau over het risico van algoritmische vooringenomenheid. Maar de EEOC heeft nog geen specifieke richtlijnen vrijgegeven met betrekking tot algoritmische besluitvorming of op kunstmatige intelligentie gebaseerde tools en heeft niet gereageerd op het verzoek van Recode om commentaar.

Rieke belichtte wel één potentieel voordeel voor sollicitanten. Mochten wetgevers bedrijven ooit dwingen om de resultaten van hun AI-selectiesystemen voor personeelsselectie vrij te geven, dan zouden sollicitanten nieuw inzicht kunnen krijgen in hoe ze hun sollicitaties kunnen verbeteren. Maar of AI ooit de laatste beslissing zal nemen, zegt Sterling dat het nog ver weg is.

Aanwerven is een uiterst sociaal proces, legt ze uit. Bedrijven willen het niet uit handen geven aan tech.


Open source wordt mogelijk gemaakt door Omidyar Network. Alle open source content is redactioneel onafhankelijk en geproduceerd door onze journalisten.