De interviewer voor je droombaan kan binnenkort een robot zijn
Ik solliciteer naar een baan. Maar het aanvraagproces is één heb ik nog nooit meegemaakt.
Ik word niet geïnterviewd door een persoon. In plaats daarvan zit ik thuis naar mijn laptop te staren. Mijn antwoorden worden op video opgenomen. En of ik erin slaag om deze baan te krijgen, wordt niet bepaald door een mens, maar door een machine.
welke aflevering is ruby rose in oitnb
Dit klinkt misschien als een aflevering van Charlie Brooker'sZwarte spiegel, maar de verwachting is dat dit soort virtuele interviews binnen enkele jaren de norm zullen zijn. Algoritmische 'pre-hire assessments', zoals ze worden genoemd, zijn al een miljardenbusiness en zullen waarschijnlijk een vast onderdeel worden van zakelijke beslissingen over het aannemen van personeel. HuurVue — het bedrijf dat mijn interview leidt — is een van de leiders in het veld. Het hoofdkantoor is gevestigd langs de oevers van de rivier de Jordaan in Utah, en haar klanten omvatten zevenhonderd blue-chip bedrijven, van Hilton Hotels tot J.P. Morgan tot Unilever. Ik ben slechts een van de meer dan 10 miljoen potentiële werknemers die HireVue's algoritmen al hebben beoordeeld op basis van soortgelijke video-interviews.
Dit is hoe hun kunstmatige-intelligentietechnologie werkte op het moment dat ik mijn interview afnam: het inzetten van de volgende grens van AI - 'emotionele AI' - het 'leest' sollicitanten door hun lexicon, toon, cadans en gezichtsuitdrukkingen te analyseren, rekening houdend met maar liefst vijfentwintigduizend afzonderlijke datapunten. De resultaten werden vervolgens vergeleken met die van een 'ideale' kandidaat voor de rol.
Het feit dat ik mijn bovenlichaam op het scherm tijdens het hele interview stevig binnen een gestippeld silhouet moest houden, betekende dat ik me niet alleen een moordslachtoffer op een plaats delict voelde, maar dat ik niet mijn authentieke zelf kon zijn.
In de praktijk betekent dit dat elke ademhaling die ik nam, elke pauze, hoe hoog ik mijn wenkbrauwen optrek, hoe strak ik mijn kaken op elkaar klemde, hoe breed mijn glimlach, mijn woordkeuze, hoe hard ik sprak, mijn houding, hoe vaak Ik zei eh of eh, mijn accent, zelfs mijn gebruik van voorzetsels werden allemaal opgenomen en ingevoerd in een black box-algoritme om te bepalen of ik al dan niet geschikt was voor Vodafone's afstudeerstageprogramma. Of liever gezegd, niet ik, maar 'Irina Wertz', mijn undercover pseudoniem.
Algoritmische pre-hire assessments zijn onmiskenbaar een kosteneffectieve oplossing voor wervingsbehoeften op grote schaal. Aangezien grote bedrijven elk jaar meer dan honderdduizend sollicitanten ontvangen, bespaart het gebruik van deze technologie waarschijnlijk al duizenden manuren. Bovendien beweert HireVue dat de retentiepercentages en zelfs de werkprestaties onder werknemers die door hun systeem zijn geselecteerd, aanzienlijk hoger zijn dan gemiddeld. Dit kan zo zijn, maar mijn ervaring van het proces voelde meer dan een beetje vervreemdend.
Toen ik de vragen beantwoordde die ik mezelf in de hoek van het scherm zag doen, voelde de ervaring bijzonder performatief, waarbij ik de verontrustende rol van zowel acteur als publiek speelde.
Het feit dat ik mijn bovenlichaam op het scherm tijdens het hele interview stevig binnen een gestippeld silhouet moest houden, betekende dat ik me niet alleen een moordslachtoffer op een plaats delict voelde, maar dat ik niet mijn authentieke zelf kon zijn. Een zekere mate van onechtheid is natuurlijk onvermijdelijk in alle sollicitatiegesprekken, aangezien men probeert een zo goed mogelijke versie van zichzelf te presenteren, maar dit was anders. Ik ben een expressief persoon - ik beweeg als ik spreek, ik gebaar heb. Vast in mijn silhouet, dat zou ik niet eens kunnen. En omdat ik mezelf tijdens het beantwoorden van de vragen in de hoek van het scherm zag, voelde de ervaring bijzonder performatief, waarbij ik de verontrustende rol van zowel acteur als publiek speelde.
Rechtsboven in het scherm stond een aftelklok die bijdroeg aan de stressvolle aard van de ervaring. Ik kreeg drie minuten de tijd om elke vraag te beantwoorden, maar blind vliegen zonder alle gebruikelijke signalen die een menselijke interviewer krijgt - gezichtsuitdrukkingen, hoofdbewegingen, gebaren, glimlachen, fronsen - ik wist niet zeker of ik te lang bezig was, of dat er van mij werd verwacht dat ik de hele tijd zou opgebruiken. En niet alleen had ik niemand om te vragen, maar zonder glimlach, zonder ogen die naar mijn cv schoten, geen lichaamstaal om te analyseren, ik kon niet zeggen of mijn 'interviewer' genoeg had gehoord van een bepaald antwoord, leuk vond wat Ik zei, begreep mijn grappen, leefde mee in mijn verhalen, of had misschien net besloten dat ik niet het soort kandidaat was waarnaar ze op zoek waren.
Ontdaan van mijn volledige, complexe menselijkheid, moest ik indruk maken op een machine waarvan ik de algoritmische werking van de black-box nooit zou kunnen kennen. Op welke van mijn 'gegevenspunten' was het gericht en op welk gewicht was het het zwaarst?
Dus naarmate het interview vorderde, voelde ik me steeds meer op drift raken, niet in staat om erachter te komen of ik door moest gaan, langzamer moest gaan, van versnelling moest veranderen, van koers moest veranderen, mijn stijl moest veranderen, meer moest glimlachen, minder moest glimlachen. Vermoedelijk de ideale kandidaat voor een afstudeerstage human resources bij Vodafone lacht, maar hoe vaak en voor hoe lang?
Voor alle duidelijkheid, het was niet zo dat ik in interactie was met een machine op zich waardoor ik me zo vervreemd voelde. Het was eerder de machtsongelijkheid tussen vrouw en machine die zo verontrustend was. Ontdaan van mijn volledige, complexe menselijkheid, moest ik indruk maken op een machine waarvan ik de algoritmische werking van de black-box nooit zou kunnen kennen. Op welke van mijn 'gegevenspunten' was het gericht en op welk gewicht was het het zwaarst? Mijn stem, mijn intonatie, mijn lichaamstaal of de inhoud van wat ik zei? Welke formule gebruikte het om mij te beoordelen? En was het eerlijk?
waar was de ondiepe film gefilmd
Het algoritme zal zijn getraind op videobeelden van eerdere of bestaande 'succesvolle aanwervingen', wat betekent dat alle historische vooroordelen (bewust of onbewust) bij het inhuren waarschijnlijk worden gerepliceerd.
Normaal denken we niet aan eenzaamheid in de context van hoe een interactie met een machine ons laat voelen. Toen ik het had over het isolement van een contactloos bestaan, lag mijn nadruk op het gebrek aan persoonlijk contact en de impact ervan. Maar als eenzaamheid ook kan worden veroorzaakt door het gevoel oneerlijk behandeld en machteloos te zijn door de staat en door politici, dan kan het ook voortkomen uit een dergelijke behandeling door Big Business en de nieuwe technologieën die het inzet.
waar werd aquamarijn gefilmd
Want wanneer een werkgever onze professionele toekomst in de handen van een algoritme legt, is het moeilijk te geloven dat we eerlijk zullen worden behandeld of een zinvol beroep zullen doen. Voor een deel komt dit omdat het zeer betwistbaar is of toekomstige prestaties daadwerkelijk kunnen worden bepaald door kenmerken zoals gezichtsuitdrukkingen en stemgeluid. Inderdaad, in november 2019 de Elektronisch privacy-informatiecentrum — een gerenommeerde Amerikaanse onderzoeksorganisatie van algemeen belang — diende een formele klacht in tegen HireVue met de Amerikaanse Federal Trade Commission, daarbij verwijzend naar HireVue's 'gebruik van geheime, onbewezen algoritmen om het 'cognitieve vermogen', 'psychologische eigenschappen', 'emotionele intelligentie' en 'sociale vaardigheden' van sollicitanten te beoordelen.' Interessant is dat het bedrijf sinds begin 2020 is gestopt met het gebruik van gezichtsanalyse, met de conclusie dat visuele analyse minder correleert met werkprestaties dan andere elementen van algoritmische beoordeling. Andere bedrijven blijven dit echter doen.
De kunstmatige intelligentie CV-sorteerder had zichzelf effectief geleerd dat applicaties die de namen bevatten van alleen vrouwencolleges of zelfs het woord vrouwen (bijvoorbeeld 'aanvoerder van het damesschaakteam') ongekwalificeerd waren.
Er is ook de kwestie van vooringenomenheid. Want hoewel HireVue destijds beweerde dat zijn methodologie menselijke vooroordelen wegneemt, is dit waarschijnlijk niet het geval. Dit komt omdat algoritmen worden getraind op videobeelden van eerdere of bestaande 'succesvolle aanwervingen', wat betekent dat eventuele historische vooroordelen (bewust of onbewust) bij het inhuren waarschijnlijk worden gerepliceerd.
Dit is in feite precies wat er gebeurde bij Amazon in 2018, toen werd onthuld dat de kunstmatige intelligentie CV-sorteerder van het bedrijf het routinematig afwijzen van cv's van vrouwen , ondanks dat het geslacht van de sollicitanten nooit is 'verteld'. Waarom? Het had zichzelf in feite geleerd dat aanvragen die de namen van alle vrouwencolleges of zelfs het woord vrouwen bevatten (bijvoorbeeld 'aanvoerder van het damesschaakteam') ongekwalificeerd waren. De reden hiervoor was dat het was getraind om af te leiden of sollicitanten 'gekwalificeerd' of 'ongekwalificeerd' waren op basis van tien jaar aanwervingsgegevens in een branche waar mannen de overgrote meerderheid van sollicitanten en aanwervingen uitmaken. Onnodig te zeggen dat er in die groep maar heel weinig aanvoerders van damesschaakteams waren.
Het aanpassen van een algoritme om vooroordelen die zo duidelijk zijn als geslacht aan te pakken, is relatief eenvoudig; inderdaad, de ingenieurs van Amazon waren gemakkelijk in staat om het model te bewerken om te stoppen met het gebruik van termen als vrouwen als reden voor diskwalificatie. Maar de uitdaging met machine learning is dat zelfs als rekening wordt gehouden met de meest voor de hand liggende bronnen van vooringenomenheid (en ongetwijfeld in veel van dergelijke systemen), hoe zit het met minder voor de hand liggende, neutraal ogende datapunten waarvan men niet eens zou denken dat ze bevooroordeeld zouden kunnen zijn?
overgenomen uit De eenzame eeuw : Hoe de menselijke verbinding te herstellen in een wereld die uit elkaar trekt,uitgegeven door Currency, een imprint van Penguin Random House.
De eenzame eeuw door Noreena Hertz Amazon $ 24,99Nu kopenOpmerking van Ed: Dit uittreksel is bijgewerkt om aan te geven dat HireVue niet langer visuele analyse gebruikt in zijn wervingssoftware.