Journalist Hilke Schellmann diskuterer virkningen av kunstig intelligens (AI) på ansettelse, overvåking, forfremmelse og oppsigelse i boken sin «Algorithmen».
I sin bok fordyper Schellmann ansvaret for kunstig intelligens og undersøker dens økende tilstedeværelse på arbeidsplassen.
Schellmann, en Emmy-prisvinnende undersøkende journalist og assisterende professor i journalistikk ved New York University, undersøker virkningen av kunstig intelligens på beslutninger på arbeidsplassen og advarer ansettelsesledere om å være mer skeptiske når de bruker teknologien.
Hun satte seg ned med ABC News Live for å diskutere sin nye bok.
ABC NEWS LIVE: Det bør ikke komme som noen overraskelse at bedrifter, store som små, bruker kunstig intelligens-plattformer og programvare for å hjelpe dem med å ta beslutninger som en gang var domenet til personalavdelingene. Med oss om et øyeblikk er Emmy-vinnende undersøkende journalist og journalistikkprofessor ved New York University, Hilke Schellmann.
Hans nye bok, «Algorithmen: Hvordan AI bestemmer hvem som blir ansatt, overvåket, forfremmet og sparket» [And Why We Need to Fight Back Now],» undersøker disse tilsynelatende automatiserte verktøyene som potensielt kan eliminere nåværende og potensielle ansatte basert på noen tvilsomme kriterier. Så velkommen Hilke. Boken din, «The Algorithm,» fordyper seg i hvordan kunstig intelligens påvirker syklusen av ansattes liv. Uten tvil øker en mange øyenbryn her.
Så, hva om du kunne forklare verktøyene arbeidsgivere bruker og hvorfor de krever undersøkelser?
HILKE SCHELLMANN: Ja, så jeg tror vi ser at de fleste Fortune 500-selskaper bruker kunstig intelligens et sted i ansettelsesprosessen. Så vi ser dette mye med CV-visninger. Så hvis du laster opp søknaden din til noen av de store jobbplattformene eller søker direkte til arbeidsgivernes nettsteder, er det ofte en CV-parser som sorterer CV-ene i ja-bunken og ja-bunken. .
Og så ser vi mye av, vet du, og dette skjedde åpenbart under pandemien. Vi ser mange enveis videointervjuer, der folk får forhåndsinnspilte spørsmål og det er ingen i den andre enden. Og så ser vi også videospill, som jobbsøkere blir bedt om å spille for å forstå hva deres ferdigheter er, hva deres personligheter er, vet du, er de smidige? De er, du vet, raske, raske å lære, alle de tingene som bedrifter ønsker å vite.
Og du vet, alt dette kommer fra et sted hvor vi ser nå, du vet, bedrifter blir oversvømmet med millioner og millioner av søknader. Så de mener vi trenger en teknologisk løsning. Jeg hørte fra mange av dem, arbeidsadvokater, som sa: «Å, ja, vi fant kjønnsdiskriminering i det verktøyet.» Og vi ba selskapet ikke bruke det, men oppstarten eksisterer fortsatt.» Så ja, det er mange verktøy som dessverre gjør mer skade enn nytte.
ABC NEWS LIVE: Og vi ønsket også å spørre deg om noen øyeåpnende tester du har utført på et spesifikt verktøy, som påstår å vurdere personlighet og jobbegnethet basert på stemmeprøver. Så gå oss gjennom det eksperimentet og de overraskende resultatene.
SCHELLMANN: Ja, så det jeg ofte tenker på er, i dette tilfellet, et enveis videointervju hvor du vet, du får en haug med spørsmål og du blir bedt om å svare på dem og ta opp deg selv. Så jeg tenker alltid på hva som skjer med folk som kanskje har en aksent, som har språkvansker og du vet, hva er det med lyden deres?
Når lyden deres blir transkribert til tekst, vil AI-verktøyet vurdere dem på en rettferdig måte? Så jeg tenkte, du vet, la oss ta en liten test. Så jeg snakket med et av verktøyene på tysk og leste et Wikipedia-oppslag om psykometri. Og jeg ble overrasket, vet du, jeg sendte e-posten og jeg fikk en e-post tilbake som sa: «Å, du er 73 % kvalifisert, vet du, for denne jobben.» Og jeg trodde jeg ikke hadde sagt et eneste ord på engelsk. Og når jeg så på utskriften, var det bare tull. Jeg tror dette bekymrer meg virkelig. Mer eller mindre, du vet, dette er beslutninger med høy innsats, som at det spiller noen rolle hvem som får jobb og hvorfor vi får jobb.
ABC NEWS LIVE: Ikke sant? Det er tydeligvis ikke en perfekt vitenskap ennå. Du har nå brukt fem år på denne boken. Du har snakket med kandidater, arbeidsgivere og informanter. Så hvilke tiltak bør iverksettes for å sikre ansvarlig og etisk bruk av kunstig intelligens innen menneskelige ressurser?
SCHELLMANN: Ja, så jeg tror at, du vet, det bør være mange skeptiske spørsmål først for utviklere, som, du vet, vi må ha, forklaringsmuligheter. Hvorfor skulle noen avvise det? Hvorfor ble noen satt i neste runde? Og ofte vet ikke engang verktøyutviklerne dette fordi de er AI-modeller uten tilsyn. Så jeg synes det er veldig problematisk. Vi må ha forklaringsevne, åpenhet. Så hvis noen befinner seg foran en dommer, må de forklare hvorfor noen klarte å komme seg videre til neste runde.
ABC NYHETER LIVE: Hilke Schellmann. Dette er et fascinerende tema som vi kommer til å slite med, sannsynligvis i mange år fremover. Tusen takk for at du tok deg tid i dag.
SCHELLMANN: Ja, takk for at du har meg.
«Ond alkoholelsker. Twitter-narkoman. Fremtidig tenåringsidol. Leser. Matelsker. Introvert. Kaffeevangelist. Typisk baconentusiast.»