Fvagy az elmúlt négy évben Erin Kistler több ezer állásra jelentkezett olyan cégeknél, mint a Paypal, a Microsoft és a Netflix, de az önéletrajza eltűnt egy fekete lyukban. A közel 20 éves tapasztalattal rendelkező termékmenedzser, Kistler úgy gondolja, hogy minden szerepre alkalmas volt, mégsem kapott egyetlen interjút sem.

Most Kistler egy csoportos perben bepereli az Eightfold AI-t, a Szilícium-völgyi gyártót, amely több száz cég által használt szoftvert bérel fel, beleértve azokat is, ahol jelentkezett. A januárban a kaliforniai bíróságra benyújtott ügy az elsők között érvel amellett, hogy az automatizált szűrés nyilvánosságra nem hozott fogyasztói jelentésként vagy pályázói dossziéként működik, és az állásra jelentkezőket a siker valószínűsége alapján rangsorolja anélkül, hogy lehetőséget adna nekik az eredmények megtekintésére vagy megkérdőjelezésére – állítja Kistler jogi csapata.

A per egyike azon számos új jogi csata közül, amelyek a vállalatok mesterségesintelligencia-használatával kapcsolatosak a foglalkoztatási döntésekben. A munkások egy belső mesterségesintelligencia-rendszer miatt is beperlik a Metát, amely állítólag elbocsátásra irányult, mert szülői vagy egészségügyi szabadságot vettek ki. A közelmúltban az IBM ellen indított per pedig azt állítja, hogy az AI-eszközök diszkriminálták az idősebb munkavállalókat.

Az egyesült államokbeli vállalatok egyre gyakrabban fordulnak az AI-hoz, hogy gyorsabb és hatékonyabb munkahelyi döntéseket hozzanak, gyakran az objektivitás leple alatt. Az ilyen típusú szoftvereket tanulmányozó szakértők azonban azt mondják, hogy ez olyan elfogultságot is bevezethet vagy súlyosbíthat, amely követheti a jelölteket a vállalatok között. A törvényhozók felfigyelnek erre. A jogi csaták kimenetele alakíthatja a jövőbeni foglalkoztatási gyakorlatot, a körülöttük lévő átláthatóságot és a folyamatban lévő jelölteket.

„Valójában nincs olyan törvény, amely előírná az MI-kölcsönzési rendszerek használatának bejelentését vagy közzétételét” – mondta Ifeoma Ajunwa, az Emory Egyetem Jogi Karának professzora, az AI és a jövő munkaprogramjának alapító igazgatója. "Tehát a vállalatok nem feltétlenül mondják el a dolgozóknak, ha MI-vel értékelik őket."

Egyre növekszik a mesterséges intelligencia alkalmazása a munkaerő-felvételben

A Világgazdasági Fórum jelentése szerint tavaly a munkaadók 90%-a használt valamilyen automatizálást a felvételi folyamat során. Ezek az eszközök az alapvető szűréstől – például a négyéves diplomával vagy más előfeltétellel nem rendelkező jelöltek kizárásától – az AI használatáig terjednek, hogy felmérjék a jelentkezők készségeit, vagy akár a kezdeti telefonos interjút is lehessen lefolytatni.

Az Eightfold esetében a cég a „világ legnagyobb, önfrissítő tehetségadat-forrásaként” tartja számon magát. Folyamatosan frissíti a belső adatbázist a platformján keresztül állásra jelentkező több mint egymilliárd munkavállaló önéletrajzaiból, LinkedIn-profiljaiból és közösségimédia-profiljaiból származó információkkal. Ezen adatok felhasználásával a mesterséges intelligencia segítségével 0-tól 5-ig terjedő skálán pontozza a jelentkezőket, előre jelezve, hogy milyen jól teljesítenek egy adott munkakörben. Végső soron a pontszám egyes jelölteket előnyben részesíthet másokkal szemben az interjúkon.

„A probléma nagy része az, hogy az állásra jelentkezők nem tudják… mit mondanak a jelentések” – mondta Rachel Dempsey, Kistler ügyvédje.

Dempsey azzal érvel, hogy az állásra jelentkezők ugyanolyan átláthatóságot érdemelnek a felvételi folyamatban, mint amilyet az amerikaiak már megkapnak hiteljelentéseikben. Ezen információk birtokában vitathatják a pontatlanságokat, vagy dolgozhatnak a jelöltségüket befolyásoló tényezők javításán. Ám betekintés nélkül lehetetlen megtudni, hogy ezek az algoritmusok kifejezett módon diszkriminálják-e a jelölteket, mondta Dempsey.

„A fekete doboz fogalma nagyon ijesztő” – mondja.

A Guardiannek adott nyilatkozatában az Eightfold AI tagadta a vádakat. "Úgy gondoljuk, hogy az állítások alaptalanok, és határozottan védekezni akarunk" - írta egy Eightfold AI szóvivője egy e-mailben.

Az IBM ellen indított keresetre válaszul a cég tagadta, hogy mesterséges intelligencia segítségével automatikusan kiszűrné a jelölteket, és közleményében azt mondta, „nem tűr el semmiféle diszkriminációt”. A Meta nem válaszolt a keresetével kapcsolatos megjegyzéskérésre.

Az algoritmikus feketelistától való félelem

Bár a foglalkoztatási szoftverszolgáltatók azt állítják, hogy felszabadítják a menedzsereket, hogy több időt töltsenek a képzett jelöltekkel, és eltávolítsák az emberi személyes előítéleteket, a szakértők nem értenek egyet. Azt mondják, hogy a mesterséges intelligencia fokozhatja az elfogultságokat, például bizonyos demográfiai csoportokhoz tartozó munkavállalók előnyben részesítését.

„Mivel több kutatást végeztünk a mesterséges intelligencia munkaerő-kölcsönző rendszereivel kapcsolatban, azt látjuk, hogy ezek hajlamosak ugyanazokat az elfogultságokat megismételni, mint az emberi vezetők” – mondta Ajunwa.

Szinte minden mesterséges intelligencia rendszert arra képeztek ki, hogy olyan mintákat keressen, amelyek megerősíthetik a sztereotípiákat vagy az örökölt torzításokat. Az Amazon például egykor egy mesterséges intelligencia eszközt használt, amely lejjebb helyezte a nők önéletrajzait, mivel a cég legjobban teljesítői férfiak voltak. Az Amazon a probléma felfedezése után abbahagyta a használatát. Más esetekben a mesterséges intelligencia felvételi rendszerei bevezethetik saját előítéleteiket. A számszerűsített munkás (The Quantified Worker) című könyvének kutatása során Ajunwa azt találta, hogy a mesterséges intelligencia rosszul értékelte a déli akcentussal rendelkező állásra jelentkezőket, mivel nehezen értette meg őket a hanginterjúk során.

Míg az emberi munkaerő-felvételi menedzserek tisztességtelenek lehetnek – például azt a pályázót választják, aki ugyanabban a testvéri közösségben volt –, „az elfogultság mértéke még erősebb [a mesterséges intelligencia esetében]” – mondja Xuechunzi Bai, a Chicagói Egyetem adjunktusa, aki a munkaerő-felvételi elfogultságot kutatta.

Bai társszerzője volt egy nemrégiben készült tanulmánynak, amelyben mesterséges intelligencia modelleket kértek fel, hogy hozzanak döntéseket a Tufa, Aima, Reku és Weki kitalált demográfiai csoportokhoz rendelt kitalált jelentkezőkről. Néhány felvételi döntés után az AI-modellek olyan következtetéseket vontak le a jelöltekről, amelyeknek semmi közük nem volt képesítésükhöz, gyakorlatilag sztereotipizálva őket. Ha egy tufa jó orvos volt, akkor a tufa jelölteket nagyobb valószínűséggel választották orvosnak, a Weki jelölteket pedig nagyobb valószínűséggel vették fel házmesternek.

A tanulmány nagyobb torzítást talált a mesterséges intelligencia terén, mint a tavaly vizsgált emberfelvételi döntésekben. Azt is megállapították, hogy az újabb és fejlettebb modellek nagyobb elfogultsággal hoztak létre munkaerő-felvételi döntéseket.

„Nagyon megdöbbentünk, amikor láttuk ezt az eredményt” – mondta Bai. Az AI-modellek nagyon jók olyan problémák megoldásában, ahol van egy objektív megoldás, például a matematikában vagy a kódolásban. „De… egyre rosszabbak a többi alternatíva feltárása szempontjából” – mondta Bai. „A munkaerő-felvétel kapcsán a feltárás nagyon fontos, de ezek a modellek nincsenek erre képezve.”

A mesterséges intelligencia elfogultságának következményei egy jelentkezőre kiterjedhetnek egy álláslehetőségen túl is. Ha egy dolgozót egy személy elutasít, újra próbálkozhat egy másik cégnél, más munkaerő-felvételi vezetővel. Ám amikor egy dolgozót elutasítanak egy, több vállalatnál alkalmazott algoritmikus rendszer, a rendszer „emlékezik a már meghozott döntésre, és a hatékonyság érdekében újra meghozza azt” – mondta Ajunwa. – A valóságban algoritmikusan kifeketítettek.

Mivel nagyon sok vállalat használja ugyanazokra az alapvető mesterséges intelligencia-modellekre épülő munkaerő-felvételi szoftvert, az aggodalomra ad okot, hogy a negatív jelzés potenciálisan sokkal nehezebbé teheti a jelöltek állását, mondta Katie Creel, egy nemrégiben készült tanulmány társszerzője, amely az „algoritmikus monokultúra” kockázatait vizsgálja a munkaerő-felvételi rendszerekben. "Az embereket jobban ki fogják zárni a munkahelyükről, mint egyébként lettek volna" - mondta.

A nyolcszoros AI nem kommentálta az ügyet.

Az AI felelősen integrálható a munkaerő-felvételbe?

Míg az AI-eszközök időt takaríthatnak meg, vagy segíthetnek tesztelni a jelöltek készségeit, a munkaerő-felvételi vezetők nem engedhetik meg az AI-nak, hogy döntéseket hozzon – mondta Iman Abuzeid, az Incredible Health, a több mint 1500 egészségügyi munkaadó által használt mesterségesintelligencia-felvételi platform vezérigazgatója. Abuzeid szerint az Incredible Health felajánl egy mesterségesintelligencia-ügynököt, aki telefonos interjúkat készít, de a mesterséges intelligencia nem utasítja el automatikusan, pontozza, rangsorolja vagy dönti el, hogy ki lép tovább.

„Arról van szó, hogy információkat gyűjtsünk a jelöltektől, hogy az ember jobban fel legyen fegyverkezve a döntés meghozatalához” – mondta Abuzeid.

Abuzeid azt is elmondta, hogy az Incredible Health AI-interjúinak körülbelül 10%-át egy ember ellenőrzi elfogultság szempontjából, ez a folyamat egyre több város és állam jogi követelményévé válik.

New Yorkban egy 2023-ban hatályba lépett törvény előírja, hogy a munkaadók automatizált rendszereket alkalmaznak a munkaerő-felvétel során, hogy végezzenek elfogultsági auditot, és előzetesen értesítsék a jelölteket a technológia használatáról. A törvény azonban csak azokra a szoftverekre vonatkozik, amelyek „érdemben segítik” vagy helyettesítik a döntéshozatalt, kiskaput teremtve azokra az esetekre, amikor az ember is része a folyamatnak. Illinois és Colorado legújabb törvényei szintén tiltják a munkaadók számára a mesterséges intelligencia eszközök használatát, amelyek törvénytelen diszkriminációt eredményeznek.

A városi és állami szabályozások egyre inkább arra irányulnak, hogy alapkövetelmény legyen az állásra jelentkezők értesítése arról, hogy mesterséges intelligenciát használnak. De ideális esetben a jelöltek átláthatóak lennének abban, hogy algoritmikus dossziéik mit mondanak róluk – mondta Jenny Yang, az Outten & Golden ügyvédi iroda partnere, aki a felpereseket képviseli a Nyolcfold AI elleni perben.

"Ez a kezdeti átláthatóság segít jobban azonosítani, hol lehetnek problémák" - mondta Yang, utalva a mesterséges intelligencia használatáról szóló értesítésekre. „A munkavállalók körében egyre nagyobb aggodalomra ad okot, hogy megtagadják tőlük a lehetőséget olyan okok miatt, amelyeket senki sem ért.”