Technologie firmy Workday čelí žalobě kvůli diskriminaci uchazečů nad 40 let

Technologická společnost Workday (WDAY), známá svou široce využívanou platformou pro řízení lidských zdrojů, čelí vážnému právnímu sporu, který by mohl ovlivnit budoucnost využívání umělé inteligence (AI) při náboru zaměstnanců. Kalifornský soud v pátek rozhodl, že žaloba kvůli údajnému věkovému znevýhodňování může pokračovat jako hromadná. Podle žalobců technologie Workday systematicky znevýhodňuje uchazeče starší 40 let, čímž porušuje zákony na ochranu před diskriminací.

Stížnosti uchazečů: stovky žádostí, nulové šance

Celý případ začal loni, kdy Derek Mobley podal žalobu s tvrzením, že během sedmi let obdržel více než 100 odmítnutí na žádosti o zaměstnání přes platformu Workday. Navzdory svému vzdělání a zkušenostem byl podle něj opakovaně vyloučen z výběrových řízení – údajně kvůli svému věku, rase a zdravotnímu postižení. Nyní se k němu přidali další čtyři žalobci, kteří rovněž tvrdí, že byli diskriminováni na základě věku.

Podle soudních dokumentů žalobci uvádějí, že jejich žádosti byly zamítnuty během několika minut nebo hodin, často v časech mimo běžnou pracovní dobu. To podle nich naznačuje, že rozhodnutí byla automatická a neprováděl je člověk. Například Jill Hughesová tvrdí, že dostávala odmítnutí s odůvodněním, že nesplňuje minimální požadavky – ačkoli tomu podle ní nic nenasvědčovalo.

Obavy z předsudků v algoritmech

Workday tvrdí, že nenese přímou odpovědnost za rozhodnutí o přijetí uchazečů, protože pouze poskytuje nástroje zákazníkům, kteří pak rozhodují sami. Mluvčí společnosti dodal, že páteční rozhodnutí je pouze předběžné a že se společnost těší na možnost „bránit se na základě faktů“.

Přesto se odborníci obávají, že náborové algoritmy mohou v praxi replikovat nebo zesilovat stávající předsudky. Umělá inteligence je často trénována na základě životopisů stávajících zaměstnanců – pokud je stávající pracovní síla v dané firmě demograficky nevyvážená, může to vést k nepřímé diskriminaci. Například v jiném případě náborová AI preferovala kandidáty, jejichž životopis obsahoval slovo „baseball“, před těmi, kteří zmínili „softball“.

American Civil Liberties Union již dříve varovala, že nástroje tohoto typu představují riziko systematického znevýhodňování určitých skupin obyvatel. Tento problém není nový – už v roce 2018 společnost Amazon zrušila svůj nástroj pro hodnocení uchazečů, když zjistila, že upřednostňuje muže před ženami.

AI technologie ve středu soudního zájmu

Workday poskytuje své HR technologie více než 11 000 organizacím po celém světě. Každý měsíc přes platformu projdou miliony volných pracovních míst a uchazečů. Její nástroj „HiredScore AI“ má údajně urychlit zpracování žádostí pomocí „odpovědné AI“, ale žaloba tvrdí, že tato technologie ve skutečnosti systematicky snižuje šance uchazečů nad 40 let.

Podle žaloby algoritmus Workday detekuje preferenční vzorce chování zaměstnavatelů a následně snižuje pravděpodobnost doporučení uchazečů, kteří se od těchto vzorců odlišují – což může vést k diskriminaci na základě chráněných charakteristik.

Rozhodnutí kalifornské soudkyně Rity Lin je důležité v tom, že umožňuje žalobcům spojit své síly v rámci hromadné žaloby. Tím se rozšiřuje prostor pro další osoby, které měly s platformou podobné negativní zkušenosti. Workday však může stále požádat soud, aby každou stížnost posoudil individuálně, nikoli jako skupinový případ.

Žalobci požadují neurčené finanční odškodnění a soudní příkaz ke změně postupů, které by měly zabránit opakování podobného znevýhodňování. Výsledek tohoto případu může nastavit precedens pro to, jak budou firmy moci v budoucnu používat AI při náboru.