Slib je jednoduchý: místo hodin ručního probírání stovek životopisů dostane HR krátký seznam kandidátů za pár minut. Jenže algoritmus, který ten výběr dělá, si u toho leckdy vybírá i své oblíbence, a nikdo se ho neptá proč.
Algoritmus se neučí z abstraktní představy ideálního zaměstnance. Učí se z reálných dat, tedy z lidí, kteří byli v minulosti najímáni, povyšováni a hodnoceni jako úspěšní. Pokud v té historii dominovala jedna skupina, jedno vzdělání nebo jeden typ životopisu, model se naučí přesně tohle preferovat. Ne proto, že by byl zákeřný. Prostě proto, že jinou logiku mu nikdo nedal.
Nejznámější demonstraci si udělal Amazon, ještě než o tom vůbec někdo mluvil jako o „AI bias v HR“. Firma od roku 2014 vyvíjela interní nástroj, který měl kandidáty na technické pozice hodnotit jedné až pěti hvězdičkami, podobně jako recenze na e-shopu. Model se trénoval na deseti letech životopisů, které Amazonu chodily. Jenže v technických oborech byla velká většina uchazečů historicky muži, takže systém se naučil, že mužský životopis je ten správný vzor. Výsledek: penalizoval CV, která obsahovala slovo „women's“, tedy třeba „captain of the women's chess club“, a shazoval absolventky dvou čistě ženských univerzit. Zvýhodňoval slovesa typická pro mužské inženýrské životopisy, jako „executed“ nebo „captured“. Amazon nakonec v roce 2018 nástroj potichu pohřbil, protože se ho nepodařilo spolehlivě zbavit genderového zkreslení (Reuters, 2018).
Nejde o osamocený případ z minulé dekády. Výzkumníci z University of Washington v roce 2024 otestovali tři velké jazykové modely na více než třech milionech srovnání životopisů a pracovních inzerátů. Jediné, co mezi verzemi CV měnili, bylo jméno kandidáta. Jména spojovaná s bílou populací dostala přednost v 85 % případů, jména spojovaná s černošskou populací jen v 9 %. Mužská jména vyhrávala nad ženskými v 51,9 % případů oproti 11,1 % ve prospěch žen, tedy zhruba pětkrát častěji (Wilson & Caliskan, University of Washington, prezentováno na AAAI/ACM Conference on AI, Ethics, and Society, 2024). Žádný recruiter tohle jméno vědomě neoznačil za rizikový faktor. Model si tu spojitost odvodil sám, z dat, na kterých se učil.
A bias nemizí ani s nejnovější generací nástrojů. Studie z roku 2025, publikovaná v odborném časopise PNAS Nexus, otestovala pět velkých jazykových modelů včetně GPT-4o a Claude 3.5 Sonnet na 361 000 fiktivních životopisech. Černošští muži měli oproti bílým mužům se stejnou kvalifikací nižší pravděpodobnost, že skóre překročí práh pro pozvání k pohovoru (An, Huang, Lin, Tai, PNAS Nexus, 2025). Bias navíc není jen otázkou rasy a pohlaví, ale i věku. Výzkumníci ze Stanfordu v roce 2025 zjistili, že když necháte ChatGPT vygenerovat a následně ohodnotit desítky tisíc životopisů, model automaticky předpokládá, že ženy jsou v průměru o 1,6 roku mladší a mají kratší praxi než muži se stejným zadáním, a nejvýše hodnotí starší mužské kandidáty (Guilbeault, Delecourt, Srinivasa Desikan, Nature, 2025). Jinými slovy, model si dokáže vytvořit svůj vlastní skrytý předpoklad o tom, jak má vypadat důvěryhodný životopis, ještě dřív, než ho vůbec začne hodnotit.
Kde přesně bias vzniká
Bias v recruitmentu se nerodí na jednom místě. Vzniká na několika úrovních současně a HR ho často odhalí, až když je pozdě.
Klíčová slova a formulace. Modely se učí, že úspěšný kandidát používá určitá slova. Aktivní slovesa, konkrétní technické termíny, styl psaní typický pro určitou skupinu autorů. Kdo píše jinak, byť stejně kvalifikovaně, skáče níž v žebříčku.
Mezery v kariéře. Rodičovská dovolená, dlouhodobá nemoc, péče o blízkého, návrat po sabatikalu. Algoritmus vidí díru v časové ose a bez kontextu ji často vyhodnotí jako riziko, i když jde o naprosto legitimní důvod.
Jména. Jak ukázala studie z Washingtonu, jméno samo o sobě funguje jako skrytá proměnná spojená s rasou a pohlavím, aniž by o tom systém cokoli „věděl“ v lidském slova smyslu.
Vzdělávací instituce a životní dráha. Model naučený na datech z minulosti může tiše zvýhodňovat konkrétní školy nebo kariérní vzorce, které v historii firmy převažovaly, a přehlížet stejně kvalitní, jen méně obvyklou cestu.
Harvard Business Review to shrnuje jednoduše: bias může vstoupit do procesu v každém jeho kroku, od výběru trénovacích dat přes definici „úspěšného zaměstnance“ až po to, jak se výstup algoritmu používá v praxi (Bogen, Harvard Business Review, 2019). Bias si systém dokáže vypěstovat v kterémkoli bodě, ne jen v jedné vadné součástce, kterou by šlo vyměnit.
Jak poznat, že nástroj něco systematicky vyřazuje
Tady končí teorie a začíná práce, kterou HR musí dělat samo, protože dodavatel softwaru vám bias sám nenahlásí.
Nejjednodušší signál je rozpad podle skupin. Exportujte si, kolik kandidátů projde screeningem podle pohlaví, věkové skupiny nebo jiných dostupných proměnných, a porovnejte to s tím, kolik takových kandidátů vůbec do procesu vstoupilo. Pokud je propad u jedné skupiny výrazně strmější, máte co zkoumat, ne co ignorovat.
Druhý test je citlivější a rychlejší na odhalení: vezměte několik silných životopisů, které nástroj hodnotil vysoko, a změňte v nich jen jméno, případně název instituce nebo formulaci mezery v kariéře. Nic jiného. Pokud se skóre výrazně pohne, máte důkaz, že hodnotu určuje proxy proměnná, ne kvalifikace.
Třetí, málo používaný test: podívejte se, kdo prošel screeningem, ale u pohovoru propadl, a kdo naopak screening nezvládl, přestože byste ho intuitivně čekali mezi nejlepšími. Rozpor mezi tím, co říká algoritmus, a co říká zkušený recruiter, je užitečná data, ne otravná anomálie.
Co s tím prakticky udělat
Řešení nespočívá v odstavení AI. Nástroj dokáže ušetřit desítky hodin týdně, a to je reálná hodnota, kterou by byla škoda zahodit. Řešení je přestat mu věřit naslepo.
Kontrolujte vzorek, ne jen výstup. Jednou za čas si vytáhněte náhodných třicet až padesát CV, která nástroj zamítl, a projděte je ručně. Cílem není zpochybnit každé rozhodnutí, ale mít aktuální představu, jestli model vyřazuje z relevantních důvodů, nebo z důvodů, které by u živého recruitera nikdy neobstály.
Nastavte pravidelný audit, ne jednorázový. Model se může chovat jinak po každé aktualizaci, po každé změně vstupních dat, po každé sadě nových pracovních pozic, na kterých se dotrénovává. Audit před nasazením nestačí. Potřebujete rytmus, třeba čtvrtletní, kdy se ptáte, jestli se poměry mezi skupinami kandidátů nezačaly nenápadně posouvat.
Buďte transparentní vůči kandidátům. Řekněte lidem, že se v procesu používá automatizované hodnocení, a dejte jim reálnou možnost o rozhodnutí požádat o lidskou revizi. Je to víc než slušnost: kandidát, kterého systém omylem vyřadil kvůli mezeře v CV po rodičovské, si zaslouží šanci to vysvětlit člověku, ne se ztratit v databázi zamítnutých profilů.
Nechte poslední slovo na člověku. AI ať doporučuje, netvrdí. U hraničních případů, u neobvyklých životopisů a všude tam, kde skóre koreluje s citlivou charakteristikou, patří rozhodnutí zkušenému recruiterovi, ne skóre na obrazovce.
Odborné organizace zabývající se HR compliance dnes doporučují přesně tuhle kombinaci: pravidelný bias audit, dokumentaci logiky nástroje a garantovanou lidskou kontrolu u citlivých rozhodnutí. Je to pojistka proti tomu, aby firma nediskriminovala automaticky a bez vědomí, že to dělá.
Jedna kontrola na příští týden
Nemusíte hned kupovat audit od externí firmy ani přepisovat celý recruitment proces. Stačí jedna věc: vezměte pět silných životopisů z posledního kola, které váš AI nástroj ohodnotil nejlépe, a u každého změňte jen jméno kandidáta na jméno typické pro jinou skupinu. Nic jiného neupravujte. Pak se podívejte, jestli se skóre pohnulo.
Pokud ano, máte odpověď na otázku, jestli váš nástroj hodnotí kvalifikaci, nebo jestli hodnotí, jak moc kandidát vypadá jako lidé, které jste najímali doteď. A to je přesně ten rozdíl, který rozhoduje, koho příští měsíc pozvete na pohovor a koho ani nepustíte přes první kolo.
Zdroje
- Dastin, J. (2018). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G
- Wilson, K., Caliskan, A. (2024). Studie prezentovaná na AAAI/ACM Conference on Artificial Intelligence, Ethics, and Society, San Jose, říjen 2024. University of Washington. https://www.washington.edu/news/2024/10/31/ai-bias-resume-screening-race-gender/
- Bogen, M. (2019). All the Ways Hiring Algorithms Can Introduce Bias. Harvard Business Review. https://hbr.org/2019/05/all-the-ways-hiring-algorithms-can-introduce-bias
- Mann, G., O'Neil, C. (2016). Hiring Algorithms Are Not Neutral. Harvard Business Review. https://hbr.org/2016/12/hiring-algorithms-are-not-neutral
- An, J., Huang, D., Lin, C., Tai, M. (2025). Measuring gender and racial biases in large language models: Intersectional evidence from automated resume evaluation. PNAS Nexus, 4(3). https://academic.oup.com/pnasnexus/article/4/3/pgaf089/8071848
- Guilbeault, D., Delecourt, S., Srinivasa Desikan, B. (2025). Age and gender distortion in online media and large language models. Nature, 646. https://www.nature.com/articles/s41586-025-09581-z
Shrnutí článku
AI nástroje pro screening životopisů slibují HR týmům úsporu času, ale učí se z historických dat o tom, kdo byl v minulosti najímán a povyšován. Případ Amazonu i novější studie z University of Washington, Stanfordu a PNAS Nexus ukazují, že modely systematicky zvýhodňují nebo znevýhodňují kandidáty podle jména, pohlaví, rasy či věku, aniž by to firma měla pod kontrolou.
Řešením není AI přestat používat, ale přestat jí věřit naslepo: pravidelně kontrolovat vzorky zamítnutých životopisů, testovat nástroj záměnou jmen kandidátů, nastavit opakovaný audit a nechat konečné rozhodnutí vždy na zkušeném recruiterovi.
Adam Homola
Editor in chief, Benefit pro HR
Adama dlouhodobě fascinuje, jak věci fungují - lidé, týmy i celé organizace. Svůj zájem o lidské procesy propojuje s technologiemi, zejména s AI, kterou vnímá jako nástroj. Píše, edituje a kurátorsky vybírá obsah opřený o data a evidence-based přístup; jeho cílem je srozumitelně převádět komplexní témata do praxe HR a managementu. Dlouhodobě se věnuje digitální tvorbě a se zaujetím sleduje, jak technologický pokrok ovlivňuje práci i životy lidí.
