Nábor, hodnocení výkonu, řízení týmů – všechny HR procesy využívající AI budou brzy podléhat přísnějším pravidlům. Víte, co to znamená pro vás?
AI v HR: Vysoce riziková technologie?
Nástroje, které v HR využívají umělou inteligenci – například systémy pro nábor nebo hodnocení zaměstnanců – jsou podle AI Act označeny jako vysoce rizikové technologie. To znamená, že jejich používání musí splňovat přísné požadavky na férovost, transparentnost a ochranu práv jednotlivců.
Co to obnáší?
- Systémy řízení rizik: HR oddělení budou muset kontrolovat, zda AI nejedná zaujatě nebo diskriminačně. Technologie nesmí zvýhodňovat nebo znevýhodňovat konkrétní skupiny uchazečů či zaměstnanců.
- Informovanost: Zaměstnanci i uchazeči musí být jasně informováni, že se na rozhodování podílí AI. Pokud například systém filtruje životopisy, kandidáti by měli vědět, že byl použit, a rozumět tomu, jak probíhá výběr.
- Lidský dohled: Nad všemi rozhodnutími AI musí bdít kvalifikovaný člověk, který je může přezkoumat a případně změnit.
Transparentnost a kvalita dat
Důležitou podmínkou bude také důsledná kontrola kvality dat, která AI používá. Je potřeba zajistit, aby vstupní data byla přesná, reprezentativní a bez předsudků. Jakékoli zkreslení by mohlo vést k diskriminaci, což je nepřijatelné nejen podle zákona, ale i z pohledu firemní kultury.
Zaměstnanci a kandidáti mají právo na informace o tom, jak byla jejich data použita a jaké algoritmy byly aplikovány. HR oddělení tedy bude muset zajistit jasnou komunikaci – nejen o použití AI, ale i o výsledcích její práce.
Co AI Act znamená pro HR?
Nařízení má potenciál přinést více férovosti a důvěry do HR procesů. Ale vyžaduje přípravu. HR týmy se budou muset naučit pracovat s novými pravidly, zavést systémy řízení rizik, kontrolovat kvalitu dat a zajistit transparentní komunikaci.
AI Act ale není jen další regulací – svým způsobem je to i šance vytvořit férovější procesy a posílit důvěru mezi zaměstnavateli a zaměstnanci.
Klíčové termíny: Na co se připravit?
Do 2. února 2025:
- Zákaz některých technologií, jako je rozpoznávání emocí na pracovišti.
- Zavedení pravidel pro AI gramotnost.
Do 2. srpna 2026:
- Vysoce rizikové AI systémy (včetně těch HR) musí být plně v souladu s novými požadavky.
Praktické dopady na HR
Nábor: Při použití AI na vyhodnocování životopisů je třeba zajistit, že algoritmy neobsahují předsudky. To zahrnuje pravidelné audity a případné úpravy.
Hodnocení výkonu: Pokud AI sleduje výkon zaměstnanců, musí zaměstnanci jasně vědět, jaká data jsou sbírána a jak ovlivňují hodnocení.
Jak AI Act klasifikuje rizika?
- Nepřijatelné riziko: Zcela zakázané technologie, jako je sociální skórování vládami nebo biometrický dohled.
- Vysoce rizikové systémy: AI s významným dopadem, třeba v dopravě, zdravotnictví nebo HR. Podléhají přísným pravidlům.
- Omezené riziko: Systémy s povinností informovat uživatele, že komunikují s AI.
- Minimální riziko: Neregulované systémy, volně použitelné.
Zvláštní pozornost se věnuje obecným AI systémům, jako je ChatGPT, které budou muset splňovat pravidla transparentnosti a podstoupit hodnocení.
Co to znamená pro firmy?
Firmy budou muset:
- Zavést řízení rizik a kontrolu kvality dat.
- Zajistit lidský dohled nad AI rozhodnutími.
- Informovat uživatele o použití AI a vysvětlit rozhodnutí, zvláště u vysoce rizikových systémů.
Nedodržení pravidel? Vysoké pokuty nebo omezení přístupu na trh EU. I firmy mimo EU musí pravidla respektovat, pokud jejich AI ovlivňuje obyvatele EU.
A co přináší jednotlivcům?
- Ochrana základních práv: Zákaz technologií ohrožujících soukromí nebo rovnost.
- Transparentnost: Jasné informace o použití AI.
- Odpovědnost: Pokud AI způsobí újmu, jednotlivci budou mít možnost se bránit.
Nový standard pro celý svět
AI Act nastavuje globálně poměrně unikátní standard regulace AI. Pro firmy to znamená změny ve vývoji i provozních procesech. Pro jednotlivce přináší bezpečnější a transparentnější digitální prostředí, které chrání jejich práva. Jak to pak bude fungovat v praxi uvidíme už za pár měsíců.
Článek původně vznikl pro platformu HeRe for HR.
Shrnutí článku
Evropská unie zavádí přelomovou legislativu AI Act, která zásadně ovlivní HR oddělení. Nástroje umělé inteligence používané v náboru, hodnocení výkonu nebo řízení zaměstnanců budou klasifikovány jako vysoce rizikové a podléhají novým povinnostem. Firmy budou muset zavést opatření pro transparentnost, lidský dohled a férovost, aby chránily práva jednotlivců. AI Act tak přináší nejen nové výzvy, ale i příležitost pro spravedlivější HR procesy.
Shrnutí v odrážkách:
- AI Act klasifikuje HR nástroje jako vysoce rizikové – musí být transparentní, férové a pod lidským dohledem.
- Firmy musí zavést systémy řízení rizik, audity dat a informovat uchazeče i zaměstnance, jak AI rozhoduje.
- Zákaz technologií jako je rozpoznávání emocí bude platit už od února 2025.
- Neplnění pravidel může vést k vysokým pokutám nebo zákazu vstupu na trh EU.
- AI Act chrání práva jednotlivců – zajišťuje přístup k informacím a možnost obrany proti rozhodnutím AI.
- Zákon platí i pro firmy mimo EU, pokud jejich AI zasahuje občany Unie.
- Představuje nový globální standard – přísnější než většina ostatních světových regulací.
Adam Homola
Editor in chief, Benefit pro HR
Adama dlouhodobě fascinuje, jak věci fungují - lidé, týmy i celé organizace. Svůj zájem o lidské procesy propojuje s technologiemi, zejména s AI, kterou vnímá jako nástroj. Píše, edituje a kurátorsky vybírá obsah opřený o data a evidence-based přístup; jeho cílem je srozumitelně převádět komplexní témata do praxe HR a managementu. Dlouhodobě se věnuje digitální tvorbě a se zaujetím sleduje, jak technologický pokrok ovlivňuje práci i životy lidí.
