Přínosy a rizika používání umělé inteligence v HR

Současně však otevírá i právní a etické otázky, které budou zaměstnavatelé muset řešit, tak aby se nedostali do křížku se zákonem a vyhnuli se případné ztrátě důvěry.

Přínosy používání umělé inteligence v HR

Hlavním přínosem umělé inteligence v HR je nepochybně dramatické zrychlení a automatizace rutinních administrativních úkolů. AI nástroje dnes dokáží efektivně provádět screening stovek životopisů, plánovat pohovory nebo automatizovat komunikaci s uchazeči. Například odpovídat na jejich dotazy týkající se otevřených pozic nebo je informovat o průběhu výběrového řízení.

To však zdaleka není vše. AI rovněž pomáhá personalistům s přípravou podkladů a vhodných otázek ke vstupním pohovorům, zejména u pozic s vysokou technickou specializací – jako např. u seniorních advokátů či IT specialistů. V některých podnicích už AI dokonce sama vede úvodní kola vstupních pohovorů s uchazeči, čímž výrazně pomáhá šetřit náklady na úvodní selekci, která bývá časově nejnáročnější.

Využití umělé inteligence v HR samozřejmě nekončí ve fázi náboru, ale propisuje se i do pozdějších fází onboardingu. Moderní AI systémy nabízejí zaměstnavatelům sofistikované nástroje pro interní vzdělávání a školení zaměstnanců (např. v oblasti BOZP). Kromě toho AI nachází široké uplatnění i v analýze a reportingu. Díky schopnosti efektivně zpracovávat obrovské množství dat dokáže identifikovat vzorce chování zaměstnanců, predikovat jejich fluktuaci nebo vytvářet plány rozvoje, které přesně odpovídají potřebám konkrétních týmů. Prediktivní analýza vytvářená umělou inteligencí tak umožňuje personálním oddělením jednat proaktivně a předcházet problémům mnohdy dříve, než ve skutečnosti nastanou.

Automatizace spojená s využitím umělé inteligence pak uvolňuje personalistům ruce pro strategičtější činnosti, u nichž je lidský faktor stále nenahraditelný. To v konečném důsledku podstatně zvyšuje kvalitu nastavených HR procesů, což pozitivně ovlivňuje nejen složení a fungování jednotlivých týmů, ale i chod celé společnosti. Na druhou stranu to přináší i četná rizika, která je potřeba umět identifikovat a aktivně s nimi pracovat. Nesprávné řízení těchto rizik by totiž mohlo lehce vyústit ve ztrátu klientely nebo v uložení sankcí pro porušení zákona.

Přečtěte si také:

Chatbot nebo člověk? Zákaznický servis hledá rovnováhu v éře umělé inteligence

Jaká jsou rizika a jak s nimi pracovat?

Se všemi přínosy, které AI do HR procesů vnáší, jsou spojena rizika, která nemusí být každému na první pohled zřejmá. Jedním z nich je například riziko algoritmické diskriminace. AI nástroje jsou totiž trénované na datech, která v sobě mohou nést nevědomé předsudky lidských personalistů (např. ohledně věku či pohlaví). Pokud například systém v minulosti viděl, že na určitých typech pracovních pozic byli úspěšnější muži, může automaticky znevýhodňovat ženské kandidátky.

Společnost tak může kandidáty diskriminovat, aniž by o tom věděla, což je nebezpečné. Vystavuje se tím riziku žalob i případných sankcí pro porušení antidiskriminačních zákonů, o vážném poškození pověsti na trhu ani nemluvě. Prevence v daném směru spočívá v uvážlivém výběru prověřených AI nástrojů pracujících s „neutrálními“ vstupními daty, jakož i v soustavné lidské kontrole AI výstupů. K tomu je samozřejmě nutné lidské personalisty patřičně vyškolit a naučit je s výstupy AI správně pracovat, tak aby byly schopni rizika včas identifikovat a výstupy AI správně korigovat.

Dalším velkým rizikem při využívání AI je riziko úniku a zneužití citlivých dat (např. osobních údajů zaměstnanců nebo důvěrných informací obsahujících obchodní tajemství). Z toho důvodu je důležité pro HR procesy zajistit potřebnou úroveň ochrany dat a soulad s nařízením GDPR. Vkládání citlivých informací o zaměstnancích nebo neveřejných firemních strategií do AI nástrojů totiž může vést k jejich budoucímu zneužití. Zejména pokud jsou data vkládána do bezplatných verzí generativních modelů (např. Chat GPT nebo Google Gemini), mohou se stát součástí tréninkových data-setů a zaměstnavatel nad nimi automaticky ztrácí kontrolu. To představuje vysoké riziko porušení právních předpisů a s ním i riziko souvisejících sankcí, které se u GDPR mohou vyšplhat až do výše 20 mil. EUR nebo 4 % celosvětového ročního obratu.

V neposlední řadě je využití AI úzce spjato i s rizikem vzniku tzv. halucinací – tedy věrohodně působících, avšak zcela smyšlených informací. Pokud není podobné jednání AI nástroje včas odhaleno lidským personalistou, může způsobit značné škody. V neposlední řadě také česká legislativa omezuje rozsah informací, které může zaměstnavatel po uchazeči vyžadovat (nelze vyžadovat např. údaje o zdravotním stavu, těhotenství, náboženském vyznání apod.). Proto je nutné rovněž zabezpečit a průběžně monitorovat, aby AI tyto informace od uchazečů nesbírala. Kontrola každého výstupu vytvořeného AI lidským personalistou samozřejmě také není efektivním řešením, což v praxi posouvá využití AI spíše na úroveň „doplňku“, než stěžejního vehiklu, na jehož základě by se dělala klíčová rozhodnutí v oblasti HR.

Pozor na AI Act

Systémy AI používané v HR, například za účelem náboru, sledování a hodnocení výkonnosti zaměstnanců, rozhodování s dopadem na pracovněprávní vztahy atp., budou podle nové evropské legislativy známé pod názvem Akt o umělé inteligenci klasifikovány jako vysoce rizikové. To znamená, že jejich nasazení bude vyžadovat mj. přísný lidský dohled, zavedení efektivního systému řízení rizik, vytvoření podrobné technické dokumentace či provedení posouzení shody. Úspěšná implementace AI v oblasti HR proto bude od firem vyžadovat nejen komplexní přístup, ale i nemalé finanční prostředky na zajištění bezpečnosti, proškolení zaměstnanců a souladu s právními předpisy.

Podcast Teorie bulharské konstanty ŽIVĚ, pojďte se s námi potkat v Klubovně

Tip redakce

Právní realita generativní AI u vás ve firmě: Co musíte vědět?

Podle Sofie Petrové při sledování, jak zaměstnanci pracují s generativní umělou inteligencí, můžeme nabýt dojmu, že se ocitáme v nové verzi divokého západu. Více v našem dalším komentáři.