Zákon o umělé inteligenci: jste připraveni čelit regulačním změnám a přizpůsobit své procesy?

Cílem je regulovat používání umělé inteligence ve všech oblastech života s důrazem na ochranu práv jednotlivců, transparentnost procesů a odpovědnost za zpracování údajů.

Pro zaměstnavatele a personální agentury, které každodenně využívají umělou inteligenci při náboru, hodnocení kandidátů nebo cílení nabídek práce, zákon o umělé inteligenci znamená, že musí přizpůsobit své procesy a technologie tak, aby splňovaly nové legislativní požadavky.

„Považuji to za zlomový okamžik, který ovlivní nejen celý proces náboru, ale také vztah mezi zaměstnavatelem a potenciálním zaměstnancem. Anna Brozák – personální ředitelka

Bude mít zákon o umělé inteligenci vliv na fungování personálního oddělení ve společnosti MAXIN’S?

Já ano. Evropská unie plánuje zavést nové nařízení o umělé inteligenci (AI Act), které vstoupí v platnost v roce 2025. Cílem tohoto nařízení je stanovit jasná pravidla a povinnosti pro využívání umělé inteligence, zejména se zaměřením na ochranu práv jednotlivců a transparentnost.

To přinese významné změny pro personální agentury, které denně pracují s náborem osob, zveřejňují cílené nabídky práce a hodnotí kandidáty.

Jaké výzvy a příležitosti to přináší?

Uvedu jen ty nejdůležitější, které bych rozdělil do pěti bodů:

1. Transparentnost algoritmů

Jednou z klíčových zásad nařízení je zajistit transparentnost algoritmů umělé inteligence. Pokud společnost používá AI k hodnocení životopisů, předvídání vhodnosti uchazečů nebo cílení nabídek práce, bude muset:

• Poskytněte informace o tom, jak tyto algoritmy fungují.
• Prokázat, že systém neobsahuje diskriminační prvky (např. na základě věku, pohlaví nebo etnického původu).
• informovat uchazeče, zda jejich hodnocení provedla AI.

Z vlastní zkušenosti s náborem vím, že uchazeči očekávají, že personální oddělení nebo oddělení náboru věnuje čas individuálnímu posouzení jejich životopisu nebo motivačního dopisu. Kandidáti věří v empatii náborového pracovníka a jsou nedůvěřiví k umělé inteligenci. Chtěli byste být odmítnuti na základě prvotního prověření UI, aniž byste o něm měli jakoukoli povědomost?

2. Odpovědnost za data

Zákon o umělé inteligenci klade důraz na ochranu údajů a soulad s GDPR. Jelikož jsme personální agentura, budu trochu subjektivní a uvedu, co to pro nás znamená:

• Zhodnoťte, jaké údaje shromažďujete, jak je zpracováváte a zda jsou používány pouze k účelu, pro který byl získán souhlas.
• Zavedení pravidelných auditů systémů umělé inteligence s cílem zajistit soulad s právními předpisy.
• Poskytněte uchazečům možnost napadnout automatizovaná rozhodnutí.

3. Přehodnocení cílených nabídek

Cílené zveřejňování pracovních nabídek na základě údajů uchazečů může být předmětem kontroly, zejména pokud se používají technologie, které sledují chování na internetu nebo využívají citlivé osobní údaje. Co to znamená pro společnosti, pro které je nábor zaměstnanců hlavní činností?

• Zajistit, aby nabídky byly zveřejňovány spravedlivým a inkluzivním způsobem.
• Zabránit algoritmům, aby nevědomky diskriminovaly určité skupiny uchazečů.

4. Nástroje pro hodnocení žadatelů

Používáte umělou inteligenci k hodnocení dovedností nebo osobnostních rysů kandidátů? Od roku 2025 budou tyto nástroje klasifikovány jako „vysoce rizikové systémy“ a budou podléhat přísné regulaci. A tak budou muset potenciální zaměstnavatelé:

• Zajistěte, aby používané systémy byly certifikovány podle nových norem.
• Zajistěte, aby výsledky byly objektivní a spravedlivé a aby měl uchazeč možnost je zpochybnit.

5. Povinné školení zaměstnanců od roku 2025

Dodržování nového nařízení bude rovněž vyžadovat důkladné školení zaměstnanců dané společnosti. Všichni zaměstnanci budou muset rozumět:

• Práva kandidátů v kontextu umělé inteligence.
• Jak správně používat nástroje AI v souladu s právními předpisy.
• Jaké postupy je třeba dodržovat, abyste se vyhnuli pokutám.

Jaká jsou doporučení, aby byli zaměstnavatelé a firmy na změnu dokonale připraveni?

V první řadě doporučujeme být připraven a vyhledat školení, konference nebo jiné formy vzdělávání, které již probíhají, protože nový rok 2025 je téměř před námi.

Za druhé je nezbytné vyhodnotit aktuálně používané nástroje umělé inteligence a určit, zda splňují budoucí regulační požadavky. Z procesního hlediska doporučujeme zřídit interní tým pro dodržování předpisů, který bude monitorovat implementaci zákona o UI, protože UI se promítne do smluv a bude mít dopad na všechna vaše oddělení od HR, marketingu, prodeje až po finance.

Zatřetí je třeba komunikovat s technologickými partnery, správci IT infrastruktury, poskytovateli GDPR, aby vám poskytli dokumentaci a ujištění o transparentnosti svých řešení.

Na závěr jedna rada na samém začátku zavádění zákona o umělé inteligenci ve vaší společnosti: zbavte se předsudků, že je to záležitost právního oddělení a že od něj dostanete vše na stříbrném podnose.

Autor

Anna Brozák