Využití umělé inteligence je potřeba korigovat. Evropská unie jako první na světě zavedla komplexní pravidla hry – EU AI Act. Pokud v Česku vyvíjíte, dovážíte nebo jen používáte AI nástroje ve firemním prostředí, tato pravidla se vás týkají stejně jako zákoník práce nebo GDPR.
Tento průvodce vám pomůže pochopit, kde končí svoboda promptování a kde začínají zákonné povinnosti.
Co už platí a co nás teprve čeká?
Pravidla se zavádějí postupně, ale některá jsou již v platnosti.
- Od února 2025 platí zákaz nejnebezpečnějších AI systémů a povinnost zajistit AI gramotnost pro zaměstnance.
- Od srpna 2025 platí přísnější pravidla pro tvůrce velkých modelů (jako jsou GPT, Claude atd.).
- Od srpna 2026 budou platná nová pravidla pro používání AI v náboru a kritické infrastruktuře, povinné bude také označovat Deepfakes.
Rozdělení povinností podle míry rizika
1. Zakázaná AI
Mezi nepřijatelné riziko patří systémy, které:
- Hodnotí občany na základě chování.
- Sledují, jestli jste v kanceláři nebo jaké projevujete v práci emoce.
- Předikují kriminální chování.
2. Vysoce riziková AI
Mezi přísně regulované patří:
- AI vybírající životopisy v HR, systémy v nemocnicích nebo při posuzování úvěrů v bance. (Je nutné mít špičkovou dokumentaci, zajistit lidský dohled a vést si protokoly o logování.)
3. Omezené riziko
Mezi ně patří běžné nástroje, jako jsou chatboti nebo generátory obrázků:
- Pokud vygenerujete fotku, text nebo video (Deepfake), musí to být jasně označené.
Povinná AI gramotnost
Jednou z největších novinek je povinnost vzdělávat lidi v oblasti AI. Pokud vaše firma používá AI, musíte zajistit, aby zaměstnanci chápali:
- Jak daný nástroj funguje.
- Jaká jsou jeho rizika (např. chybovost nebo únik dat).
- Jak ho bezpečně ovládat.
Tip: Stačí interní školení, směrnice nebo webinář, ale musíte o tom mít záznam.
Co hrozí za případné porušení?
Pokuty jsou pochopitelně nastaveny tak, aby se nikomu nevyplatilo pravidla ignorovat:
- Až 35 milionů eur (nebo 7 % celosvětového obratu) za používání zakázaných způsobů využívání AI.
- Až 15 milionů eur za porušení ostatních povinností.
Poznámka: Pro malé firmy a startupy jsou pravidla o něco mírnější a pokuty zastropované, aby je nezlikvidovaly.
Kdo na to v Česku dohlíží?
V ČR se role rozdělily následovně:
- ČTÚ (Český Telekomunikační úřad): Hlavní dozor nad trhem. Pokud někdo poruší AI Act, stížnost se posílá sem.
- MPO (Ministerstvo průmyslu a obchodu): Má na starosti legislativu a celkovou AI strategii.
- MPSV (Ministerstvo práce a sociálních věcí): Řeší dopady AI na trh práce a zaměstnance.
Závěr
Pokud dnes používáte ChatGPT k psaní e-mailů, stačí pohlídat bezpečnost dat a školení zaměstnanců. Jakmile ale plánujete nasadit AI do klíčových procesů – jako je nábor nebo automatizované rozhodování – je třeba vše důkladně připravit.
My v ARIONu vám umíme pomoci s přípravou směrnice pro bezpečné využívání AI. Nastavíme mantinely tak, abyste byli v souladu s AI Act a předešli zbytečným chybám při práci s daty. V případě zájmu o více informací nás kontaktujte zde.
