Průvodce
AI Act v praxi: co musí udělat firma s chatbotem nebo AI agentem
Evropský AI Act platí a od srpna 2026 nad ním dohlížejí národní úřady. Firmám, které používají chatbota nebo AI agenta, z něj nejčastěji plynou dvě praktické povinnosti: starat se o AI gramotnost lidí a nezastírat, že s lidmi komunikuje AI. Shrnujeme termíny, kategorie rizika a co udělat.
Obsah článku
Stav k 9. listopadu 2026. Článek je praktické shrnutí, ne právní rada. Termíny a znění ověřujte v oficiálních zdrojích uvedených na konci článku.
Co je AI Act
AI Act, česky akt o umělé inteligenci, je nařízení Evropské unie 2024/1689. Platí přímo ve všech členských státech. Národní předpisy určují hlavně dozorové úřady a sankce. Vstoupilo v platnost 1. srpna 2024 a jeho povinnosti naskakují postupně.
Nařízení reguluje AI podle rizika. Čím větší dopad může systém mít na zdraví, bezpečnost nebo práva lidí, tím přísnější pravidla platí. Pro většinu firem, které AI používají v zákaznické podpoře nebo administrativě, jsou povinnosti mírné, ale existují.
V červenci 2026 nařízení změnil takzvaný AI Omnibus, nařízení (EU) 2026/1744. Posunul některé termíny, zjednodušil část povinností a v platnost vstoupil 27. července 2026.
Časová osa
| Datum | Co se použije |
|---|---|
| 1. 8. 2024 | AI Act vstupuje v platnost. |
| 2. 2. 2025 | Zakázané praktiky a povinnost AI gramotnosti (článek 4). |
| 2. 8. 2025 | Pravidla pro modely AI pro obecné účely a správa (úřady, sankce). |
| 2. 8. 2026 | Většina ostatních pravidel včetně transparentnosti (článek 50). Dozor národních úřadů. |
| 2. 12. 2027 | Povinnosti pro vysoce rizikové systémy z přílohy III, například nábor nebo vzdělávání. |
| 2. 8. 2028 | Povinnosti pro vysoce rizikové AI zabudovanou do regulovaných výrobků, například strojů nebo hraček. |
Termíny pro vysoce rizikové systémy posunul AI Omnibus. Původně se měly použít od srpna 2026 (příloha III) a od srpna 2027 (příloha I).
Kategorie rizika
AI Act rozlišuje čtyři úrovně:
- Nepřijatelné riziko. Zakázané praktiky, například sociální skórování, manipulace zneužívající zranitelnost lidí nebo některé formy biometrické identifikace. AI Omnibus od prosince 2026 přidává zákaz AI, která vytváří nekonsenzuální intimní obsah nebo materiály zneužívání dětí.
- Vysoké riziko. Systémy ve vyjmenovaných oblastech, například nábor a hodnocení zaměstnanců, vzdělávání, přístup k základním službám, kritická infrastruktura nebo biometrie. Mají přísné povinnosti: řízení rizik, kvalitu dat, dokumentaci, lidský dohled a další.
- Riziko transparentnosti. Systémy, které komunikují s lidmi nebo vytvářejí obsah, typicky chatboty, voiceboty a generátory textu, obrázků či videa. Musí být jasné, že jde o AI.
- Minimální riziko. Většina ostatních použití, například filtry spamu. Zvláštní povinnosti nemají.
Samostatná pravidla platí pro poskytovatele velkých jazykových modelů, tedy modelů AI pro obecné účely. Ta se týkají hlavně jejich tvůrců, ne firem, které nad nimi používají hotové služby.
Jste poskytovatel, nebo zavádějící subjekt?
Povinnosti se liší podle role. Poskytovatel AI systém vyvíjí nebo ho uvádí na trh pod svým jménem. Zavádějící subjekt je firma nebo úřad, který AI systém používá při své činnosti.
Pokud máte na webu chatbota od dodavatele nebo používáte AI agenta, jste obvykle zavádějící subjekt. Dodavatel systému je poskytovatel. Část povinností, třeba jak je systém navržený, nese on, část zůstává na vás, třeba jak systém používáte a jak o něm informujete lidi.
AI gramotnost (článek 4)
Článek 4 platí od 2. února 2025 a od 2. srpna 2026 ho kontrolují národní orgány dozoru nad trhem. Po úpravě AI Omnibusem platí, že poskytovatelé i zavádějící subjekty mají přijmout opatření na podporu AI gramotnosti svých zaměstnanců a dalších lidí, kteří s AI pracují jejich jménem. Mohou to být i externí spolupracovníci.
Podle Evropské komise z toho plyne:
- Konkrétní úroveň znalostí není předepsaná. Opatření mají odpovídat znalostem lidí a tomu, k čemu AI používají.
- Certifikát ani zkouška nejsou potřeba. Měřit znalosti zaměstnanců není povinné.
- Evidence je dobrovolná. Firma si ale může vést interní záznam o školeních a dalších krocích.
- Samotný návod k použití obvykle nestačí.
Komise jako minimum doporučuje, aby firma lidem vysvětlila, co AI je a jaké nástroje se ve firmě používají, ujasnila si, zda je poskytovatel, nebo zavádějící subjekt, posoudila rizika používaných systémů a školení přizpůsobila znalostem lidí a účelu použití včetně právních a etických otázek. Sankce mají být přiměřené a hrozí spíš tehdy, když incident vznikne kvůli chybějícímu proškolení.
Praktický způsob, jak to splnit, je workshop pro zaměstnance. Nabízíme ho jako školení AI gramotnosti na míru.
Transparentnost u chatbotů a voicebotů (článek 50)
Povinnosti transparentnosti se použijí od 2. srpna 2026. Pro firmy s chatbotem nebo AI agentem jsou podstatné hlavně tyto:
- Lidé mají vědět, že komunikují s AI. AI systém, který s lidmi komunikuje přímo, musí být navržený tak, aby to bylo jasné, pokud to není zřejmé z okolností. Tuto povinnost nese poskytovatel, ale jako firma byste neměli označení skrývat.
- Obsah vytvořený AI má být rozpoznatelný. Poskytovatelé systémů, které generují text, zvuk, obrázky nebo video, mají výstupy označovat ve strojově čitelné podobě.
- Deepfaky a texty pro veřejnost. Kdo zveřejní realistický obsah vytvořený AI nebo AI text, který informuje veřejnost o věcech veřejného zájmu, musí to uvést, pokud text neprošel lidskou redakční kontrolou.
V praxi to znamená: chatbot na webu by měl být označený jako AI asistent, voicebot by se měl na začátku hovoru představit jako AI a e-maily, které agent posílá zákazníkům samostatně, by neměly předstírat, že je psal člověk. Komise k tomu vydává pokyny a kodex pro označování obsahu vytvořeného AI.
Kdy může být AI agent vysoce rizikový
AI agent pro zákaznickou podporu, objednávky nebo administrativu do vysokého rizika obvykle nespadá. Situace se mění, když agent rozhoduje nebo připravuje rozhodnutí ve vyjmenovaných oblastech:
- Zaměstnání. Třídění životopisů, hodnocení uchazečů nebo výkonu zaměstnanců.
- Vzdělávání. Přijímání studentů nebo hodnocení výsledků. Chatbot, který rodičům a uchazečům jen podává informace, jak ho popisujeme na stránce AI pro školy, sem obvykle nespadá, protože o přijetí ani hodnocení nerozhoduje.
- Přístup k základním službám. Například posuzování úvěruschopnosti nebo nároku na veřejné služby.
Pro tyto případy platí přísnější povinnosti od 2. prosince 2027. Pokud uvažujete o AI v některé z těchto oblastí, počítejte s posouzením rizik a konzultací s právníkem.
Checklist pro firmu
- Sepište, jaké AI nástroje ve firmě používáte, včetně těch, které si lidé zavedli sami, třeba ChatGPT nebo aplikace vzniklé vibe codingem.
- U každého určete svou roli: poskytovatel, nebo zavádějící subjekt.
- Ověřte, že žádný nástroj nespadá do zakázaných praktik a zda některý nepatří do vysokého rizika.
- Zajistěte AI gramotnost lidí přiměřeně jejich práci, například školením a jasnými pravidly.
- Označte chatboty a voiceboty tak, aby lidé věděli, že komunikují s AI.
- Nastavte lidský dohled nad kroky, které mají dopad na zákazníky, peníze nebo osobní údaje.
- Veďte si přehled: kdo AI používá, k čemu, jaká školení proběhla a kdo za nástroj odpovídá.
- Nezapomeňte na GDPR. AI Act ochranu osobních údajů nenahrazuje, platí obojí.
Jak s tím pomáhá Chetty
Chatbot Chetty odpovídá jen ze zdrojů, které schválíte, a když odpověď nezná, přizná to. V administraci máte přepisy konverzací, takže víte, co zákazníkům říká. AI agent má nastavená oprávnění: u každé činnosti určíte, zda ji smí udělat sám, musí se zeptat, nebo ji nesmí vůbec, a o každém kroku zůstává záznam. Agent může běžet ve vašem prostředí, třeba v Microsoft Azure nebo na vlastním serveru. Pro organizace, které nechtějí posílat dokumenty do cloudu, je určený AI Server. Úřadům se věnuje stránka AI pro města a obce.
Při nasazení s vámi projdeme, jak bude chatbot nebo voicebot označený a které kroky agenta má schvalovat člověk. A pokud potřebujete proškolit lidi, připravíme workshop AI gramotnosti na míru vaší firmě.
Zdroje
Chcete to vidět na vlastních datech?
Za 30 minut projdeme, kde by vám AI ušetřila nejvíc práce, a ukážeme to na reálném příkladu.
Časté dotazy
Týká se AI Act i malé firmy, která jen používá chatbota?
Musíme mít certifikát nebo zkoušku z AI gramotnosti?
Je chatbot na webu vysoce rizikový systém?
Odkdy platí povinnost označit chatbota jako AI?
Co změnil AI Omnibus?
Je tento článek právní radou?
Mohlo by vás zajímat
Školení AI
Workshop AI gramotnosti pro zaměstnance: bezpečná práce s AI, ochrana dat a ověřování výstupů. Na míru vaší firmě a s ohledem na článek 4 AI Actu.
Číst dál Průvodce · 6 min čteníCo je AI agent
AI agent nejen odpovídá, ale práci sám udělá. Jak AI agenti fungují, čím se liší od chatbota a asistenta, kde se ve firmě vyplatí a jak s nimi začít.
Číst dál
ProduktChatbot
AI chatbot Chetty odpovídá zákazníkům na webu 24/7 z vašich aktuálních dat, doporučí produkt, sbírá kontakty a ve správnou chvíli předá konverzaci člověku.
Číst dál