Průvodce

AI Act v praxi: co musí udělat firma s chatbotem nebo AI agentem

Evropský AI Act platí a od srpna 2026 nad ním dohlížejí národní úřady. Firmám, které používají chatbota nebo AI agenta, z něj nejčastěji plynou dvě praktické povinnosti: starat se o AI gramotnost lidí a nezastírat, že s lidmi komunikuje AI. Shrnujeme termíny, kategorie rizika a co udělat.

MSMichal Stoklasa6 min čtení
Obsah článku

Stav k 9. listopadu 2026. Článek je praktické shrnutí, ne právní rada. Termíny a znění ověřujte v oficiálních zdrojích uvedených na konci článku.

Co je AI Act

AI Act, česky akt o umělé inteligenci, je nařízení Evropské unie 2024/1689. Platí přímo ve všech členských státech. Národní předpisy určují hlavně dozorové úřady a sankce. Vstoupilo v platnost 1. srpna 2024 a jeho povinnosti naskakují postupně.

Nařízení reguluje AI podle rizika. Čím větší dopad může systém mít na zdraví, bezpečnost nebo práva lidí, tím přísnější pravidla platí. Pro většinu firem, které AI používají v zákaznické podpoře nebo administrativě, jsou povinnosti mírné, ale existují.

V červenci 2026 nařízení změnil takzvaný AI Omnibus, nařízení (EU) 2026/1744. Posunul některé termíny, zjednodušil část povinností a v platnost vstoupil 27. července 2026.

Časová osa

Datum Co se použije
1. 8. 2024 AI Act vstupuje v platnost.
2. 2. 2025 Zakázané praktiky a povinnost AI gramotnosti (článek 4).
2. 8. 2025 Pravidla pro modely AI pro obecné účely a správa (úřady, sankce).
2. 8. 2026 Většina ostatních pravidel včetně transparentnosti (článek 50). Dozor národních úřadů.
2. 12. 2027 Povinnosti pro vysoce rizikové systémy z přílohy III, například nábor nebo vzdělávání.
2. 8. 2028 Povinnosti pro vysoce rizikové AI zabudovanou do regulovaných výrobků, například strojů nebo hraček.

Termíny pro vysoce rizikové systémy posunul AI Omnibus. Původně se měly použít od srpna 2026 (příloha III) a od srpna 2027 (příloha I).

Kategorie rizika

AI Act rozlišuje čtyři úrovně:

  • Nepřijatelné riziko. Zakázané praktiky, například sociální skórování, manipulace zneužívající zranitelnost lidí nebo některé formy biometrické identifikace. AI Omnibus od prosince 2026 přidává zákaz AI, která vytváří nekonsenzuální intimní obsah nebo materiály zneužívání dětí.
  • Vysoké riziko. Systémy ve vyjmenovaných oblastech, například nábor a hodnocení zaměstnanců, vzdělávání, přístup k základním službám, kritická infrastruktura nebo biometrie. Mají přísné povinnosti: řízení rizik, kvalitu dat, dokumentaci, lidský dohled a další.
  • Riziko transparentnosti. Systémy, které komunikují s lidmi nebo vytvářejí obsah, typicky chatboty, voiceboty a generátory textu, obrázků či videa. Musí být jasné, že jde o AI.
  • Minimální riziko. Většina ostatních použití, například filtry spamu. Zvláštní povinnosti nemají.

Samostatná pravidla platí pro poskytovatele velkých jazykových modelů, tedy modelů AI pro obecné účely. Ta se týkají hlavně jejich tvůrců, ne firem, které nad nimi používají hotové služby.

Jste poskytovatel, nebo zavádějící subjekt?

Povinnosti se liší podle role. Poskytovatel AI systém vyvíjí nebo ho uvádí na trh pod svým jménem. Zavádějící subjekt je firma nebo úřad, který AI systém používá při své činnosti.

Pokud máte na webu chatbota od dodavatele nebo používáte AI agenta, jste obvykle zavádějící subjekt. Dodavatel systému je poskytovatel. Část povinností, třeba jak je systém navržený, nese on, část zůstává na vás, třeba jak systém používáte a jak o něm informujete lidi.

AI gramotnost (článek 4)

Článek 4 platí od 2. února 2025 a od 2. srpna 2026 ho kontrolují národní orgány dozoru nad trhem. Po úpravě AI Omnibusem platí, že poskytovatelé i zavádějící subjekty mají přijmout opatření na podporu AI gramotnosti svých zaměstnanců a dalších lidí, kteří s AI pracují jejich jménem. Mohou to být i externí spolupracovníci.

Podle Evropské komise z toho plyne:

  • Konkrétní úroveň znalostí není předepsaná. Opatření mají odpovídat znalostem lidí a tomu, k čemu AI používají.
  • Certifikát ani zkouška nejsou potřeba. Měřit znalosti zaměstnanců není povinné.
  • Evidence je dobrovolná. Firma si ale může vést interní záznam o školeních a dalších krocích.
  • Samotný návod k použití obvykle nestačí.

Komise jako minimum doporučuje, aby firma lidem vysvětlila, co AI je a jaké nástroje se ve firmě používají, ujasnila si, zda je poskytovatel, nebo zavádějící subjekt, posoudila rizika používaných systémů a školení přizpůsobila znalostem lidí a účelu použití včetně právních a etických otázek. Sankce mají být přiměřené a hrozí spíš tehdy, když incident vznikne kvůli chybějícímu proškolení.

Praktický způsob, jak to splnit, je workshop pro zaměstnance. Nabízíme ho jako školení AI gramotnosti na míru.

Transparentnost u chatbotů a voicebotů (článek 50)

Povinnosti transparentnosti se použijí od 2. srpna 2026. Pro firmy s chatbotem nebo AI agentem jsou podstatné hlavně tyto:

  • Lidé mají vědět, že komunikují s AI. AI systém, který s lidmi komunikuje přímo, musí být navržený tak, aby to bylo jasné, pokud to není zřejmé z okolností. Tuto povinnost nese poskytovatel, ale jako firma byste neměli označení skrývat.
  • Obsah vytvořený AI má být rozpoznatelný. Poskytovatelé systémů, které generují text, zvuk, obrázky nebo video, mají výstupy označovat ve strojově čitelné podobě.
  • Deepfaky a texty pro veřejnost. Kdo zveřejní realistický obsah vytvořený AI nebo AI text, který informuje veřejnost o věcech veřejného zájmu, musí to uvést, pokud text neprošel lidskou redakční kontrolou.

V praxi to znamená: chatbot na webu by měl být označený jako AI asistent, voicebot by se měl na začátku hovoru představit jako AI a e-maily, které agent posílá zákazníkům samostatně, by neměly předstírat, že je psal člověk. Komise k tomu vydává pokyny a kodex pro označování obsahu vytvořeného AI.

Kdy může být AI agent vysoce rizikový

AI agent pro zákaznickou podporu, objednávky nebo administrativu do vysokého rizika obvykle nespadá. Situace se mění, když agent rozhoduje nebo připravuje rozhodnutí ve vyjmenovaných oblastech:

  • Zaměstnání. Třídění životopisů, hodnocení uchazečů nebo výkonu zaměstnanců.
  • Vzdělávání. Přijímání studentů nebo hodnocení výsledků. Chatbot, který rodičům a uchazečům jen podává informace, jak ho popisujeme na stránce AI pro školy, sem obvykle nespadá, protože o přijetí ani hodnocení nerozhoduje.
  • Přístup k základním službám. Například posuzování úvěruschopnosti nebo nároku na veřejné služby.

Pro tyto případy platí přísnější povinnosti od 2. prosince 2027. Pokud uvažujete o AI v některé z těchto oblastí, počítejte s posouzením rizik a konzultací s právníkem.

Checklist pro firmu

  1. Sepište, jaké AI nástroje ve firmě používáte, včetně těch, které si lidé zavedli sami, třeba ChatGPT nebo aplikace vzniklé vibe codingem.
  2. U každého určete svou roli: poskytovatel, nebo zavádějící subjekt.
  3. Ověřte, že žádný nástroj nespadá do zakázaných praktik a zda některý nepatří do vysokého rizika.
  4. Zajistěte AI gramotnost lidí přiměřeně jejich práci, například školením a jasnými pravidly.
  5. Označte chatboty a voiceboty tak, aby lidé věděli, že komunikují s AI.
  6. Nastavte lidský dohled nad kroky, které mají dopad na zákazníky, peníze nebo osobní údaje.
  7. Veďte si přehled: kdo AI používá, k čemu, jaká školení proběhla a kdo za nástroj odpovídá.
  8. Nezapomeňte na GDPR. AI Act ochranu osobních údajů nenahrazuje, platí obojí.

Jak s tím pomáhá Chetty

Chatbot Chetty odpovídá jen ze zdrojů, které schválíte, a když odpověď nezná, přizná to. V administraci máte přepisy konverzací, takže víte, co zákazníkům říká. AI agent má nastavená oprávnění: u každé činnosti určíte, zda ji smí udělat sám, musí se zeptat, nebo ji nesmí vůbec, a o každém kroku zůstává záznam. Agent může běžet ve vašem prostředí, třeba v Microsoft Azure nebo na vlastním serveru. Pro organizace, které nechtějí posílat dokumenty do cloudu, je určený AI Server. Úřadům se věnuje stránka AI pro města a obce.

Při nasazení s vámi projdeme, jak bude chatbot nebo voicebot označený a které kroky agenta má schvalovat člověk. A pokud potřebujete proškolit lidi, připravíme workshop AI gramotnosti na míru vaší firmě.

Konzultace zdarma

Chcete to vidět na vlastních datech?

Za 30 minut projdeme, kde by vám AI ušetřila nejvíc práce, a ukážeme to na reálném příkladu.

Další články

Časté dotazy

Týká se AI Act i malé firmy, která jen používá chatbota?
Ano. Nařízení se vztahuje na poskytovatele AI systémů i na firmy, které je profesně používají. U běžného chatbota jde hlavně o AI gramotnost lidí a o to, aby zákazníci věděli, že komunikují s AI.
Musíme mít certifikát nebo zkoušku z AI gramotnosti?
Ne. Podle Evropské komise není potřeba certifikát ani měření znalostí zaměstnanců. Evidence školení není povinná, firma si ji ale může vést interně.
Je chatbot na webu vysoce rizikový systém?
Běžný chatbot pro zákaznickou podporu do vysokého rizika obvykle nespadá. Platí pro něj povinnosti transparentnosti. Vysoké riziko se týká vyjmenovaných oblastí, například náboru zaměstnanců, hodnocení ve vzdělávání nebo přístupu k základním službám.
Odkdy platí povinnost označit chatbota jako AI?
Povinnosti transparentnosti podle článku 50 se použijí od 2. srpna 2026. Lidé mají vědět, že komunikují s AI, pokud to není zřejmé z okolností.
Co změnil AI Omnibus?
Posunul termíny pro vysoce rizikové systémy na 2. prosince 2027 a 2. srpna 2028, zjemnil povinnost AI gramotnosti a rozšířil zjednodušení pro malé a střední podniky na tzv. small mid-caps. Platí od 27. července 2026.
Je tento článek právní radou?
Ne. Jde o praktické shrnutí podle stavu k 9. listopadu 2026. U konkrétního použití AI s vyšším rizikem doporučujeme konzultaci s právníkem.