Na zákaznické lince se ozve hlas, který působí jako pracovník firmy. Na sociální síti se objeví video známého člověka. Web nabídne článek o komunálních volbách. Ve všech třech případech mohl obsah vytvořit nebo upravit systém umělé inteligence. Od 2.8.2026 pro některé takové situace platí v Evropské unii nová pravidla transparentnosti.
Pravidla vycházejí z článku 50 evropského Aktu o umělé inteligenci, známého také jako AI Act nebo AIA. Jejich smysl je praktický: člověk má vědět, kdy komunikuje se strojem a kdy obraz, zvuk či text nevznikl běžným lidským způsobem. Neznamená to, že každý dokument opravený pomocí AI musí dostat výrazný štítek. Povinnosti se liší podle role firmy, typu systému a způsobu použití obsahu.
Český telekomunikační úřad se novým pravidlům věnuje v Monitorovací zprávě z 07- 08/2026. Zároveň upozorňuje firmy a další organizace, aby si nejprve ujasnily, zda jsou poskytovatelem systému AI, nebo takzvaným zavádějícím subjektem, který cizí systém používá při své činnosti.
Chatbot se nemá vydávat za člověka
Pokud systém AI přímo komunikuje s fyzickou osobou, jeho poskytovatel musí zajistit, aby byl člověk vhodným způsobem informován, že jedná s umělou inteligencí. Týká se to například chatbotů, voicebotů, AI agentů nebo digitálních avatarů.
Oznámení má přijít nejpozději na začátku první interakce. Má být jasné, odlišitelné od ostatního textu a přístupné také lidem se zdravotním postižením. V praxi může jít o větu „Komunikujete s virtuálním asistentem využívajícím umělou inteligenci“ zobrazenou před otevřením chatu nebo sdělenou na začátku hovoru.
Výjimka platí tam, kde je použití AI zřejmé. Evropská komise však doporučuje vykládat tuto výjimku úzce. Název asistenta nebo kreslená ikona robota nemusí sama o sobě stačit, pokud služba jinak působí jako běžná komunikace s pracovníkem firmy.
Pro zákazníka je rozdíl podstatný. Chatbot může rychle najít otevírací dobu, stav objednávky nebo základní postup při poruše. U složitější reklamace by měl člověk vědět, že odpověď neposkytl pracovník s pravomocí případ posoudit. Dobře navržená služba proto kromě označení nabídne také srozumitelnou cestu k lidské obsluze.
Strojově čitelná značka není totéž co viditelný štítek
Poskytovatelé generativních systémů AI musí zajistit, aby vytvořené nebo upravené výstupy nesly účinné a interoperabilní strojově čitelné označení. Týká se zvuku, obrazu, videa i textu. Taková informace může být vložena do metadat nebo jiného technického prvku, který umožní původ obsahu později rozpoznat.
Běžný uživatel tuto značku nemusí na první pohled vidět. Slouží hlavně nástrojům a platformám, které mají umělý původ obsahu zjistit. Viditelné informování lidí je samostatná povinnost v případech, jako jsou deepfaky nebo některé texty o veřejných záležitostech.
Rozdíl lze přirovnat k fotografii s údaji o fotoaparátu v souboru a k popisku umístěnému přímo pod obrázkem. První informaci přečte software nebo člověk, který soubor podrobně zkoumá. Druhé sdělení vidí každý návštěvník stránky.
Deepfake musí být rozpoznatelně označen
AI Act definuje deepfake jako obrazový, zvukový nebo video obsah vytvořený či upravený pomocí AI, který se podobá existující osobě, předmětu, místu, subjektu nebo události a může nepravdivě působit jako autentický.
Firma nebo profesionál, který takový obsah používá, musí jeho umělý původ oznámit nejpozději při prvním zobrazení či přehrání. Nestačí spoléhat pouze na skrytou strojově čitelnou značku. Informace má být viditelná nebo slyšitelná bez použití zvláštního nástroje.
Příklad je jednoduchý. Reklamní agentura nechá pomocí AI vytvořit realistické video, v němž známý sportovec pronáší větu, kterou ve skutečnosti nikdy neřekl. Pokud může záznam působit autenticky, divák se musí dozvědět, že jde o obsah vytvořený nebo upravený AI.
U uměleckých, satirických a podobných děl se označení může přizpůsobit tak, aby nerušilo jejich sledování. Povinnost informovat však nezmizí. U běžných filmových efektů nebo zjevně smyšlené animace naopak nemusí obsah splnit samotnou definici deepfaku, protože publikum neočekává autentický záznam reality.
U textů záleží na veřejném zájmu a lidské kontrole
Častou otázkou je, zda se má označovat každý e-mail, popis produktu nebo článek, na kterém se podílela AI. Akt o umělé inteligenci tak širokou povinnost nestanovuje.
Zavádějící subjekt musí jasně označit text vytvořený nebo upravený AI tehdy, když je publikován s cílem informovat veřejnost o záležitosti veřejného zájmu. Patřit sem mohou témata spojená s politikou, veřejnou správou, bezpečností, zdravím, základními právy nebo fungováním justice.
Pravidlo má důležitou výjimku. Označení se nevyžaduje, jestliže text prošel lidskou kontrolou nebo redakčním procesem a za jeho zveřejnění nese redakční odpovědnost konkrétní osoba či organizace. Použití AI pro první návrh, přepis poznámek nebo jazykovou korekturu tedy automaticky neznamená povinnost opatřit hotový článek štítkem. Odpovědnost za přesnost a výslednou podobu textu však zůstává na vydavateli.
Rozpoznávání emocí a biometrická kategorizace
Článek 50 řeší také systémy, které rozpoznávají emoce nebo biometricky kategorizují lidi. Organizace, která takový systém používá, musí dotčené osoby vhodně informovat.
Může jít například o analýzu výrazu obličeje, hlasu nebo dalších biometrických znaků. Samotné informování ovšem neznamená, že je každé použití povolené. AI Act některé praktiky zakazuje a současně se mohou uplatnit pravidla ochrany osobních údajů. Firma proto nemůže nasadit podobný systém pouze s odůvodněním, že na dveře umístila informační ceduli.
Co mají firmy zkontrolovat
Prvním krokem je seznam míst, kde organizace AI používá směrem k veřejnosti. Patří sem webový chat, automatická telefonní linka, generované reklamní vizuály, videa, články a systémy pracující s biometrickými údaji.
U každého použití je potřeba určit, kdo systém poskytuje a kdo jej pouze nasazuje. Firma může být zavádějícím subjektem u běžného externího chatbota. Pokud však nechá vyvinout vlastní systém a uvádí ho pod svým jménem, může současně plnit roli poskytovatele. Od toho se odvíjejí konkrétní povinnosti.
Následuje kontrola oznámení. Uživatel se má o interakci s AI dozvědět včas, ne až v obchodních podmínkách ukrytých na jiné stránce. Označení deepfaku musí být pochopitelné bez technické analýzy souboru. Interní postup by měl také určit, kdo rozhodne o označení sporného obsahu a kdo uchová informace o jeho vzniku.
Evropská komise vydala k článku 50 podrobné pokyny a dobrovolný Kodex správné praxe pro transparentnost AI generovaného obsahu. Kodex pomáhá převést zákonné požadavky do konkrétních technických a organizačních kroků. Nenahrazuje však posouzení toho, jaké povinnosti dopadají na konkrétní službu.
Označení má přijít dřív než pochybnost
Uživatel nemá z tónu hlasu nebo drobných chyb hádat, zda komunikuje s člověkem. Stejně tak nemá složitě ověřovat, zda realistické video zachycuje skutečnou událost. Jasné oznámení na začátku interakce nebo při prvním zobrazení obsahu dává lidem potřebný kontext.
Pro firmy je nejpraktičtější začít jednoduchou inventurou. Najít všechny chatboty, hlasové asistenty a generovaný veřejný obsah, přiřadit k nim odpovědnou osobu a zkontrolovat označení. Nová pravidla platí od 2. 8. 2026. Obsah vytvořený před tímto datem se nemusí označovat zpětně, Evropská komise to však tam, kde je to možné, doporučuje.
Autor/ka obrázku: Freepik.com