V celé Evropské unii se od srpna změnila pravidla podle nařízení AI Act. Jeho článek 50 řeší transparentní užívání umělé inteligence a zaměřuje se zejména na označování AI obsahu.
Zjednodušeně tedy říká, co a jak označovat, aby bylo jasné, že jde o práci umělé inteligence. Aby byl výklad pravidel jednoznačný, přidala Evropská komise další dva dokumenty, které například ukazují, jak ideálně AI obsah označovat v praxi.
Co konkrétně se tedy mění?
Neviditelné označení
Každý vygenerovaný obsah musí být nově technicky označený tak, aby bylo zpětně rozeznatelné, že je AI generovaný nebo manipulovaný. Typicky se k tomu používá vodoznak nebo se informace propíše do tzv. metadat – tedy skrytých dat, která slouží jako popisek obsahu.
„Je to neviditelná vrstva transparentnosti, kterou člověk při běžném pohledu nevidí, ale díky níž lze původ obsahu zpětně ověřit,“ popisuje pro Téma.21 Lucie Malá z České asociace umělé inteligence, která vzdělává a šíří informace o využití AI.
Odpovědnost za to, že bude takto AI generovaný nebo upravený obsah označený, nese poskytovatel služby, třeba Google nebo Open AI. Pro generativní systémy uvedené na trh před 2. srpnem 2026 ale platí přechodné období, definitivní povinnost mají poskytovatelé od 2. prosince tohoto roku.
Sbohem realistické deepfaky?
Jinak je to ale v případě, že jde o deepfake. Ten AI Act definuje jako generovaný obsah, který se podobá existujícím osobám místům a událostem a může nepravdivě působit jako autentický.
„Typickým deepfakem může být syntetické video veřejně známé osoby, která říká něco, co nikdy neřekla, AI generovaný hlas konkrétní osoby nebo realistická fotografie události, která se nestala,“ uvádí Česká asociace umělé inteligence na svých stránkách.
Taková videa, fotky nebo i zvuky musí ten, kdo je zveřejňuje, viditelně označit jako uměle vytvořené. Pozor, platí to ale pouze pro komerční nebo profesní užití. Pokud si tedy vygenerujete třeba vlastní fotku na pláži v Karibiku, kde jste nikdy nebyli, a přidáte ji na svůj Facebook, označovat ji jako deepfake nemusíte. Jiné by to ale bylo v případě, že by váš osobní profil sloužil třeba jako propagace vaší cestovní kanceláře.
Nová pravidla platí také pro média a ty, kdo informují veřejnost o věcech veřejného zájmu. Pokud používají obrázek nebo text, který byl vygenerován nebo manipulován AI systémem, musí ten, kdo ho zveřejní, označit obsah jako upravený nebo vytvořený umělou inteligencí. To platí třeba i pro náhledové a ilustrační obrázky.
Jak AI obsah poznám?
AI Act sice nepředepisuje konkrétní formu označení, důležité ale je, ale bylo „viditelné nebo slyšitelné a vnímatelné bez zvláštních nástrojů“. Stačí tedy třeba ikona v rohu, štítek nebo i informace v popisku.
Určitou cestu ke sjednocení nabízí Kodex správné praxe, kterým EU zavádí AI štítky. Jejich použití je ale dobrovolné.
„Riziko určité roztříštěnosti tu tedy je. Zároveň ale flexibilita dává v tomto dynamicky se měnícím prostředí smysl, protože jinak vypadá vhodné označení u tištěné reklamy nebo videa a úplně jinak třeba ve virtuální nebo rozšířené realitě,“ vysvětluje Malá.
Ahoj, tady virtuální asistent
Stalo se vám, že píšete na technickou podporu třeba kvůli nefunkční wifi a až po chvíli zjistíte, že je na druhé straně virtuální asistent? I tyto případy nově podléhají označení podle AI Actu.
Povinnost upozornit na to, že s vámi mluví robot, má poskytovatel ve chvíli, kdy komunikace splní čtyři prvky: musí jít o AI systém (1), který je určen k interakci (2), a to přímo (3), s fyzickou osobou (4). Musí ale jít o konverzaci, třeba jednorázové zaznamenání zpětné vazby se nepočítá.
Pravidla platí i u rozpoznávání emocí a biometrické kategorizace. Pokud tedy třeba hrajete virtuální hru, která analyzuje vaše emoce, nebo se ocitnete v podniku, kde kamery vyhodnocují věk návštěvníků, musíte o tom být informováni, a to tím, kdo záznamy využívá. Může jít třeba o textové upozornění u vstupu, ikony nebo ústní sdělení.
A co když pravidla poruším?
Na dodržování pravidel dohlíží Český telekomunikační úřad. Pokud je vaše firma poruší, hrozí jí pokuta až 15 milionů eur, nebo 3 % celosvětového ročního obratu. Stejně tak pokud zjistíte, že nějaká firma porušila vaše právo na informovanost, můžete k Českému telekomunikačnímu úřadu podat stížnost.
Označovat uměle generovaný obsah je podle Lucie Malé potřebné, protože je čím dál hůř rozlišitelný od reality. „Hranice mezi skutečným a uměle vytvořeným obsahem se stírá a lidé musí mít šanci poznat, s čím mají co do činění,“ upozorňuje.
Co teď s tím?
Nejste si po přečtení jistí, jestli se pro vás něco změní nebo jestli se na vás vztahuje povinnost AI obsah označovat? Podívejte se do průvodce, který k novým pravidlům Česká asociace umělé inteligence vytvořila.
