Odpočítávání skončilo. Od 2. srpna vstoupily v platnost povinnost transparentnosti a většina pravidel pro vysoce rizikové systémy AI.

Zatímco na korporátních poradách se ještě donedávna vedly debaty o tom, kdy a v jaké podobě přijde regulace umělé inteligence, Evropská unie tuto otázku už vyřešila. Nařízením 2024/1689, známým jako AI Act, vznikl vůbec první ucelený právní rámec pro umělou inteligenci na světě. Není to však zákon, který na firmy dopadne jedním úderem. Spíš jde o proces, jenž postupuje po vlnách. A jednu z nich máme čerstvě za sebou.

AI Act vstoupil v platnost již od srpna 2024. Obecná pravidla a první zákazy pak platí od 2. února 2025, pravidla pro modely AI pro všeobecné účely pak od 2. srpna 2025. Právě teď jsme ovšem v nejcitelnější fázi celého procesu, když od 2. srpna vstoupily v platnost povinnost transparentnosti a většina pravidel pro vysoce rizikové systémy AI. Regulace se tak konečně přesouvá z teorie do každodenní praxe.

Na obzoru zbývá už jen jeden velký časový milník, a tím je rok 2027, kdy dorazí poslední fáze pro vybrané vysoce rizikové systémy zabudované do produktů, které už dnes podléhají jiné evropské regulaci. Brusel tak neurčil jen to, co se má regulovat, ale i tempo, jakým se na to firmy musí adaptovat. A toto tempo nyní nabírá obrátky. Co to v praxi znamená?

Riziko jako určující faktor

Základním stavebním kamenem AI Actu je princip řízení rizik. „Nízkoriziková“ umělá inteligence zůstává firmám k dispozici bez velkých omezení. Jakmile ale systém zasahuje do zdraví, bezpečnosti nebo základních práv lidí, dostává nálepku „vysoce riziková“. A s ní přichází i balík povinností: dokumentace, dohled, testování, zveřejňování informací o fungování, v krajním případě i ukončení používání.

Pro spoustu podniků tak není klíčovou otázkou, zda AI používají, ale který konkrétní případ užití spadá do dané kategorie. Firmy, jež nasazují modely pro všeobecné účely, řeší jiné povinnosti než ty, které AI zabudovávají přímo do svých produktů a služeb a musí posoudit, zda se nedostaly do pásma vysokého rizika.

AI Act se přitom netýká pouze velkých technologických firem. Dopadá na vydavatele pracující s AI generovaným obsahem, banky spoléhající na automatizované rozhodování i na jakoukoli společnost, jež umělou inteligenci používá při náboru zaměstnanců, péči o klienty nebo v běžném provozu.

Banky: Credit scoring jako vysoce rizikový systém

Bankovní sektor patří k odvětvím, na nějž AI Act dopadá nejkonkrétněji. Evropský orgán pro bankovnictví (EBA) upozorňuje, že AI se v bankovnictví a platebních službách napříč EU využívá čím dál víc – především při posuzování úvěruschopnosti, odhalování podvodů a klientské podpoře.

Právě posuzování úvěruschopnosti a credit scoringu fyzických osob přitom AI Act zařazuje mezi vysoce rizikové systémy, protože přímo ovlivňují přístup lidí k penězům a základním finančním službám. Pro banky to znamená přísnější kontrolu kvality dat, logování, lidský dohled, přesnost, robustnost i kybernetickou bezpečnost u všech procesů, kde AI vstupuje do citlivého rozhodování.

EBA už tyto požadavky provázala se specifiky bankovního a platebního sektoru. AI Act tak pro finanční instituce dávno přestal být teoretickým cvičením a stal se konkrétní sektorovou compliance povinností.

Média: konec anonymního AI obsahu

V případě médií se situace podstatně liší. Nejviditelnější dopad na vydavatele, vysílatele a redakce má článek 50 AI Actu, který cílí na generativní AI a deepfake technologie. Smysl je jasný: omezit klamání, vydávání se za někoho jiného a šíření dezinformací. Od 2. srpna 2026 proto musí být obsah vytvořený nebo upravený umělou inteligencí v případech, na které se nařízení vztahuje, jasně označen.

Nejde o zákaz nástrojů, které redakce už běžně používají, jako jsou ty pro tvorbu titulků, střih videa, překlady, sumarizace textů nebo generování grafiky. Jde o povinné přiznání, že ve hře byla AI. Evropská komise k tomu připravila Kodex praxe pro transparentnost obsahu generovaného AI, který má pomoct nastavit, jak přesně deepfake i AI generované texty publikované ve věcech veřejného zájmu značit.

Filip Drnec
Managing director

Více na ieuro.cz