AI Act - nová pravidla pro umělou inteligenci v Evropě
Evropský AI Act, tedy nařízení (EU) 2024/1689, představuje první komplexní právní rámec EU zaměřený přímo na umělou inteligenci. Cílem není AI zakázat, ale nastavit pravidla tak, aby její používání neohrožovalo bezpečnost, základní práva a další chráněné hodnoty.
Základní princip je poměrně jednoduchý, čím větší riziko AI představuje pro člověka nebo společnost, tím přísnější jsou požadavky.
AI Act rozděluje AI podle rizika
Nepřijatelné riziko - AI použití, která představují zásadní ohrožení práv a bezpečnosti lidí. Vybrané praktiky jsou zakázané. Typicky určité formy social scoringu, manipulativního využití AI nebo některé biometrické praktiky.
Vysoké riziko - AI, která může významně ovlivnit zdraví, bezpečnost nebo základní práva člověka. Typicky některé systémy pro nábor zaměstnanců, vzdělávání, kritickou infrastrukturu, biometriku nebo migraci. Vyžadují řízení rizik, dokumentaci, dohled člověka a další kontrolní mechanismy.
Riziko vyžadující transparentnost - Například chatboti, AI agenti, deepfakes a některý AI generovaný obsah. Uživatel musí v relevantních případech vědět, že komunikuje s AI nebo že obsah vytvořila či manipulovala AI.
Minimální nebo žádné riziko - většina běžných AI aplikací. Typickým příkladem jsou spam filtry nebo AI ve videohrách. AI Act pro většinu těchto systémů nestanovuje zvláštní povinnosti.
Kterých AI modelů se AI Act týká?
Modely typu GPT, Claude nebo Gemini typicky spadají do konceptu General-Purpose AI (GPAI), pokud splňují definici obecného modelu schopného vykonávat širokou škálu úloh. Evropská komise ve svých guidelines používá jako technické vodítko mimo jiné trénink nad 10²³ FLOP.
Pro poskytovatele těchto modelů platí například povinnosti:
technická dokumentace
informace pro firmy, které model integrují do vlastních systémů
politika respektování autorských práv
zveřejnění souhrnu obsahu použitého pro trénování
Nejpokročilejší modely se systémovým rizikemAI Act zavádí ještě přísnější režim pro GPAI modely se systémovým rizikem.Jedním z kritérií je tréninkový výkon přesahující 10²⁵ FLOP, který vytváří domněnku systémového rizika. Tento práh je aktuálně předmětem přezkumu.
Ano, AI Act se může týkat i open-source modelů.Open-source poskytovatelé ale mohou za určitých podmínek získat výjimku z některých povinností. Nejde tedy o jednoduché pravidlo - je to Open Source, takže se na to AI Act nevztahuje. Evropská komise vydala speciální výklad právě k tomu, kdy se výjimky použijí.
Platí tedy jednoduché pravidlo AI Act neposuzuje pouze „jaký model používám“. Posuzuje celý kontext:
MODEL → ÚČEL → AI SYSTÉM → DATA → DOPAD NA ČLOVĚKA → ROLE ORGANIZACE → ÚROVEŇ RIZIKA
Proto: GPT, Claude nebo Gemini samy o sobě nejsou automaticky „high-risk“. High-risk může být konkrétní AI systém a způsob, jakým model firma použije.
Modelový příklad - jedna AI, tři různé situace
AI pomáhá napsat e-mail - Zaměstnanec zadá: „Uprav tento e-mail zákazníkovi do profesionální podoby.“ AI připraví text a zaměstnanec ho zkontroluje.Riziko: nízké, AI pouze podporuje člověka při běžné práci a nerozhoduje o jeho právech nebo přístupu ke službě.
AI komunikuje se zákazníkem. Firma nasadí chatbota: „Jsem virtuální asistent. Jak vám mohu pomoci?“ Zákazník komunikuje přímo s AI - klíčové téma: transparentnost. Uživatel má podle pravidel AI Act v relevantních případech vědět, že komunikuje se systémem AI.
Stejná technologie rozhoduje o uchazečích - HR oddělení vytvoří systém: CV kandidáta → AI analýza → scoring → doporučení přijmout / vyřadit Najednou AI ovlivňuje přístup člověka k zaměstnání. To může být high-risk AI systém. Ne proto, že používá GPT, ale protože je AI použita v oblasti zaměstnávání způsobem, který může významně ovlivnit člověka.
Výsledek znamená
Stejný model, stejná technologie, úplně jiné riziko. AI Act neposuzuje pouze to, zda používáte GPT, Claude nebo Gemini. Rozhodující je především, co s AI děláte, jaký má její výstup dopad a jakou roli vaše organizace v AI hodnotovém řetězci zastává.