Nařízení Evropské unie o umělé inteligenci představuje zásadní krok k regulaci této dynamicky se rozvíjející technologie. Nařízení Evropského parlamentu a Rady (EU) 2024/1689 stanovuje jednotná pravidla pro vývoj, uvádění na trh a provozování systémů umělé inteligence (AI) s cílem zajistit jejich bezpečnost, transparentnost a důvěryhodnost. Regulace si klade za cíl chránit základní lidská práva, předcházet diskriminaci a stanovit odpovědnost společností vyvíjejících a využívajících AI systémy.
Nařízení se vztahuje na širokou škálu subjektů. Dotkne se především poskytovatelů AI, tedy společností a jiných organizací vyvíjejících a dodávajících AI systémy na trhu EU. Dále se regulace týká zavádějících subjektů, tedy institucí a společností, které systémy umělé inteligence aktivně využívají. Nařízení dopadá i na dovozce a distributory AI systémů, kteří uvádějí tyto technologie na evropský trh. V neposlední řadě budou muset nové požadavky splnit také veřejné instituce, pokud využívají systémy AI například ve zdravotnictví, dopravě či při vymáhání práva. Nařízení se nevztahuje pouze na subjekty sídlící v EU, ale i na subjekty usazené nebo se nacházející mimo EU.
Klíčovým prvkem tohoto nařízení je přístup založený na hodnocení rizik jednotlivých AI systémů. Systémy s nepřijatelným rizikem, jako je například sociální scoring po vzoru Číny, jsou zcela zakázány. Do kategorie vysoce rizikových AI systémů spadají technologie využívané například v oblastech, které mají významný dopad na životy občanů, jako je zdravotnictví, doprava, zaměstnávání nebo posuzování úvěruschopnosti. Tyto systémy budou muset splnit přísná regulační kritéria. AI s nízkým rizikem, například chatboty, bude podléhat pouze povinnosti transparentnosti. Jedním z důležitých aspektů nařízení je všeobecná povinnost označovat obsah generovaný AI, což znamená, že bez ohledu na rizikovost systému AI budou vývojáři povinni zajistit, aby uživatelé byli zřetelně informováni o tom, že komunikují s umělou inteligencí.
Nařízení dále zavádí několik klíčových požadavků, které budou muset společnosti zavádějící systém AI splnit. Společnosti zavádějící vysoce rizikové systémy AI budou mít povinnost provádět posouzení rizik a zavést mechanismy pro monitorování a reportování incidentů. Dále budou muset jmenovat odpovědné osoby, které zajistí soulad AI systémů s novými pravidly. Naopak společnosti využívající nízkorizikové AI systémy nemusí splňovat přísná pravidla, pokud však mohou tyto systémy AI vést ke klamání uživatelů, například generováním deepfake obsahu nebo vytváření zpravodajských článků za pomoci AI, budou se na ně vztahovat specifické požadavky na označování takového obsahu a informování uživatelů. Zavádějící subjekty budou navíc povinny, bez ohledu na rizikovost systému AI, zajistit, aby jejich zaměstnanci byli dostatečně proškoleni v oblasti AI, dle jejich role a odpovědnosti při práci se systémy AI.
Sankce za porušení povinností jsou velmi přísné – ve většině případů mohou dosáhnout až 3 % celosvětového obratu společnosti nebo 15 milionů eur, podle toho, která částka je vyšší. Ve zvlášť závažných případech pak mohou sankce dosahovat až 7 % celosvětového obratu nebo 35 milionů eur. Pokuty hrozí například za neoznačené AI generované materiály nebo za nesplnění povinností transparentnosti.
Nové nařízení tak přináší celou řadu výzev. Mezi hlavní otázky patří, jak se pravidla budou aplikovat v praxi a zda se subjekty dokážou včas přizpůsobit novým regulacím. Dalším diskutovaným tématem je, zda regulace neomezí inovace a konkurenceschopnost evropských podniků na globálním trhu AI. Problematické může být také vymáhání pravidel u nadnárodních korporací, které AI systémy provozují mimo EU.
Navzdory těmto výzvám má nová regulace potenciál stát se vzorem pro ostatní regiony a vytvořit rámec pro odpovědné využívání umělé inteligence. Stanovením jasných pravidel pro vývoj a použití AI může EU zajistit bezpečnější a etičtější přístup k těmto technologiím. Regulované prostředí může zajistit větší důvěru veřejnosti v umělou inteligenci a podpořit investice do inovací v oblasti odpovědných AI systémů. Evropská unie má tímto krokem v úmyslu chránit své občany, ale zároveň vytvořit příznivé podmínky pro dlouhodobý a udržitelný rozvoj AI technologií na globální úrovni. Celosvětová diskuse o etických a právních aspektech AI pravděpodobně nabere na intenzitě a bude zajímavé sledovat, jak se nařízení v praxi osvědčí a jak ovlivní budoucí vývoj umělé inteligence nejen v Evropě, ale i ve světě.
Jan Příhoda