Nová pravidla pro umělou inteligenci – EU představila návrh nařízení o AI

Nařízení Evropské komise reguluje AI plošně. Mělo by tedy dopadat na všechny systémy umělé inteligence, které se jakýmkoliv způsobem dotýkají občanů EU. Pravidla tak budou pro všechny stejná, zároveň ale hrozí, že na některé budoucí technologie budou stěží přizpůsobitelná. Jaká pravidla pro AI tedy EU plánuje zavést?

Čtyři kategorie AI

Návrh rozděluje autonomní technologie do čtyř kategorií, pro každou pak stanovuje odpovídající povinnosti.

Systémy s nepřijatelným rizikem

Pod tím si představte například systémy pro dálkovou biometrickou identifikaci osob na veřejně přístupných místech (s výjimkami například v trestněprávní oblasti) nebo systémy využívající podprahové manipulativní techniky. Ty nařízení přímo zakazuje kvůli potenciálnímu porušování základních lidských práv. 

Systémy s vysokým rizikem

U systémů s vysokým rizikem (např. v autonomní dopravě nebo zdravotnictví) budou muset jejich poskytovatelé, dovozci, distributoři, ale i uživatelé splňovat určité závazné bezpečnostní požadavky. Konkrétní technická řešení budou stanovovat další normy nebo technické specifikace a certifikace. 

Systémy s nízkým rizikem

U těch bude klíčová především transparentnost. Uživateli by mělo být například jasné, že komunikuje s umělou inteligencí. To by mělo v praxi zamezit především možnosti záměny tzv. deepfakes s realitou. 

Nařízení ale myslí také na ochranu duševního vlastnictví, která by těmito povinnostmi neměla být dotčena. Povinné informace tak budou omezeny na nezbytné minimum a jejich zveřejnění musí být vždy v souladu s ochrannou know-how či obchodního tajemství. V praxi by tak neměl hrozit obávaný únik např. zdrojových kódů příslušného systému. 

Poskytovatelé AI s nízkým rizikem se také mohou řídit různými etickými kodexy. Komise tedy počítá i s jistou formou samoregulace, což lze vzhledem k rychlému vývoji v oblasti umělé inteligence jenom kvitovat. 

Systémy s minimálním rizikem 

Ty bude i nadále možné vyvíjet a používat podle dosavadní právní regulace. 

Požadavky na AI

Návrh také uvádí konkrétní požadavky na umělou inteligenci. Klade důraz především na kvalitu a přesnost dat, testování, vedení záznamů, již zmiňovanou transparentnost, kybernetickou bezpečnost či, v neposlední řadě, lidský dohled. Hlavně u vysoce rizikových systémů by tak měl mít člověk stále poslední slovo. 

Sandboxy

Návrh přináší i opatření na podporu inovací, když zavádí kontrolovaná prostředí pro vývoj AI tzv. regulační pískoviště neboli sandboxy (ano, opravdu se tak v návrhu nařízení označují). Sandboxy mají být speciálně vytvořená místa pro bezpečný vývoj a testování nových inovativních systémů AI ještě před jejich uvedením na trh. 

Evropská rada pro umělou inteligenci

AI bude mít na evropské úrovni speciální orgán – Evropskou radu pro umělou inteligenci, která bude složena ze zástupců jednotlivých členských států. Měla by především sjednocovat praxi v členských státech. Za uplatňování nařízení budou odpovědné vnitrostátní orgány. 

Pokuty

Za porušení povinností, které budou z nařízení vyplývat, mohou být uloženy ve výši až 30 milionů eur nebo 6 % z celosvětového ročního obratu společnosti, která poruší povinnosti v souvislosti se zakázanými AI systémy. Až 20 milionů eur nebo 4 % z celosvětového ročního obratu společnosti pak zaplatí narušitel za nesoulad umělé inteligence s povinnostmi podle nařízení. 

Návrh nařízení je první oficiální vlaštovkou ze strany Evropské unie a určitě ne poslední v oblasti regulace AI technologií. V budoucnu se ještě bude pravděpodobně měnit a doplňovat. O dalším vývoji v této oblasti vás samozřejmě i nadále budeme informovat na našem blogu a sociálních sítích.