Evropská unie se rozhodla regulovat umělou inteligenci (AI), aby byla tato inovativní technologie využívána bezpečněji a efektivněji. Nový zákon, který Evropská komise navrhla v dubnu 2021, se stane prvním právním rámcem pro AI v historii EU. Jeho cílem je kategorizovat systémy AI podle úrovně rizika, které představují pro uživatele, a na základě toho přizpůsobit míru regulace.
V čem je tento zákon unikátní a proč právě nyní?
Umělá inteligence se neustále vyvíjí a proniká do všech sfér našich životů, od zdravotnictví po vzdělávání. Evropský parlament klade velký důraz na to, aby systémy AI používané v EU byly bezpečné, transparentní, sledovatelné, nediskriminační a šetrné k životnímu prostředí. Velká pozornost se věnuje také tomu, aby byly tyto systémy pod dohledem lidí, nikoli zcela automatizované.
Parlament chce také vytvořit technologicky neutrální, jednotnou definici AI, která by se dala použít na budoucí systémy AI.
Zákon o AI stanoví různá pravidla pro různé úrovně rizika.
Nepřijatelné riziko
Systémy považované za nepřijatelné riziko budou zakázány. Některé výjimky mohou být povoleny pro účely vymáhání práva.
Patří sem:
- Kognitivně-behaviorální manipulace lidí nebo specifických zranitelných skupin, lidsky jsou to například hračky na hlasové ovládání, které mohou podněcovat nebezpečné chování u dětí, systémy sociálního hodnocení lidí nebo systémy pro biometrickou identifikaci
-
Sociální bodování: klasifikace lidí na základě chování, socioekonomického postavení nebo osobních charakteristik
-
Biometrická identifikace a kategorizace osob
-
Systémy biometrické identifikace v reálném čase a na dálku, například rozpoznávání obličeje
Vysoké riziko
To představují systémy, které mohou negativně ovlivnit bezpečnost nebo základní práva.
Všechny systémy budou před uvedením na trh i během provozu posuzovány.
Patří sem:
1) Systémy umělé inteligence, které se používají ve výrobcích, na které se vztahují právní předpisy EU o bezpečnosti výrobků. (hračky, letectvo, auta, zdravotnické pomůcky a výtahy)
2) Systémy umělé inteligence spadající do specifických oblastí, které se budou muset zaregistrovat v databázi EU:
- Management a provoz kritické infrastruktury
- Vzdělávání a odborná příprava
- Zaměstnanost, řízení pracovníků a přístup k samostatné výdělečné činnosti
- Přístup a využívání základních soukromých služeb, veřejných služeb a výhod
- Prosazování práva
- Řízení migrace, azylu a kontroly hranic
- Pomoc při právním výkladu a aplikaci práva
Je ohrožena i ChatGPT?
Zákon také zahrnuje průhlednost generativní AI, jako je ChatGPT. Tyto systémy nebudou klasifikovány jako vysoké riziko, ale musí splňovat požadavky na transparentnost a dodržování autorských práv EU.
A to:
- Uvedení, že obsah vygenerovala AI
- Navrhování vlastního modelu tak, aby se zabránilo generování nezákonného obsahu
- Publikování souhrnů údajů chráněných autorskými právy použitých pro trénování AI
To znamená, že obsah, který je buď vygenerován nebo upraven pomocí AI – obrázky, audio nebo video soubory – musí být jasně označen jako generovaný AI.
Inovace v oblasti AI má podporu v novém zákoně, který nabízí start-upům a malým a středním podnikům možnosti rozvoje a tréninku modelů AI před jejich oficiálním uvedením na trh. Národní autority by měly firmám poskytnout testovací prostředí simulující reálné podmínky.
Zákonodárci v Evropském parlamentu dne 13. března 2024 tento zákon schválili. Pravidla umělé inteligence pro všeobecné účely se použijí jeden rok po vstupu v platnost, tedy
v květnu 2025, a povinnosti
pro vysokorizikové systémy o tři roky.
Budou pod dohledem vnitrostátních orgánů a budou podporovány úřadem AI v rámci Evropské komise. Nyní bude na členských státech, aby vytvořily národní dozorčí agentury. Komise uvedla, že země mají 12 měsíců na to, aby nominovaly tyto "hlídací psy".
