EU chce regulovat umělou inteligenci: Bruselský úředník vám zakáže myslet!

Vznik návrhu byl kolektivním dílem, na kterém se podílely různé sektory včetně průmyslu, akademické obce a občanské společnosti. Iniciativu vedly čtyři specializované pracovní skupiny, z nichž každá se zabývala specifickými aspekty správy AI a zmírňování rizik.

Návrh je v souladu se stávajícími zákony, jako je Charta základních práv Evropské unie. Zohledňuje mezinárodní přístupy, usiluje o přiměřenost rizikům a snaží se být odolný vůči budoucím změnám s ohledem na rychlý technologický vývoj.

Mezi klíčové cíle uvedené v návrhu patří:

1. Vyjasnění metod prokazování souladu pro poskytovatele obecných modelů AI.
2. Usnadnění porozumění v celém hodnotovém řetězci AI, zajištění bezproblémové integrace modelů AI do následných produktů.
3. Zajištění souladu s právem Unie o autorských právech, zejména pokud jde o použití materiálu chráněného autorským právem pro trénování modelů.
4. Průběžné posuzování a zmírňování systémových rizik spojených s modely AI.

Rozpoznávání a zmírňování systémových rizik

Ústředním prvkem návrhu je taxonomie systémových rizik, která zahrnuje typy, povahy a zdroje těchto rizik. Dokument nastiňuje různé hrozby, jako jsou kybernetické útoky, biologická rizika, ztráta kontroly nad autonomními modely AI a rozsáhlá dezinformace. Návrh uznává, že tato taxonomie bude muset být aktualizována, aby zůstala relevantní, protože technologie AI se neustále vyvíjí.

Vzhledem k tomu, že modely AI se systémovými riziky jsou stále běžnější, návrh zdůrazňuje potřebu robustních rámců pro bezpečnost a ochranu. Navrhuje hierarchii opatření, dílčích opatření a klíčových ukazatelů výkonnosti (KPI), aby bylo zajištěno odpovídající identifikace, analýza a zmírňování rizik v průběhu celého životního cyklu modelu.

Návrh navrhuje, aby poskytovatelé zavedli procesy pro identifikaci a hlášení závažných incidentů spojených s jejich modely AI a v případě potřeby nabídli podrobná posouzení a opravy. Rovněž podporuje spolupráci s nezávislými odborníky pro posuzování rizik, zejména u modelů představujících významná systémová rizika.

Proaktivní přístup k regulaci AI

Zákon EU o AI, který vstoupil v platnost 1. srpna 2024, ukládá, aby konečná verze tohoto kodexu byla připravena do 1. května 2025. Tato iniciativa podtrhuje proaktivní postoj EU k regulaci AI a zdůrazňuje potřebu bezpečnosti, transparentnosti a odpovědnosti v oblasti AI.

Pracovní skupiny vyzývají zúčastněné strany, aby se aktivně podílely na zdokonalování dokumentu. Jejich společný příspěvek pomůže utvářet regulační rámec zaměřený na ochranu inovací a zároveň na ochranu společnosti před potenciálními nástrahami technologie AI.

I když je kodexu stále ve fázi návrhu, mohl by se stát měřítkem pro odpovědný vývoj a nasazení AI na celém světě. Řešením klíčových otázek, jako je transparentnost, řízení rizik a dodržování autorských práv, si kodex klade za cíl vytvořit regulační prostředí, které podporuje inovace, dodržuje základní práva a zajišťuje vysokou úroveň ochrany spotřebitele.