AI Regulace: Jak se Připravit na Blížící se Legislativní Tsunami?

Avšak nejistota ohledně optimální implementace AI brzdí některé společnosti. Nejnovější index digitální akcelerace (DAI) od Boston Consulting Group, globální průzkum mezi 2 700 manažery, odhalil, že pouze 28 % z nich se cítí plně připraveno na novou regulaci AI.

Nejistotu firem dále prohlubuje záplava regulací AI: na cestě je Akt o umělé inteligenci EU, Argentina zveřejnila návrh plánu pro AI, Kanada má Zákon o AI a datech, Čína zavedla řadu regulací AI a země G7 spustily „Hirošimský proces AI“. Směrnice se jen hrnou, OECD vyvíjí principy AI, OSN navrhuje nový poradní orgán OSN pro AI a administrativa Bidena vydala plán pro Listinu práv AI (i když se to s druhou Trumpovou administrativou může rychle změnit).

Legislativa se objevuje i v jednotlivých státech USA a v mnoha oborových rámcích. K dnešnímu dni 21 států přijalo zákony regulující používání AI, včetně Zákona o AI v Coloradu a ustanovení v kalifornském CCPA, a dalších 14 států má legislativu čekající na schválení.

Mezitím se v debatě o regulaci AI ozývají hlasité hlasy z obou stran. Nový průzkum společnosti SolarWinds ukazuje, že 88 % IT profesionálů se zasazuje o přísnější regulaci, a samostatný výzkum odhaluje, že 91 % Britů chce, aby vláda udělala více pro to, aby firmy nesly odpovědnost za své systémy AI. Na druhou stranu lídři více než 50 technologických firem nedávno napsali otevřený dopis, v němž vyzývají k naléhavé reformě přísných regulací AI v EU a argumentují, že dusí inovace.

Pro lídry firem a vývojáře softwaru je to jistě složité období, protože regulátoři se snaží dohnat technologický pokrok. Samozřejmě chcete využít výhod, které AI nabízí, ale můžete tak učinit způsobem, který vás připraví na dodržování všech nadcházejících regulačních požadavků, a zbytečně neomezíte používání AI, zatímco vaši konkurenti zrychlují.

Nemáme křišťálovou kouli, takže nemůžeme předvídat budoucnost. Můžeme se však podělit o některé osvědčené postupy pro nastavení systémů a postupů, které připraví půdu pro dodržování předpisů v oblasti AI.

Zmapujte používání AI ve vašem širším ekosystému

Nemůžete řídit používání AI svým týmem, pokud o něm nevíte, ale už to samo o sobě může být značná výzva. Stínové IT je již metlou týmů kybernetické bezpečnosti: Zaměstnanci se přihlašují k nástrojům SaaS bez vědomí IT oddělení, takže neznámý počet řešení a platforem má přístup k firemním datům a/nebo systémům.

Nyní se bezpečnostní týmy musí potýkat i se stínovou AI. Mnoho aplikací, chatbotů a dalších nástrojů obsahuje AI, strojové učení (ML) nebo programování v přirozeném jazyce (NLP), aniž by tato řešení nutně byla zjevná AI řešení. Když se zaměstnanci přihlašují k těmto řešením bez oficiálního schválení, vnášejí AI do vašich systémů bez vašeho vědomí.

Jak vysvětlil Henrique Fabretti Moraes, expert na ochranu osobních údajů společnosti Opice Blum: „Mapování používaných nástrojů – nebo těch, které jsou určeny k použití – je zásadní pro pochopení a doladění zásad přijatelného používání a potenciálních zmírňujících opatření ke snížení rizik spojených s jejich využíváním.“

Některé předpisy vás činí zodpovědnými za používání AI dodavateli. Chcete-li mít situaci plně pod kontrolou, musíte zmapovat veškerou AI ve vašem prostředí a v prostředí vašich partnerských organizací. V tomto ohledu může být použití nástroje, jako je Harmonic, nápomocné při detekci používání AI v celém dodavatelském řetězci.

Ověřte správu dat

Ochrana osobních údajů a bezpečnost jsou klíčovými otázkami všech předpisů v oblasti AI, a to jak těch, které již platí, tak těch, které jsou na pokraji schválení.

Vaše používání AI již musí být v souladu se stávajícími zákony na ochranu osobních údajů, jako je GDPR a CCPR, které vyžadují, abyste věděli, k jakým datům má vaše AI přístup a co s nimi dělá, a abyste prokázali ochranná opatření na ochranu dat, která AI používá.

Abyste zajistili soulad, musíte ve své organizaci zavést robustní pravidla pro správu dat, která spravuje definovaný tým a která jsou podpořena pravidelnými audity. Vaše zásady by měly zahrnovat due diligence pro vyhodnocení zabezpečení dat a zdrojů všech vašich nástrojů, včetně těch, které používají AI, s cílem identifikovat oblasti potenciálního zkreslení a rizika pro ochranu osobních údajů.

„Je povinností organizací přijmout proaktivní opatření, jako je zlepšení hygieny dat, prosazování robustní etiky AI a sestavení správných týmů, které povedou toto úsilí,“ řekl Rob Johnson, viceprezident a globální ředitel pro řešení ve společnosti SolarWinds. „Tento proaktivní postoj nejenže pomáhá s dodržováním vyvíjejících se předpisů, ale také maximalizuje potenciál AI.“

Zaveďte průběžné sledování vašich systémů AI

Efektivní monitoring je zásadní pro řízení jakékoli oblasti vašeho podnikání. Pokud jde o AI, stejně jako v jiných oblastech kybernetické bezpečnosti, potřebujete průběžné sledování, abyste se ujistili, že víte, co vaše nástroje AI dělají, jak se chovají a k jakým datům přistupují. Také je musíte pravidelně auditovat, abyste měli přehled o používání AI ve vaší organizaci.

„Myšlenka používat AI ke sledování a regulaci jiných systémů AI je klíčovým vývojem v zajištění toho, aby tyto systémy byly efektivní i etické,“ řekl Cache Merrill, zakladatel softwarové vývojové společnosti Zibtek. „V současné době se ke sledování AI používají techniky, jako jsou modely strojového učení, které předpovídají chování jiných modelů (metamodely). Systémy analyzují vzorce a výstupy provozní AI, aby odhalily anomálie, zkreslení nebo potenciální selhání dříve, než se stanou kritickými.“

Platforma pro automatizaci kybernetické GRC Cypago vám umožňuje spouštět průběžné sledování a shromažďování důkazů o regulačních auditech na pozadí. Automatizace bez kódu vám umožňuje nastavit vlastní funkce workflow bez technických znalostí, takže upozornění a zmírňující akce jsou spouštěny okamžitě podle vámi nastavených kontrol a prahových hodnot.

Cypago se může propojit s vašimi různými digitálními platformami, synchronizovat se s prakticky jakýmkoli regulačním rámcem a proměnit všechny relevantní kontroly v automatizované workflow. Jakmile jsou vaše integrace a regulační rámce nastaveny, je vytváření vlastních workflow na platformě stejně jednoduché jako nahrání tabulky.

Používejte posouzení rizik jako své vodítko

Je nezbytné vědět, které z vašich nástrojů AI jsou vysoce rizikové, středně rizikové a nízko rizikové – pro dodržování externích předpisů, pro řízení interních