Dohoda, nazvaná Společný závazek k hraničním povinnostem, byla oznámena 29. září po setkání Bílého domu, které se týkalo prezidenta Donalda Trumpa a vedoucích pracovníků v oblasti technologií.
Dokument podepsali manažeři zastupující společnost Google, Meta, OpenAI, Nvidia, Antropic a X, podle společnosti Reuters.
UOL Noticias + 1
Na rozdíl od federálního nařízení je dohoda dobrovolná. Vláda to popsala jako závazek, jehož cílem je vytvořit silnější ochranná opatření uvnitř společností vyvíjejících stále schopnější modely umělé inteligence.
Vývoj přichází, když vlády, technologické společnosti a výzkumní pracovníci pokračují v diskusích o tom, jak rychle by měla být AI kontrolována, aniž by se bránila inovacím.
Co společnosti AI souhlasily s tím,
Dohoda stanoví čtyři široké vrstvy bezpečnostních kontrol.
Očekává se, že zúčastněné společnosti budou udržovat vnitřní systémy, které budou monitorovat schopnosti a chování svých modelů AI během výcviku i nasazení.
Cílem těchto kontrol je identifikovat potenciální rizika zahrnující oblasti, jako je kybernetická bezpečnost, biologické hrozby a chemické hrozby.
Dohoda konkrétně požaduje záruky, jejichž cílem je zabránit modelům AI v přístupu k technickým systémům nebo do nich nezamýšleným způsobem zasahovat.
UOL Noticias
Očekává se také, že společnosti budou udržovat vnitřní týmy odpovědné za kontrolu toho, zda monitorovací a detekční systémy fungují podle plánu.
Samostatná úroveň dohledu by pocházela od samotných společností.
Nezávislá hodnocení AI jsou součástí dohody
Jedno z nejvýznamnějších ustanovení vyžaduje, aby zúčastněné společnosti pracovaly s externími auditory nebo hodnotiteli.
Tato nezávislá posouzení by přezkoumala, zda systémy sledování a kontroly AI společností fungují podle plánu.
Dohoda rovněž vyzývá společnosti, aby vytvořily nezávislé výbory rady, které by dostávaly informace od interních týmů i od externích hodnotitelů.
UOL Noticias + 1
Očekává se, že zúčastněné společnosti budou pravidelně plnit požadavky na vypracování norem a osvědčených postupů pro zlepšení bezpečnosti svých systémů.
Dokument také uznává, že některá z těchto opatření by se nakonec mohla stát součástí formálních právních předpisů.
UOL Noticias
Prozatím však závazky nejsou právně závazná federální pravidla.
Proč na dohodě záleží
Dohoda přichází v rozhodujícím okamžiku pro průmysl umělé inteligence.
AI systémy se stále více pohybují nad rámec odpovědí na otázky a generování textu, obrázků nebo počítačového kódu.
Společnosti vyvíjejí agenty AI schopné provádět delší sekvence akcí, používat softwarové nástroje a plnit úkoly s menším přímým dohledem nad lidmi.
Tato expanze zvýšila pozornost o to, jak společnosti testují výkonné modely před jejich uvolněním.
Nová dohoda se snaží vytvořit společný rámec mezi hlavními vývojáři AI a zároveň nechává jednotlivé společnosti zodpovědné za provádění mnoha kontrol.
Společnost Associated Press uvedla, že dohoda zahrnuje vnitřní záruky, nezávislé vnější přezkumy a mechanismy dohledu v rámci zúčastněných společností.
Novinky AP
Největší AI společnosti byly ve Washingtonu
Shromáždění Bílého domu svedlo dohromady řadu nejvlivnějších osobností v globální technologii.
Vedoucí pracovníci, kteří se zúčastnili, byli podle zpráv z akce zapojeni do Meta, Nvidia, Antropic, OpenAI, Google, Microsoft, Amazon a X.
Novinky AP + 1
Jejich účast ukazuje, jak úzce je politika AI spojena s největšími technologickými společnostmi ve Spojených státech.
Zúčastněné společnosti silně investují do modelů AI, výpočetní infrastruktury, čipů a datových center.
Zároveň se vlády po celém světě snaží určit, jaké záruky by se měly uplatňovat, neboť tyto systémy se stávají schopnějšími.
America.gov také startuje
Dohoda o bezpečnosti AI nebyla jediným významným technologickým oznámením z Washingtonu.
Bílý dům také zahájil America.gov, novou digitální bránu, jejímž cílem je poskytnout Američanům jediné místo pro přístup k informacím a službám federální vlády.
Podle Bílého domu mohou uživatelé komunikovat se službou běžným jazykem a přijímat odpovědi, aniž by museli procházet četné jednotlivé webové stránky federální agentury.
Bílý dům
Správa říká, že platforma je nakonec navržena tak, aby umožnila lidem dokončit určité vládní transakce přímo, když je k dispozici autorizace a technická infrastruktura.
Bílý dům také říká, že ochrana soukromí má být začleněna do služby.
Bílý dům
Spuštění představuje další příklad generativní AI přechodu z experimentálních aplikací do veřejných služeb využívaných běžnými občany.
Regulace AI zůstává významnou diskusí
Dobrovolná povaha dohody pravděpodobně zůstane důležitou součástí širší diskuse o regulaci AI.
Podporovatelé norem vedených průmyslem tvrdí, že se umělá inteligence vyvíjí tak rychle, že by se přísná regulace mohla snažit udržet krok s technologickým pokrokem.
Kritici dobrovolných systémů tvrdí, že společnosti, které vyvíjejí výkonné modely AI, by měly spíše čelit vykonatelným externím normám než se spoléhat především na vnitřní kontroly.
Nová dohoda zahrnuje nezávislé hodnocení, ale společnosti si ponechávají značnou odpovědnost za provádění svých vlastních bezpečnostních systémů.
Samotná dohoda nechává otevřenou možnost, že by její zásady mohly být nakonec začleněny do právních předpisů nebo formální regulace.
UOL Noticias
To znamená, že oznámení z 29. září může představovat spíše raný rámec než konečný tvar amerického dohledu nad AI.
Evropa se ubírá jinou cestou.
Spojené státy nevyvíjejí politiku AI v izolaci.
Evropa uplatňuje regulativnější přístup prostřednictvím pravidel Evropské unie v oblasti umělé inteligence a širších digitálních právních předpisů.
Kontrast vyvolal důležitou mezinárodní politickou otázku: zda by se pokročilá AI měla řídit především právními předpisy, průmyslovými závazky, nezávislým auditem nebo kombinací všech tří.
Technologické společnosti působící globálně možná nakonec budou muset dodržovat různé regulační systémy v závislosti na tom, kde jsou jejich výrobky nabízeny.
To činí rozhodnutí ve Washingtonu a Bruselu zvláště důležitá pro společnosti, které vyvíjejí modely používané stovkami milionů lidí.
Bezpečnostní problémy AI narůstají se schopností
Dohoda rovněž přichází, neboť několik předních společností v oblasti AI veřejně diskutuje o rizicích spojených se stále schopnějšími systémy.
Vývojáři testují modely chování zahrnující kybernetickou bezpečnost, autonomní rozhodování, biologické informace a schopnost provozovat externí softwarové nástroje.
Tyto schopnosti mohou vytvářet užitečné aplikace, ale také vyvolávají otázky o tom, co se stane, když se systémy chovají jinak, než měli vývojáři v úmyslu.
Nová dohoda se snaží řešit tento problém tím, že vyžaduje více vrstev monitorování, spíše než se spoléhá na jediný vnitřní bezpečnostní proces.
Externí evaluace by mohla být obzvláště důležitá, jelikož společnosti uvolňují stále více autonomních agentů AI.
Co bude dál?
Bezprostřední otázkou je, jak zúčastněné společnosti převedou dohodu na provozní záruky.
Dokument stanoví zásady, ale účinnost těchto zásad bude záviset na provádění, včetně toho, jak jsou vybíráni nezávislí hodnotitelé, jaké normy uplatňují a jak společnosti reagují při odhalování rizik.
Další otázkou je transparentnost.
Veřejnost může stále více očekávat, že společnosti vysvětlí, jak pokročilé modely byly hodnoceny před vydáním a jaké záruky fungují po nasazení.
Pro tuto chvíli představuje dohoda významný koordinovaný závazek zahrnující několik společností budujících nejvyspělejší systémy umělé inteligence na světě.
Zda se tyto dobrovolné záruky nakonec stanou povinnými pravidly, bude záviset na budoucích rozhodnutích zákonodárců, regulačních orgánů a samotných společností.
Již nyní je jasné, že bezpečnost AI přešla z debaty o odborných technologiích do ústřední otázky pro vlády, podniky a stovky milionů lidí, kteří každý den používají umělou inteligenci.