Některé z největších jmen v umělé inteligenci souhlasily s novým rámcem zaměřeným na udržení rychle se rozvíjejících systémů AI pod kontrolou, což znamená významný moment v debatě o tom, jak by se technologie měla řídit.
Prezident Donald Trump 29. září oznámil, že vedoucí pracovníci předních společností AI podepsali dohodu o bezpečnostních normách a dohledu nad vývojem umělé inteligence.
Zastupované společnosti zahrnovaly [Google] (https: / / www.google.com /? utm _ source = chatgpt.com), [Meta] (https: / / www.meta.com /? utm _ source = chatgpt.com), [OpenAI] (https: / / openai.com /? utm _ source = chatgpt.com), [Anthropic] (https: / / www.anthropic.com /? utm _ source = chatgpt.com), [Nvidia] (https: / / / www.nvidia.com /? utm _ source = chatgpt.com) a [xAI] (https: / / x.ai /? utm _ source = chatpt.com).
Dohoda přichází, protože výrobní odvětví AI čelí rostoucí kontrole nad tím, zda lze stále více autonomní systémy bezpečně vyvíjet, zatímco společnosti závodí o uvolnění schopnějších modelů.
Podle Associated Press zahrnuje dobrovolná dohoda závazky zahrnující silné vnitřní kontroly, nezávislé přezkumy a dohled na úrovni rady.
Rozvoj by mohl utvářet další fázi globální debaty o AI, zejména proto, že Spojené státy dosud upřednostnily poměrně inovační přístup, zatímco Evropa se posunula směrem k rozsáhlejší regulaci.
Společnosti AI souhlasí s tím, že se budou sami kontrolovat.
Ústřední myšlenkou dohody je, že společnosti AI převezmou větší odpovědnost za hodnocení rizik vytvořených vlastními systémy.
Dohoda vyzývá k interním bezpečnostním postupům a k externím přezkumům, jejichž cílem je poskytnout dodatečnou kontrolu stále silnějších modelů AI.
Trump popsal tuto dohodu spíše jako morálně závaznou než jako konvenční regulační mandát.
Společnost Reuters uvedla, že správa rovněž zvažuje zřízení desetičlenného výboru, který by dohlížel na vývoj ve výrobním odvětví Unie. Podrobnosti o výboru, včetně jeho potenciální autority a členství, ještě nebyly dokončeny.
Reproduktor domu Mike Johnson samostatně potvrdil, že ředitelé průmyslu AI podepsali dohodu o technologických normách během zasedání Bílého domu.
Pro Silicon Valley by dobrovolný přístup mohl nabídnout alternativu k restriktivnějším federálním právním předpisům.
Pro kritiky je však otázkou, zda se společnosti vyvíjející technologii mohou účinně regulovat a současně konkurovat zákazníkům, investicím a technologickému vedení.
Google, Meta a další představitelé AI se připojí k rozhovorům
Diskuse se zúčastnilo několik nejvlivnějších osobností v oblasti technologií.
Sundar Pichai a Mark Zuckerberg byli mezi zúčastněnými manažery, zatímco společnosti v centru generativní AI boom byly také zastoupeny.
Dohoda přichází v neobvykle citlivou chvíli pro průmysl.
Modely AI jsou schopny plnit stále složitější úkoly s méně přímým lidským dohledem. Rychlý vznik agentů AI, systémů schopných provádět sekvence akcí spíše než jen odpovídat na otázky, zesílil obavy o bezpečnost a kontrolu.
Výzkumníci z předních laboratoří AI také veřejně varovali před rychlostí vývoje.
Reuters 29. září oznámili, že současní a bývalí výzkumní pracovníci z OpenAI a Google DeepMind vzbudili obavy o společnosti, které sledují systémy schopné zlepšit své vlastní schopnosti, zatímco bezpečnostní opatření se snaží udržet krok.
Tyto obavy sahají od narušení pracovních míst a hrozeb kybernetické bezpečnosti až po mnohem závažnější scénáře zahrnující systémy AI, které se chovají způsobem, který jejich vývojáři nezamýšleli.
OpenAI zastavil model před bezpečnostními obavami
Jeden detail ze shromáždění Bílého domu ilustroval, jak vážně některé laboratoře tento problém řeší.
Ředitel OpenAI Sam Altman řekl, že jeho společnost zastavila vydání modelu kvůli bezpečnostním obavám, podle Associated Press.
Toto zveřejnění přichází, protože společnosti AI stále více testují pokročilé modely před veřejným nasazením, aby určily, zda by mohly být zneužity nebo se mohly chovat neočekávaně.
Průmysl zároveň čelí obrovskému komerčnímu tlaku na rychlý pohyb.
OpenAI, Google, Antropic, Meta a další společnosti utrácejí velké výdaje na výpočetní infrastrukturu a soutěží o budování stále schopnějších systémů AI.
To vytváří obtížnou rovnováhu mezi technologickou rychlostí a bezpečností.
Nvidia spouští technologii, která má zastavit zběhlé agenty AI.
Nová dohoda rovněž navazuje na významné bezpečnostní oznámení společnosti Nvidia ohledně AI.
Dne 28. září zavedla Nvidia svou bezpečnostní platformu Open Agent Safety Platform, bezpečnostní systém, který má zabránit neoprávněným činům autonomních agentů AI.
Platforma zahrnuje technologii, která ověřuje, co může agent AI dělat, a další složku schopnou sledovat podezřelou aktivitu a karanténu potenciálně nebezpečného chování.
Podle Associated Press využívá technologii více než 100 organizací.
Generální ředitel Nvidia Jensen Huang tvrdil, že k bezpečnosti AI lze přistupovat částečně jako k technické výzvě, přičemž silnější ochrana softwaru poskytuje hranice kolem stále autonomnějších systémů.
Washington váží jiný přístup než Evropa.
Diskuse rovněž zdůrazňuje rostoucí rozdíl mezi americkými a evropskými přístupy k umělé inteligenci.
Trumpová administrativa opakovaně zdůrazňovala zachování amerického technologického vedení a vyhýbání se omezením, o nichž se domnívá, že by mohly zpomalit inovace.
Akční plán Bílého domu AI popisuje vedoucí postavení v umělé inteligenci jako prioritu národní bezpečnosti a tvrdí, že Spojené státy musí zůstat před globálními konkurenty.
Evropští regulátoři zaujali intervencionističtější přístup.
Ve stejný den jako setkání Bílého domu AI společnost Google zpochybnila regulační nařízení Evropské unie, které vyžadovaly, aby poskytovala lepší přístup k určitým službám pro vývojáře AI a konkurenční vyhledávače.
Společnost Google tvrdí, že požadavky by mohly odhalit citlivé informace o uživatelích, zatímco Evropská komise tvrdí, že jsou zahrnuty příslušné záruky ochrany soukromí.
Spor ukazuje, jak se vlády snaží vyvážit hospodářskou soutěž, soukromí, inovace a bezpečnost, neboť se AI stává součástí globální ekonomiky.
Další bitva o regulaci AI
Dobrovolná dohoda nevyřeší větší otázku, zda bude nakonec vyžadována závazná federální regulace AI.
Místo toho zavádí rámec podporovaný průmyslem v době, kdy zákonodárci, výzkumní pracovníci a technologické společnosti diskutují o tom, jak rychle by se měl vyvíjet vládní dohled.
Sázky se zvyšují, jak AI se pohybuje mimo chatbots a do autonomních agentů schopných komunikovat s počítačovými systémy, psaní software, provádění výzkumu a provádění složitých digitálních úkolů.
Pro tuto chvíli dává Washington technologickému průmyslu značnou odpovědnost za zavedení záruk kolem vlastních výrobků.
Pokud se ukáže, že dobrovolné závazky jsou dostačující, může se stát jednou z definujících otázek technologické politiky nadcházejících let.