Avtalet, kallat Joint Commitment on Frontier Responsibilities, tillkännagavs den 29 september efter ett möte i Vita huset med president Donald Trump och ledande teknikchefer.
Dokumentet undertecknades av chefer som representerar Google, Meta, OpenAI, Nvidia, Anthropic och X, enligt Reuters.
UOL Notícias +1
Till skillnad från en federal förordning är avtalet frivilligt. Administrationen beskrev det som ett åtagande som syftar till att skapa starkare skyddsåtgärder inom företag som utvecklar alltmer kapabla artificiella intelligensmodeller.
Utvecklingen kommer som regeringar, teknikföretag och forskare fortsätter att diskutera hur snabbt framåtskridande AI bör kontrolleras utan att förhindra innovation.
Vad AI-företagen gick med på att göra
Avtalet innehåller fyra breda lager av säkerhetskontroller.
Deltagande företag förväntas upprätthålla interna system som övervakar kapaciteten och beteendet hos sina AI-modeller under både utbildning och distribution.
Dessa kontroller är avsedda att identifiera potentiella risker med områden som cybersäkerhet, biologiska hot och kemiska hot.
Avtalet kräver särskilt skyddsåtgärder för att förhindra att AI-modeller får tillgång till eller stör tekniska system på oavsiktliga sätt.
UOL Notícias
Företagen förväntas också behålla interna team som ansvarar för att kontrollera om övervaknings- och detekteringssystem fungerar som avsett.
En separat tillsynsnivå skulle komma från utanför företagen själva.
Oberoende AI-utvärderingar ingår i affären
En av de viktigaste bestämmelserna kräver att deltagande företag arbetar med externa revisorer eller utvärderare.
Dessa oberoende bedömningar skulle undersöka om företagens AI-övervaknings- och kontrollsystem fungerar som avsett.
Avtalet uppmanar också företag att inrätta oberoende styrelsekommittéer som skulle få information från både interna team och externa utvärderare.
UOL Notícias +1
Deltagande företag förväntas träffas regelbundet för att utveckla standarder och bästa praxis för att förbättra säkerheten för sina system.
Dokumentet bekräftar också att vissa av dessa åtgärder så småningom kan bli en del av formella lagar eller förordningar.
UOL Notícias
För närvarande är åtagandena inte juridiskt bindande federala regler.
Varför avtalet gäller
Överenskommelsen anländer till ett avgörande ögonblick för den artificiella intelligensindustrin.
AI-systemen rör sig alltmer bortom att svara på frågor och generera text, bilder eller datorkod.
Företag utvecklar AI-agenter som kan utföra längre sekvenser av åtgärder, med hjälp av mjukvaruverktyg och slutföra uppgifter med mindre direkt mänsklig övervakning.
Denna expansion har ökat uppmärksamheten på hur företag testar kraftfulla modeller innan de släpps.
Det nya avtalet försöker skapa en gemensam ram bland stora AI-utvecklare samtidigt som enskilda företag som ansvarar för att genomföra många av kontrollerna.
Associated Press rapporterade att avtalet omfattar interna skyddsåtgärder, oberoende externa granskningar och tillsynsmekanismer inom deltagande företag.
AP News
De största AI-bolagen var i Washington
Vita huset samlade många av de mest inflytelserika siffrorna i global teknik.
Chefer som deltar inkluderade ledare anslutna till Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon och X, enligt rapporter från evenemanget.
AP News +1
Deras deltagande illustrerar hur nära AI-politiken blir kopplad till de största teknikföretagen i USA.
Företagen investerar kraftigt i AI-modeller, datorinfrastruktur, chips och datacenter.
Samtidigt försöker regeringar runt om i världen bestämma vilka skyddsåtgärder som ska tillämpas när dessa system blir mer kapabla.
America.gov lanserar också
AI-säkerhetsavtalet var inte det enda stora teknologimeddelandet från Washington.
Vita huset lanserade också America.gov, en ny digital inkörsport som syftar till att ge amerikanerna en enda plats att få tillgång till federal statlig information och tjänster.
Enligt Vita Huset kan användarna kommunicera med tjänsten med vanliga språk och få svar utan att behöva navigera många enskilda federala myndigheters webbplatser.
Vita huset
Administrationen säger att plattformen är utformad så småningom så att människor kan slutföra vissa statliga transaktioner direkt när godkännande och teknisk infrastruktur är tillgängliga.
Vita huset säger också att integritetsskydd är avsedda att införlivas i tjänsten.
Vita huset
Lanseringen representerar ett annat exempel på generativ AI som flyttar från experimentella tillämpningar till offentliga tjänster som används av vanliga medborgare.
AI-förordningen är fortfarande en stor debatt
Avtalets frivilliga karaktär kommer sannolikt att förbli en viktig del av den bredare debatten om AI-förordningen.
Anhängare av branschledda standarder hävdar att artificiell intelligens utvecklas så snabbt att styva regleringar kan kämpa för att hålla jämna steg med tekniska framsteg.
Kritiker av frivilliga system hävdar att företag som utvecklar kraftfulla AI-modeller bör möta verkställbara externa standarder snarare än att förlita sig främst på interna kontroller.
Den nya överenskommelsen omfattar oberoende utvärdering, men företagen behåller ett stort ansvar för att genomföra sina egna säkerhetssystem.
Avtalet lämnar möjligheten att dess principer så småningom kan införlivas i lagstiftning eller formell reglering.
UOL Notícias
Det innebär att den 29 september tillkännagivandet kan utgöra en tidig ram snarare än den slutliga formen av amerikanska AI tillsyn.
Europa tar en annan väg
USA utvecklar inte AI-politiken i isolering.
Europa har eftersträvat ett mer rättsligt tillvägagångssätt genom EU:s artificiella underrättelseregler och en bredare digital lagstiftning.
Kontrasten har skapat en viktig internationell politisk fråga: huruvida avancerad AI i första hand bör styras genom lagstiftning, branschåtaganden, oberoende revision eller någon kombination av alla tre.
Tekniska företag som verkar globalt kan i slutändan behöva följa olika regleringssystem beroende på var deras produkter erbjuds.
Det fattar beslut i Washington och Bryssel särskilt viktigt för företag som utvecklar modeller som används av hundratals miljoner människor.
AI säkerhetsproblem växer med kapacitet
Avtalet anländer också som flera ledande AI-bolag som offentligt diskuterar risker i samband med alltmer kapabla system.
Utvecklare testar modeller för beteende som involverar cybersäkerhet, autonomt beslutsfattande, biologisk information och förmågan att driva externa mjukvaruverktyg.
Dessa funktioner kan skapa användbara applikationer, men de väcker också frågor om vad som händer när system beter sig annorlunda än vad utvecklare avsåg.
Den nya överenskommelsen försöker ta itu med problemet genom att kräva flera lager av övervakning snarare än att förlita sig på en enda intern säkerhetsprocess.
Extern utvärdering kan bli särskilt viktigt eftersom företagen släpper alltmer autonoma AI-agenter.
Vad händer nästa
Den omedelbara frågan är hur de deltagande företagen översätter avtalet till operativa skyddsåtgärder.
Dokumentet fastställer principer, men effektiviteten av dessa principer beror på genomförandet, inklusive hur oberoende utvärderare väljs, vilka standarder de tillämpar och hur företag svarar när risker upptäcks.
En annan fråga är transparens.
Allmänheten kan i allt högre grad förvänta sig att företag förklarar hur avancerade modeller utvärderades innan de släpptes och vilka skyddsåtgärder som fungerar efter utplacering.
Avtalet utgör för närvarande ett betydande samordnat åtagande med flera av de företag som bygger världens mest avancerade artificiella intelligenssystem.
Oavsett om dessa frivilliga skyddsåtgärder så småningom blir obligatoriska regler beror på framtida beslut av lagstiftare, tillsynsmyndigheter och företag själva.
Det som redan är klart är att AI-säkerheten har flyttat från en specialistteknikdebatt till en central fråga för regeringar, företag och hundratals miljoner människor som använder artificiell intelligens varje dag.
