Aftalen, der kaldes det fælles tilsagn om grænseansvar, blev annonceret den 29. september efter et møde i Det Hvide Hus med deltagelse af præsident Donald Trump og førende teknologiledere.
Dokumentet blev underskrevet af ledere, der repræsenterer Google, Meta, OpenAI, Nvidia, Anthropic og X, ifølge Reuters.
UOL Notícias + 1
I modsætning til en føderal forordning er aftalen frivillig. Regeringen beskrev det som en forpligtelse til at etablere stærkere sikkerhedsforanstaltninger i virksomheder, der udvikler stadig mere dygtige kunstige efterretningsmodeller.
Udviklingen kommer som regeringer, teknologivirksomheder og forskere fortsætter med at diskutere, hvor hurtigt fremme AI skal kontrolleres uden at forhindre innovation.
Hvad AI virksomheder indvilligede i at gøre
I aftalen fastsættes fire brede lag af sikkerhedskontrol.
Deltagende virksomheder forventes at opretholde interne systemer, der overvåger kapaciteter og adfærd af deres AI-modeller under både uddannelse og implementering.
Disse kontroller har til formål at identificere potentielle risici på områder som cybersikkerhed, biologiske trusler og kemiske trusler.
I aftalen opfordres der specifikt til sikkerhedsforanstaltninger, der skal forhindre AI-modeller i at få adgang til eller gribe ind i tekniske systemer på utilsigtede måder.
UOL Notícias
Virksomhederne forventes også at opretholde interne hold, der er ansvarlige for at kontrollere, om overvågnings- og detektionssystemerne fungerer efter hensigten.
Et særskilt tilsynsniveau ville komme fra uden for virksomhederne selv.
Uafhængige AI evalueringer er en del af aftalen
En af de vigtigste bestemmelser opfordrer de deltagende virksomheder til at samarbejde med eksterne revisorer eller evaluatorer.
Disse uafhængige vurderinger vil undersøge, om virksomhedernes AI-overvågnings- og kontrolsystemer fungerer efter hensigten.
I aftalen opfordres virksomhederne til at nedsætte uafhængige bestyrelseskomiteer, der vil modtage oplysninger fra både interne teams og eksterne evaluatorer.
UOL Notícias + 1
De deltagende virksomheder forventes regelmæssigt at opfylde kravene til standarder og bedste praksis til forbedring af deres systemers sikkerhed.
I dokumentet anerkendes det også, at nogle af disse foranstaltninger i sidste ende kan blive en del af formelle love eller forordninger.
UOL Notícias
Indtil videre er forpligtelserne imidlertid ikke juridisk bindende føderale regler.
Hvorfor er aftalen vigtig?
Aftalen når frem til et afgørende øjeblik for den kunstige efterretningsindustri.
AI-systemer i stigende grad bevæger sig ud over at besvare spørgsmål og generere tekst, billeder eller computer kode.
Virksomhederne udvikler AI-agenter, der er i stand til at udføre længere aktionssekvenser, ved hjælp af softwareværktøjer og udføre opgaver med mindre direkte menneskelig overvågning.
Denne udvidelse har øget opmærksomheden på, hvordan virksomheder teste magtfulde modeller, før de frigiver dem.
Den nye aftale forsøger at skabe en fælles ramme blandt store AI-udviklere, mens de enkelte virksomheder er ansvarlige for at gennemføre mange af de kontroller.
Associated Press rapporterede, at aftalen omfatter interne sikkerhedsforanstaltninger, uafhængige eksterne undersøgelser og tilsynsmekanismer i deltagende virksomheder.
AP Nyheder
De største AI-selskaber var i Washington
Det Hvide Hus samlede mange af de mest indflydelsesrige personer inden for global teknologi.
Ledere deltager i inkluderede ledere forbundet til Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon og X, ifølge rapporter fra begivenheden.
AP News + 1
Deres deltagelse illustrerer, hvor tæt AI politik bliver forbundet med de største teknologiske virksomheder i USA.
De involverede virksomheder investerer kraftigt i AI-modeller, computerinfrastruktur, chips og datacentre.
Samtidig forsøger regeringer rundt omkring i verden at bestemme, hvilke sikkerhedsforanstaltninger der skal gælde, efterhånden som disse systemer bliver bedre.
America.gov lancerer også
AI sikkerhedsaftalen var ikke den eneste store teknologi meddelelse fra Washington.
Det Hvide Hus lancerede også America.gov, en ny digital gateway, der skal give amerikanerne et enkelt sted at få adgang til føderale regering information og tjenester.
Ifølge Det Hvide Hus, kan brugerne kommunikere med tjenesten ved hjælp af almindeligt sprog og modtage svar uden at skulle navigere mange individuelle føderale agentur hjemmesider.
Det Hvide Hus
Administrationen siger, at platformen er designet til i sidste ende at tillade folk at fuldføre visse offentlige transaktioner direkte, når godkendelse og teknisk infrastruktur er til rådighed.
Det Hvide Hus siger også, at beskyttelse af privatlivets fred skal integreres i tjenesten.
Det Hvide Hus
Lanceringen repræsenterer et andet eksempel på generative AI bevæger sig fra eksperimentelle applikationer til offentlige tjenester, der anvendes af almindelige borgere.
Al-forordningen er fortsat en vigtig debat
Aftalens frivillige karakter vil sandsynligvis fortsat være en vigtig del af den bredere debat om AI-forordningen.
Leverandører af industrien førte standarder hævder, at kunstig intelligens udvikler sig så hurtigt, at stift regulering kunne kæmpe for at holde trit med teknologiske fremskridt.
Kritikere af frivillige systemer hævder, at virksomheder, der udvikler stærke AI-modeller, bør stå over for effektive eksterne standarder i stedet for primært at stole på interne kontroller.
Den nye aftale omfatter en uafhængig evaluering, men virksomhederne har fortsat et stort ansvar for gennemførelsen af deres egne sikkerhedssystemer.
Aftalen åbner mulighed for, at dens principper i sidste ende kan indarbejdes i lovgivning eller formel regulering.
UOL Notícias
Det betyder, at den 29. september meddelelse kan udgøre en tidlig ramme snarere end den endelige form for American AI tilsyn.
Europa går en anden vej
USA udvikler ikke AI-politik isoleret.
Europa har fulgt en mere lovgivningsmæssig tilgang gennem EU 's regler for kunstig intelligens og bredere digital lovgivning.
Kontrasten har skabt et vigtigt internationalt politisk spørgsmål: hvorvidt avanceret AI primært skal styres gennem lovgivning, brancheforpligtelser, uafhængig revision eller en kombination af alle tre.
Teknologivirksomheder, der opererer globalt, kan i sidste ende være nødt til at overholde forskellige reguleringssystemer afhængigt af, hvor deres produkter udbydes.
Det gør beslutninger i Washington og Bruxelles særligt vigtige for virksomheder, der udvikler modeller, der anvendes af hundreder af millioner af mennesker.
AI sikkerhed bekymringer vokser med kapacitet
Aftalen kommer også som flere førende AI-virksomheder offentligt diskutere risici forbundet med stadig mere dygtige systemer.
Udviklere er test modeller for adfærd involverer cybersecurity, autonome beslutningstagning, biologiske oplysninger og evnen til at drive eksterne software værktøjer.
Disse kapaciteter kan skabe nyttige applikationer, men de rejser også spørgsmål om, hvad der sker, når systemer opfører sig anderledes end hvad udviklerne har til hensigt.
Den nye aftale forsøger at løse dette problem ved at kræve flere lag overvågning i stedet for at basere sig på en enkelt intern sikkerhedsproces.
Ekstern evaluering kunne blive særlig vigtigt, da virksomheder frigive stadig mere autonome AI-agenter.
Hvad sker der så?
Det umiddelbare spørgsmål er, hvordan de deltagende virksomheder vil omsætte aftalen til operationelle sikkerhedsforanstaltninger.
Dokumentet fastlægger principper, men effektiviteten af disse principper vil afhænge af gennemførelsen, herunder hvordan uafhængige evaluatorer udvælges, hvilke standarder de anvender, og hvordan virksomhederne reagerer, når risici opdages.
Et andet spørgsmål er gennemsigtighed.
Offentligheden kan i stigende grad forvente, at virksomhederne forklarer, hvordan avancerede modeller blev evalueret før frigivelsen, og hvilke sikkerhedsforanstaltninger der anvendes efter ibrugtagning.
Indtil videre udgør aftalen en betydelig koordineret forpligtelse, som involverer flere af de virksomheder, der opbygger verdens mest avancerede kunstige efterretningssystemer.
Om disse frivillige sikkerhedsforanstaltninger i sidste ende bliver obligatoriske regler, vil afhænge af fremtidige beslutninger truffet af lovgivere, tilsynsmyndigheder og virksomhederne selv.
Hvad der allerede er klart er, at AI sikkerhed har bevæget sig fra en specialist teknologi debat til et centralt spørgsmål for regeringer, virksomheder og hundredvis af millioner af mennesker, der bruger kunstig intelligens hver dag.
