De overeenkomst, genaamd de gezamenlijke verbintenis inzake grensverantwoordelijkheden, werd aangekondigd op 29 september na een vergadering van het Witte Huis met president Donald Trump en toonaangevende technologische leidinggevenden.
Het document werd ondertekend door executives die Google
UOL Notícias +1
In tegenstelling tot een federale regeling is de overeenkomst vrijwillig. De administratie beschreef het als een verbintenis om sterkere waarborgen te creëren binnen bedrijven die steeds capabelere modellen voor kunstmatige intelligentie ontwikkelen.
De ontwikkeling komt als overheden, technologiebedrijven en onderzoekers blijven discussiëren over hoe snel AI moet worden gecontroleerd zonder innovatie te voorkomen.
Wat de AI bedrijven afgesproken om te doen
De overeenkomst voorziet in vier brede lagen veiligheidscontroles.
Van deelnemende bedrijven wordt verwacht dat zij interne systemen onderhouden die toezicht houden op de capaciteiten en het gedrag van hun AI-modellen tijdens zowel training als implementatie.
Deze controles zijn bedoeld om potentiële risico's te identificeren op gebieden als cyberveiligheid, biologische bedreigingen en chemische bedreigingen.
In de overeenkomst wordt met name aangedrongen op waarborgen om te voorkomen dat AI-modellen onbedoeld toegang krijgen tot of de technische systemen verstoren.
UOL Notícias
Bedrijven worden ook geacht interne teams verantwoordelijk te houden voor het controleren of bewakings- en detectiesystemen volgens plan functioneren.
Een apart niveau van toezicht zou van buiten de ondernemingen zelf komen.
Onafhankelijke AI evaluaties maken deel uit van de deal
Een van de belangrijkste bepalingen vereist dat deelnemende ondernemingen samenwerken met externe accountants of beoordelaars.
In deze onafhankelijke beoordelingen wordt nagegaan of de bewakings- en controlesystemen van de ondernemingen functioneren zoals gepland.
In de overeenkomst wordt ook gevraagd dat bedrijven onafhankelijke comités oprichten die informatie ontvangen van zowel interne teams als externe beoordelaars.
UOL Notícias +1
Van deelnemende ondernemingen wordt verwacht dat zij regelmatig voldoen aan normen en beste praktijken om de veiligheid van hun systemen te verbeteren.
In het document wordt ook erkend dat sommige van deze maatregelen uiteindelijk deel kunnen uitmaken van formele wet- en regelgeving.
UOL Notícias
Voorlopig zijn de verbintenissen echter geen juridisch bindende federale regels.
Waarom de overeenkomst belangrijk is
Het akkoord komt op een cruciaal moment voor de kunstmatige intelligentie-industrie.
AI-systemen gaan steeds verder dan het beantwoorden van vragen en het genereren van tekst, beelden of computercode.
Bedrijven ontwikkelen AI-agenten die in staat zijn om langere sequenties van acties uit te voeren, met behulp van softwaretools en taken te voltooien met minder direct menselijk toezicht.
Die uitbreiding heeft meer aandacht voor hoe bedrijven testen krachtige modellen voordat ze vrijgeven.
De nieuwe overeenkomst tracht een gemeenschappelijk kader te creëren tussen grote AI-ontwikkelaars en laat individuele bedrijven verantwoordelijk voor de uitvoering van veel van de controles.
Associated Press meldde dat de overeenkomst interne waarborgen, onafhankelijke externe beoordelingen en toezichtmechanismen binnen deelnemende ondernemingen omvat.
AP Nieuws
De grootste AI bedrijven waren in Washington
De bijeenkomst van het Witte Huis bracht veel van de meest invloedrijke figuren in de wereldwijde technologie samen.
Bestuurders die aanwezig waren waren leiders verbonden met Meta, Nvidia, Antropic, OpenAI, Google, Microsoft, Amazon en X, volgens rapporten van het evenement.
AP News +1
Hun deelname illustreert hoe nauw het AI-beleid wordt verbonden met de grootste technologiebedrijven in de Verenigde Staten.
De betrokken bedrijven investeren zwaar in AI-modellen, computerinfrastructuur, chips en datacenters.
Tegelijkertijd proberen regeringen over de hele wereld te bepalen welke waarborgen moeten gelden naarmate deze systemen beter in staat worden.
Amerika.gov lanceert ook
De AI veiligheidsovereenkomst was niet de enige belangrijke technologie aankondiging uit Washington.
Het Witte Huis lanceerde ook America.gov, een nieuwe digitale gateway bedoeld om Amerikanen een enkele plaats om toegang te krijgen tot federale overheidsinformatie en diensten.
Volgens het Witte Huis, kunnen gebruikers communiceren met de dienst met behulp van de gewone taal en antwoorden ontvangen zonder te navigeren talrijke individuele federale agentschappen websites.
Het Witte Huis
De administratie zegt dat het platform uiteindelijk is ontworpen om mensen in staat te stellen bepaalde overheidstransacties direct te voltooien wanneer autorisatie en technische infrastructuur beschikbaar zijn.
Het Witte Huis zegt ook dat privacybescherming bedoeld is om in de dienst te worden opgenomen.
Het Witte Huis
De lancering is een ander voorbeeld van generatieve AI die van experimentele toepassingen overgaat naar openbare diensten die door gewone burgers worden gebruikt.
AI-verordening blijft een belangrijk debat
Het vrijwillige karakter van de overeenkomst zal waarschijnlijk een belangrijk onderdeel blijven van het bredere debat over de AI-verordening.
Aanhangers van door de industrie geleide normen beweren dat kunstmatige intelligentie zich zo snel ontwikkelt dat starre regelgeving moeite zou kunnen hebben om gelijke tred te houden met technologische vooruitgang.
Critici van vrijwillige systemen beweren dat bedrijven die krachtige AI-modellen ontwikkelen, moeten worden geconfronteerd met afdwingbare externe normen in plaats van in de eerste plaats te vertrouwen op interne controles.
Het nieuwe akkoord omvat een onafhankelijke evaluatie, maar bedrijven blijven in belangrijke mate verantwoordelijk voor de implementatie van hun eigen veiligheidssystemen.
De overeenkomst zelf laat de mogelijkheid open dat haar beginselen uiteindelijk in wetgeving of formele regelgeving kunnen worden opgenomen.
UOL Notícias
Dat betekent dat de aankondiging van 29 september eerder een vroeg kader kan zijn dan de definitieve vorm van Amerikaans AI-toezicht.
Europa neemt een andere weg
De Verenigde Staten ontwikkelen geen geïsoleerd AI-beleid.
Europa heeft een meer regelgevende aanpak gevolgd door middel van de regels van de Europese Unie inzake kunstmatige intelligentie en bredere digitale wetgeving.
Het contrast heeft geleid tot een belangrijke internationale beleidsvraag: of geavanceerde AI in de eerste plaats moet worden beheerst door wetgeving, industriële verplichtingen, onafhankelijke auditing, of een combinatie van alle drie.
Technologiebedrijven die wereldwijd actief zijn, moeten uiteindelijk wellicht aan verschillende regelgevingssystemen voldoen, afhankelijk van waar hun producten worden aangeboden.
Dat maakt beslissingen in Washington en Brussel bijzonder belangrijk voor bedrijven die modellen ontwikkelen die door honderden miljoenen mensen worden gebruikt.
AI veiligheidsproblemen nemen toe met capaciteit
De overeenkomst komt ook als een aantal toonaangevende AI-bedrijven publiekelijk bespreken risico's verbonden aan steeds meer capabele systemen.
Ontwikkelaars testen modellen voor gedrag met cybersecurity, autonome besluitvorming, biologische informatie en de mogelijkheid om externe softwaretools te bedienen.
Deze mogelijkheden kunnen nuttige toepassingen creëren, maar ze roepen ook vragen op over wat er gebeurt wanneer systemen zich anders gedragen dan wat ontwikkelaars bedoelden.
In het nieuwe akkoord wordt getracht dit probleem aan te pakken door meerdere controlelagen te eisen in plaats van te vertrouwen op één intern veiligheidsproces.
Externe evaluatie zou bijzonder belangrijk kunnen worden omdat bedrijven steeds autonomere AI-agenten vrijlaten.
Wat gebeurt er nu?
De onmiddellijke vraag is hoe de deelnemende ondernemingen de overeenkomst zullen vertalen in operationele waarborgen.
Het document bevat beginselen, maar de doeltreffendheid van deze beginselen zal afhangen van de tenuitvoerlegging, inclusief de selectie van onafhankelijke beoordelaars, de toepassing van de normen en de wijze waarop bedrijven reageren wanneer risico's worden ontdekt.
Een andere vraag is transparantie.
Het publiek kan steeds meer verwachten dat bedrijven uitleggen hoe geavanceerde modellen werden geëvalueerd voordat ze werden vrijgegeven en welke veiligheidsmaatregelen na de introductie van toepassing zijn.
De overeenkomst vormt momenteel een belangrijke gecoördineerde verbintenis waarbij verscheidene bedrijven de meest geavanceerde kunstmatige intelligentiesystemen ter wereld bouwen.
Of die vrijwillige waarborgen uiteindelijk verplichte regels worden, hangt af van toekomstige beslissingen van wetgevers, regelgevers en de ondernemingen zelf.
Wat al duidelijk is, is dat de veiligheid van AI is verschoven van een gespecialiseerd technologiedebat naar een centrale vraag voor overheden, bedrijven en honderden miljoenen mensen die dagelijks kunstmatige intelligentie gebruiken.
