Sommige van de grootste namen in kunstmatige intelligentie zijn het eens geworden over een nieuw kader dat erop gericht is snel de AI-systemen onder controle te houden, wat een belangrijk moment in het debat markeert over hoe de technologie bestuurd moet worden.
President Donald Trump kondigde op 29 september aan dat leidinggevenden van toonaangevende AI-bedrijven een akkoord hadden ondertekend over veiligheidsnormen en toezicht op de ontwikkeling van kunstmatige intelligentie.
De vertegenwoordigde ondernemingen waren onder meer [Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com), [OpenAI](https://openai.com/?utm source=chatgpt.com), [Anthropic](https://www.antropic.com/?utm source=chatgpt.com), [Nvidia](https://www.nvidia.com/?utm source=chatgpt.com) en [xAI](https://x.ai/?utm source=chatgpt.com).
De overeenkomst komt omdat de AI-industrie steeds meer wordt gecontroleerd of steeds autonomere systemen veilig kunnen worden ontwikkeld terwijl bedrijven racen om meer capabele modellen uit te brengen.
Volgens de Associated Press omvat het vrijwillige akkoord toezeggingen die sterke interne controles, onafhankelijke beoordelingen en toezicht op bestuursniveau inhouden.
De ontwikkeling zou de volgende fase van het wereldwijde AI-debat kunnen vormen, vooral omdat de Verenigde Staten tot nu toe voorstander zijn geweest van een relatief innovatiegerichte aanpak, terwijl Europa is overgegaan naar uitgebreidere regelgeving.
AI bedrijven gaan akkoord met de politie zelf
De centrale gedachte achter de overeenkomst is dat AI-bedrijven een grotere verantwoordelijkheid zullen nemen voor het evalueren van de risico's die door hun eigen systemen worden veroorzaakt.
In het akkoord wordt aangedrongen op interne veiligheidsprocedures en op externe evaluaties die bedoeld zijn om een aanvullend onderzoek naar steeds krachtigere AI-modellen mogelijk te maken.
Trump beschreef de overeenkomst als moreel bindend in plaats van een conventioneel regelgevend mandaat.
Reuters meldde dat de overheid ook overweegt een 10 ledencomité op te richten om de ontwikkelingen in de AI-industrie te volgen. Details over de commissie, met inbegrip van haar potentiële autoriteit en lidmaatschap, zijn nog niet afgerond.
House Speaker Mike Johnson bevestigde afzonderlijk dat AI industrie executives een akkoord hadden ondertekend over de technologische normen tijdens de White House vergadering.
Voor Silicon Valley zou de vrijwillige aanpak een alternatief kunnen bieden voor restrictievere federale wetgeving.
Voor critici is echter de vraag of bedrijven die de technologie ontwikkelen zich effectief kunnen reguleren en tegelijkertijd kunnen concurreren om klanten, investeringen en technologisch leiderschap.
Google, Meta en andere AI leiders deelnemen aan gesprekken
Verschillende van de meest invloedrijke figuren in de technologie namen deel aan de discussies.
Sundar Pichai en Mark Zuckerberg behoorden tot de betrokken leidinggevenden, terwijl bedrijven in het centrum van de generatieve AI boom ook vertegenwoordigd waren.
De overeenkomst komt op een ongewoon gevoelig moment voor de industrie.
AI-modellen kunnen steeds complexere taken uitvoeren met minder direct menselijk toezicht. De snelle opkomst van AI-agenten, systemen die sequenties van acties kunnen uitvoeren in plaats van alleen maar vragen te beantwoorden, heeft de bezorgdheid over veiligheid en controle versterkt.
Onderzoekers van toonaangevende AI-laboratoria hebben ook publiekelijk gewaarschuwd over de snelheid van ontwikkeling.
Reuters meldde op 29 september dat huidige en voormalige onderzoekers van OpenAI en Google DeepMind zorgen hadden geuit over bedrijven die systemen nastreven die hun eigen capaciteiten kunnen verbeteren, terwijl veiligheidsmaatregelen moeite hebben om gelijke tred te houden.
Deze zorgen variëren van baanverstoring en cybersecurity bedreigingen tot veel ernstiger scenario's waarbij AI-systemen zich gedragen op manieren die hun ontwikkelaars niet van plan waren.
OpenAI pauzeerde een model over veiligheidsproblemen
Een detail van de bijeenkomst van het Witte Huis illustreerde hoe ernstig sommige laboratoria het probleem behandelen.
OpenAI CEO Sam Altman zei dat zijn bedrijf de release van een model had onderbroken vanwege veiligheidsproblemen, volgens de Associated Press.
De openbaarmaking komt als AI bedrijven steeds vaker testen geavanceerde modellen voor de publieke implementatie om te bepalen of ze kunnen worden misbruikt of zich onverwacht gedragen.
Tegelijkertijd staat de industrie onder enorme commerciële druk om snel te handelen.
OpenAI, Google, Anthropic, Meta en andere bedrijven besteden veel aan computerinfrastructuur en concurreren om steeds beter in staat AI systemen te bouwen.
Dat zorgt voor een moeilijk evenwicht tussen technologische snelheid en veiligheid.
Nvidia lanceert technologie ontworpen om te stoppen met rogue AI-agenten
De nieuwe overeenkomst volgt ook op een belangrijke AI beveiligings aankondiging van Nvidia.
Op 28 september introduceerde Nvidia haar Open Agent Safety Platform.
Het platform omvat technologie die controleert wat een AI agent mag doen en een andere component die in staat is verdachte activiteit en kwarantining potentieel gevaarlijk gedrag te monitoren.
Meer dan 100 organisaties gebruiken de technologie al, aldus de Associated Press.
Nvidia CEO Jensen Huang heeft aangevoerd dat AI veiligheid deels kan worden benaderd als een technische uitdaging, met sterkere softwarebeschermingen die grenzen bieden aan steeds autonomere systemen.
Washington weegt een andere aanpak dan Europa
Het debat wijst ook op een groeiend verschil tussen de Amerikaanse en Europese benaderingen van kunstmatige intelligentie.
De Trump-administratie heeft herhaaldelijk benadrukt dat het behoud van de Amerikaanse technologische leiderschap en het vermijden van beperkingen die het gelooft kan vertragen innovatie.
Het Witte Huis AI-actieplan beschrijft leiderschap op het gebied van kunstmatige intelligentie als een prioriteit op het gebied van nationale veiligheid en stelt dat de Verenigde Staten de mondiale concurrenten voor moeten blijven.
De Europese regelgevers hebben een meer interventionistische aanpak gevolgd.
Op dezelfde dag als de vergadering van het Witte Huis AI, Google betwist Europese regelgeving orders van de Europese Unie die het om een betere toegang tot bepaalde diensten voor AI-ontwikkelaars en concurrerende zoekmachines te bieden.
Google stelt dat de eisen gevoelige gebruikersinformatie kunnen blootleggen, terwijl de Europese Commissie van mening is dat passende bescherming van de persoonlijke levenssfeer is opgenomen.
Het geschil laat zien hoe overheden worstelen om concurrentie, privacy, innovatie en veiligheid in evenwicht te brengen als AI in de wereldeconomie wordt ingebed.
De volgende strijd om AI-regeling
De vrijwillige overeenkomst regelt niet de grotere vraag of er uiteindelijk bindende federale AI-verordening nodig zal zijn.
In plaats daarvan wordt een door de industrie ondersteund kader gecreëerd in een tijd waarin wetgevers, onderzoekers en technologiebedrijven debatteren over hoe snel overheidstoezicht moet evolueren.
De inzet neemt toe als AI verder gaat dan chatbots en in autonome agenten die in staat zijn om te communiceren met computersystemen, het schrijven van software, het uitvoeren van onderzoek en het uitvoeren van ingewikkelde digitale taken.
Op dit moment geeft Washington de technologie-industrie een belangrijke verantwoordelijkheid voor het creëren van waarborgen rond zijn eigen producten.
Of vrijwillige verbintenissen voldoende blijken te zijn, kan een van de bepalende kwesties van het technologiebeleid van de komende jaren worden.
