Alcuni dei più grandi nomi dell'intelligenza artificiale hanno concordato un nuovo quadro volto a mantenere rapidamente il controllo dei sistemi AI, segnando un momento significativo nel dibattito su come dovrebbe essere governata la tecnologia.
Il presidente Donald Trump ha annunciato il 29 settembre che i dirigenti delle principali società AI avevano firmato un accordo che copre gli standard di sicurezza e la supervisione dello sviluppo dell'intelligenza artificiale.
Le società rappresentate [Google](http://www.google.com/?utm source=chatgpt.com), [Meta](http://www.meta.com/?utm source=chatgpt.com), [OpenAI](https://openai.com/?utm source=chatgpt.com), [Anthvidiapic](http://comwww.
L'accordo viene visto che l'industria dell'intelligenza artificiale affronta un crescente controllo sul fatto che i sistemi sempre più autonomi possano essere sviluppati in modo sicuro, mentre le aziende gareggiano per rilasciare modelli più capaci.
Secondo la Associated Press, l'accordo volontario include impegni che coinvolgono forti controlli interni, recensioni indipendenti e supervisione a livello di consiglio.
Lo sviluppo potrebbe modellare la prossima fase del dibattito globale sull'AI, in particolare perché gli Stati Uniti hanno finora favorito un approccio focalizzato sull'innovazione, mentre l'Europa si è spostata verso una regolamentazione più estesa.
Le aziende dell'IA accettano di polizia se stessi
L'idea centrale dietro l'accordo è che le aziende AI si assumeranno maggiore responsabilità per valutare i rischi creati dai propri sistemi.
L'accordo richiede procedure di sicurezza interne e recensioni esterne progettate per fornire un controllo aggiuntivo di modelli AI sempre più potenti.
Trump ha descritto l'accordo come moralmente vincolante piuttosto che un mandato normativo convenzionale.
Reuters ha riferito che l'amministrazione sta anche prendendo in considerazione la creazione di un comitato membro 10 per supervisionare gli sviluppi in tutto il settore AI. I dettagli relativi al comitato, inclusa la sua potenziale autorità e l'appartenenza, non sono ancora stati finalizzati.
Il presidente della Camera Mike Johnson ha confermato separatamente che i dirigenti del settore AI avevano firmato un accordo sugli standard tecnologici durante la riunione della Casa Bianca.
Per la Silicon Valley, l'approccio volontario potrebbe offrire un'alternativa alla legislazione federale più restrittiva.
Per i critici, tuttavia, la domanda è se le aziende che sviluppano la tecnologia possono regolarsi efficacemente mentre si contemporaneamente competere per i clienti, gli investimenti e la leadership tecnologica.
Google, Meta e altri leader AI si uniscono a colloqui
Molte delle figure più influenti della tecnologia hanno partecipato alle discussioni.
Sundar Pichai e Mark Zuckerberg erano tra i dirigenti coinvolti, mentre le aziende al centro del boom AI generativo erano anche rappresentate.
L'accordo arriva ad un momento insolitamente sensibile per l'industria.
I modelli AI stanno diventando capaci di svolgere compiti sempre più complessi con una supervisione umana meno diretta. La rapida apparizione di agenti dell'AI, sistemi in grado di eseguire sequenze di azioni piuttosto che semplicemente rispondere alle domande, ha intensificato le preoccupazioni sulla sicurezza e il controllo.
I ricercatori dei principali laboratori AI hanno anche pubblicamente avvertito della velocità di sviluppo.
Reuters ha riferito il 29 settembre che gli attuali ed ex ricercatori di OpenAI e Google DeepMind avevano sollevato preoccupazioni circa le aziende che perseguono sistemi in grado di migliorare le proprie capacità, mentre le misure di sicurezza lottano per mantenere il passo.
Tali preoccupazioni vanno da interruzioni di lavoro e minacce alla sicurezza informatica a scenari molto più gravi che coinvolgono sistemi AI che si comportano in modi che i loro sviluppatori non hanno voluto.
OpenAI ha messo in pausa un modello su questioni di sicurezza
Un dettaglio della riunione della Casa Bianca ha illustrato quanto seriamente alcuni laboratori stanno trattando il problema.
Il CEO di OpenAI Sam Altman ha detto che la sua azienda aveva sospeso il rilascio di un modello a causa delle preoccupazioni di sicurezza, secondo la Associated Press.
La divulgazione viene come le aziende AI sempre più testare modelli avanzati prima della distribuzione pubblica per determinare se potrebbero essere abusati o comportarsi inaspettatamente.
Allo stesso tempo, l'industria deve affrontare enorme pressione commerciale per muoversi rapidamente.
OpenAI, Google, Anthropic, Meta e altre aziende stanno spendendo pesantemente per l'infrastruttura informatica e concorrenti per costruire sistemi AI sempre più capaci.
Questo crea un difficile equilibrio tra velocità tecnologica e sicurezza.
Nvidia lancia la tecnologia progettata per fermare agenti di intelligenza artificiale
Il nuovo accordo segue anche un importante annuncio di sicurezza AI da Nvidia.
Il 28 settembre, Nvidia ha introdotto la sua Open Agent Safety Platform, un sistema di sicurezza destinato a impedire agli agenti AI autonomi di eseguire azioni non autorizzate.
La piattaforma include la tecnologia che verifica ciò che un agente AI può fare e un altro componente in grado di monitorare attività sospette e mettere in quarantena comportamenti potenzialmente pericolosi.
Più di 100 organizzazioni stanno già utilizzando la tecnologia, secondo la Associated Press.
Il CEO di Nvidia Jensen Huang ha sostenuto che la sicurezza AI può essere affrontata in parte come una sfida ingegneristica, con protezioni software più forti che forniscono confini intorno sistemi sempre più autonomi.
Washington pesa un approccio diverso dall'Europa
Il dibattito evidenzia anche una grande differenza tra gli approcci americani ed europei all'intelligenza artificiale.
L'amministrazione Trump ha ripetutamente sottolineato il mantenimento della leadership tecnologica degli Stati Uniti ed evitare restrizioni che ritiene possano rallentare l'innovazione.
Il White House AI Action Plan descrive la leadership nell'intelligenza artificiale come una priorità di sicurezza nazionale e sostiene che gli Stati Uniti devono rimanere davanti ai concorrenti globali.
I regolatori europei hanno preso un approccio più interventista.
Nello stesso giorno della riunione della Casa Bianca AI, Google ha sfidato gli ordini normativi dell'Unione Europea che lo richiedono per fornire un maggiore accesso a determinati servizi per gli sviluppatori AI e motori di ricerca concorrenti.
Google sostiene che i requisiti potrebbero esporre le informazioni degli utenti sensibili, mentre la Commissione europea sostiene che le opportune salvaguardie sulla privacy sono incluse.
La controversia dimostra come i governi stanno lottando per bilanciare la concorrenza, la privacy, l'innovazione e la sicurezza, mentre l'IA diventa incorporata nell'economia globale.
La prossima battaglia sul regolamento AI
L'accordo volontario non risolve la questione più ampia se sarà necessario un regolamento federale sull'AI.
Invece, stabilisce un quadro di sostegno del settore in un momento in cui i legislatori, i ricercatori e le aziende tecnologiche stanno discutendo come rapidamente la supervisione del governo dovrebbe evolversi.
La posta in gioco aumenta mentre l'IA si muove oltre i chatbot e in agenti autonomi in grado di interagire con i sistemi informatici, scrivere software, condurre la ricerca e svolgere complicati compiti digitali.
Per ora, Washington sta dando all'industria tecnologica una responsabilità significativa per la creazione di garanzie intorno ai propri prodotti.
Se gli impegni volontari risultano sufficienti può diventare una delle questioni strategiche di definizione dei prossimi anni.
