L'acord, anomenat Paritàriament sobre les possibilitats del Fronter Reson, va ser anunciat el 29 de setembre una reunió de la Casa Blanca que implicava el president Donald Trump i els executius de la tecnologia principal.
El document va ser signat per executius que representen Googleß , Metaße , OpenAI Perifèrics , Nvidia Márquez , Anathropia , Yentify , segons Reuters.
UOL Noícias +1
A diferència d'una regulació federal, l'acord és voluntària. L'administració ho va descriure com a compromís per establir salvaguarcions més fortes dins de les companyies que desenvolupen models d'intel·ligència artificial cada cop més capaces.
El desenvolupament ve com a governs, empreses tecnològics i investigadors continuen debatint com de ràpid s'hauria de controlar l'AI sense prevenir la innovació.
El que les empreses AIA han accedit a fer
L'acord estableix quatre capes amples de control de seguretat.
S'espera que les empreses participin per mantenir sistemes interns que monitoritzen les capacitats i el comportament dels seus models de la IA durant l'entrenament i el desplegament.
Aquests controls estan destinats a identificar riscos potencials que inclouen àrees com la ciberseguretat, amenaces biològiques i amenaces químiques.
L'acord específicament demana salvaguardes dissenyades per evitar que els models de la IA accedeixin o interfereixin amb sistemes tècnics de maneres involunts.
Foraícias UOLCity name (optional, probably does not need a translation)
També s'espera que les empreses mantenen els equips interns responsables de comprovar si els sistemes de vigilància i detecció estan operats com a destinats.
Un nivell diferent de supervisió sortiria de fora de les companyies mateixes.
Les avaluacions de la IA són part del tracte
Una de les disposicions més significatives per participar en empreses que treballen amb auditors externs o avaluadors.
Aquestes avaluacions independents examinarien si el sistema de control de les empreses i control de l'AI de les empreses estan funcionant com estava previst.
L'acord també demana a les empreses que estableixin comissions independents de junta que rebiin informació dels dos equips interns i als observadors externs.
UOL Noícias +1
S'espera que les empreses participin regularment per a desenvolupar estàndards i bones pràctiques per millorar la seguretat dels seus sistemes.
El document també reconeix que algunes d'aquestes mesures podrien ser part de lleis formals o lleis.
Foraícias UOLCity name (optional, probably does not need a translation)
Per ara, però, els compromisos no són legalment una associació federal.
Per què l'acord importa
L'acord arriba en un moment crucial per a la indústria de la intel·ligència artificial.
Els sistemes de l'AI cada cop estan avançant més enllà de les preguntes i la generació de text, imatges o codi informàtic.
Les empreses estan desenvolupant agents de la IA capaços de dur més seqüències d'accions, utilitzant eines de programari i completar tasques amb menys supervisió humana.
Aquesta expansió ha augmentat l'atenció sobre com les empreses analitzen models poderosos abans d'alliberar-los.
El nou acord intenta crear un marc compartit entre els principals desenvolupadors de la IA mentre deixen les empreses individuals responsables de l'execució de molts dels controls.
La premsa associada ha informat que l'acord inclou una salvaguarda interna, mecanismes de ressenyes exteriors i de supervisió independents dins d'empreses que participen.
Notícies AP
Les empreses més grans de l'AI eren a Washington
La reunió de la Casa Blanca va reunir molts dels figures més influents de la tecnologia global.
Els executius van incloure líders inclosos connectats a Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon i X, segons els informes de l'esdeveniment.
AP News +1
La seva participació il·lustra la força en què la política de la IA s'està connectant amb les empreses més grans dels Estats Units.
Les empreses involucrades estan invertint molt en models de IA, infraestructura informàtica, xips i centres de dades.
Al mateix temps, els governs d'arreu del món intenten determinar què s'haurien d'aplicar quan aquests sistemes són més capaços.
Amèrica, elgogo també inicia
L'acord de seguretat de l'AI no era l'únic anunci tecnològic de Washington.
La Casa Blanca també va llançar l'Amèrica.govigo, una nova entrada digital que pretenia donar als americans un sol lloc per accedir a la informació del govern federal i als serveis.
Segons la Casa Blanca, els usuaris poden comunicar-se amb el servei utilitzant el llenguatge normal i rebre respostes sense haver de navegar per nombrosos llocs web de l'agència federal.
La Casa Blanca
L'administració diu que la plataforma està dissenyada per permetre que la gent completi algunes transaccions del govern directament quan estan disponibles les infraestructures tècniques i tècniques.
La Casa Blanca també diu que la protecció de la privacitat està destinada a incorporar-se al servei.
La Casa Blanca
El llançament representa un altre exemple de l'AI generativa que es mou des de les aplicacions experimentals en serveis públics usats pels ciutadans corrents.
La regulació de la IA és un debat important
La naturalesa voluntària de l'acord és probable que sigui una part important del debat més ampli sobre la regulació de la IA.
Els mitjans de desenvolupament de la indústria demostren que la intel·ligència artificial s'està desenvolupant tan ràpidament que la regulació rígida podia lluitar per mantenir el ritme dels avenços tecnològics.
Els voluntaris argumenten que les empreses desenvolupen grans models de la IA han d'enfrontar-se a estàndards externs en comptes de confiar principalment en els controls interns.
El nou acord inclou una avaluació independent, però les empreses tenen una gran responsabilitat per implementar els seus propis sistemes de seguretat.
L'acord deixa oberta la possibilitat que els principis es puguin incorporar a la legislació o a la regulació formal.
Foraícias UOLCity name (optional, probably does not need a translation)
Això vol dir que l'anunci del 29 de setembre pot representar un marc d'inici en comptes de la darrera forma de supervisió de l'AI americana.
Europa està prenent un camí diferent.
Els Estats Units no estan desenvolupant la política IA en l'aïllament.
Europa ha perseguit un enfocament més regulador a través de les normes d'intel·ligència artificial de la Unió Europea i de la legislació digital més àmplia.
El contrast ha creat una pregunta important de política internacional: si principalment s'hauria de governar per la legislació, els compromisos de la indústria, l'auditoria independent, o algunes de les tres.
Les empreses de tecnologia estan operades globalment poden respectar-se amb sistemes reguladors diferents depenent d'on s'ofereixen els seus productes.
Això pren decisions a Washington i Brussel·les particularment importants per a les empreses en desenvolupament de models utilitzats per centenars de milions de persones.
Les preocupacions de seguretat de la IA estan creixent amb la capacitat
L'acord també arriba com a diverses empreses de la IA en públic sobre els riscos associats amb sistemes cada cop més capaces.
Els desenvolupadors posen a prova models de conducta que inclouen la ciberseguretat, la decisió autònoma de prendre, la informació biològica i la capacitat d'operar eines externes de programari.
Aquestes capacitats poden crear aplicacions útils, però també fan preguntes sobre què passa quan el sistema es comporta diferent del que esperaven els desenvolupadors.
El nou acord intenta abordar que requereix múltiples capes de monitorització en comptes de confiar en un únic procés de seguretat intern.
L'avaluació exterior podria ser especialment important quan les empreses deixen cada cop més agents autònoms de la IA.
Què passa després
La pregunta immediata és com les empreses que participen traduiran l'acord en les salvaguarcions operatives.
El document estableix els principis, però l'eficàcia d' aquests principis dependrà de la implementació, incloent-hi com es seleccionen els observadors independents, quins estàndards s'apliquen i com responen les empreses quan els riscos siguin descoberts.
Una altra pregunta és transparència.
El públic pot esperar cada vegada més que les empreses expliquin com s'han avaluat els models avançats abans d'alliberar i quines salvaguarcions estan operades després del desplegament.
Per ara, l'acord representa un compromís significatiu de coordinació que implica diversos de les empreses construint els sistemes d'intel·ligència artificial més avançada del món.
Si aquestes salvaguardes voluntària finalment seran obligatòries, dependran de les futures decisions per legisladors, reguladors i empreses pròpies.
El que ja està clar és que la seguretat de l'AI s'ha mogut des d'un debat especialista en una pregunta central per als governs, les empreses i centenars de milions de persones utilitzant intel·ligència artificial cada dia.