Alguns dels noms més grans de la intel·ligència artificial han accedit a un nou marc dirigit a mantenir ràpidament sistemes d'AI sota control, marcant un moment significatiu en el debat sobre com s'ha de governar la tecnologia.
El president Donald Trump va anunciar el 29 de setembre que els executius de les principals empreses de la IA havien signat un acord per cobrir els estàndards de seguretat i supervisió del desenvolupament de la intel·ligència artificial.
Les empreses representen [Google](https://www.google.com /?utm source=chatg.com), [Matx](shttps://www.meta.com/?ut source=chatgpt.com), [OpenAI](shttp:https://open.com/mut source=chatg.com), [Anthropic](s.com / sources sources. http: // atx). http://www.com /.com /.com/www.com /.www.com/www.www.www.www.www.www.www.com /.com/m source source pt.com /.com /.com /.com/www.com/www.com/www.com /.com/www.com/ usexxx=www.com/source=www. org/ sourcetx=www.qxxxxxxgggtxxxgggggggtx)
L'acord ve quan la indústria de l'AI s'enfronta a l'escrutini sobre si cada cop més els sistemes autònoms es poden desenvolupar sa i estalvi mentre que les empreses corren per alliberar models més capaços.
Segons l'associat Press, l'acord voluntària inclou compromisos relacionats amb forts controls interns, ressenyes independents i supervisió a nivell de la junta.
El desenvolupament podria modelar la fase següent del debat global de la IA, sobretot perquè els Estats Units han afavorit tant un enfocament d'innovació comparada mentre que Europa s'ha mogut cap a una regulació més àmplia.
Les empreses d'AI estan d'acord amb la policia.
La idea central darrere de l'acord és que les empreses IA assumiran una major responsabilitat per avaluar els riscos creats pels seus propis sistemes.
L'acord demana procediments interns de seguretat, així com les ressenyes externes dissenyades per proporcionar un control addicional de models d'AI cada cop més poderosos.
Trump va descriure l'acord com un lligam moral en comptes d'un mandat regulador convencional.
Reuters va informar que l'administració també està considerant establir un comitè de 10 membres per supervisar el desenvolupament de la indústria de l'AI. Els detalls del comitè, incloent-hi la seva autoritat i afiliació potencial, encara no han estat finals.
El president de la casa Mike Johnson va confirmar per separat que els executius de la indústria de la IA havien signat un acord sobre els estàndards tecnològics durant la reunió de la Casa Blanca.
Per Silicon Valley, l'enfocament voluntària podria oferir una alternativa a una legislació federal més limitada.
Per als crítics, però, la qüestió és si les empreses desenvolupen la tecnologia pot regular-se de forma efectiva ells mateixos mentre es competien pels clients, la inversió i el lideratge tecnològic.
Google, Meta i altres líders de la IA unir-se a les converses
Diverses de les figures més influents de la tecnologia van participar en els debats.
Sundar Pichai i Mark Zuckerberg també eren representats entre els executius, mentre que les empreses del centre de l'AI generativa boom.
L'acord arriba en un moment inusualment sensible a la indústria.
Els models de la IA són capaços de realitzar tasques cada cop més complexes amb una supervisió humana menys directa. L'augment ràpid dels agents de la IA, sistemes capaços de realitzar seqüències d'accions en lloc de respondre a preguntes, ha intensificat les preocupacions de la seguretat i el control.
Els investigadors dels laboratoris principals de la IA també han advertit públicament la velocitat del desenvolupament.
Reuters va informar el 29 de setembre que els investigadors actuals i antics de OpenAI i Google PeepMind havien aixecat preocupacions sobre empreses que perpetuen sistemes capaços de millorar les seues habilitats mentre que les mesures de seguretat lluiten per mantenir el ritme.
Aquestes preocupacions es preocupen per la interrupció del treball i les amenaces ciberseguretat a escenaris molt més greus que implicaven sistemes de la IA com els seus desenvolupadors no tenien la intenció.
ObreAI va aturar un model sobre problemes de seguretat
Un detall de la Casa Blanca que il·lustra com es tracten seriosament alguns laboratoris el problema.
El director general de l'OpenAI Sam Altman va dir que la seva empresa havia aturat l'alliberament d'un model a causa de les preocupacions de seguretat, segons l'executiu Press.
La revelació és que les empreses de la IA cada cop són models avançats abans que el públic decideixi si es poden fer mal o comportar inesperadament.
Al mateix temps, la indústria s'enfronta a una pressió comercial enorme per a moure's ràpidament.
OpenAI, Google, Antropica, Meta i altres companyies estan gastant molt en infraestructures de computació i competien per construir sistemes d'AI cada cop més capaces.
Això crea un equilibri difícil entre velocitat tecnològica i seguretat.
Una tecnologia d'inici de la Nvidia dissenyada per aturar els agents de la IA
El nou acord també segueix una gran declaració de seguretat de l'AI de Nvidia.
El 28 de setembre, Nvidia va introduir la seva plataforma de seguretat Open Agent, un sistema de seguretat destinat a prevenir els agents autònoms de l'AI no autoritzats.
La plataforma inclou tecnologia que aclareix el que pot fer un agent de la IA i un altre component capaç de controlar l'activitat sospitosa i el comportament potencialment perillós.
Més de 100 organitzacions ja estan utilitzant la tecnologia, d'acord amb la premsa associada.
En Jensen Huang va argumentar que la seguretat de l'AI es pot apropar en part com un repte d'enginyeria, amb protecció de programari més forta que proporciona límits al voltant dels sistemes autònoms cada vegada més autònoms.
Washington pesa un enfocament diferent d'Europa
El debat també destaca una gran diferència entre els nord-americans i els europeus s'acosta a la intel·ligència artificial.
L'administració de Trump ha despertat repetidament el lideratge tecnològic dels EUA i evita les restriccions que creu que podrien alentir la innovació.
El Pla d'acció de la Casa Blanca descriu el lideratge en la intel·ligència artificial com una prioritat de seguretat nacional i argumenta que els Estats Units han de seguir endavant els competidors globals.
Els reguladors europeus han fet una aproximació més intervenció.
El mateix dia que la reunió de la Casa Blanca, Google va desafiar les ordres reguladores de la Unió Europea que requerien proporcionar més accés a certs serveis per als desenvolupadors de l'AI i competir amb els motors de cerca.
Google argumenta que els requisits poden exposar informació sensible a l'usuari, mentre que la Comissió Europea manté que les salvaguarcions de privacitat apropiades són incloses.
La disputa demostra com els governs lluiten per equilibrar la competència, la privacitat, la innovació i la seguretat de l'AI s'han incrustat arreu de l'economia global.
La següent batalla sobre la regulació de l'AI
L'acord no resol la major pregunta de si es requereix la regulació de la IA federal.
En comptes d'això, estableix un marc de la indústria en un moment en què els legisladors, els investigadors i les empreses tecnològics debaten com de ràpid ha de evolucionar la supervisió del govern.
Les estaques son cada vegada més enllà de l'AI moviments de xat i en agents autònoms capaços d'interaccionar amb sistemes informàtics, d'escriure software, d'investigació i dur tasques digitals complicades.
Des d'ara, Washington està donant la responsabilitat significativa de la indústria tecnològica per establir salvaguardes al voltant dels seus propis productes.
Si els compromisos voluntaris demostren que el suficient pot ser una de les qüestions polítiques que defineixen la tecnologia dels pròxims anys.