O acordo, chamado de Compromisso Conjunto sobre Responsabilidades Fronteiras, foi anunciado em 29 de setembro após uma reunião da Casa Branca envolvendo o presidente Donald Trump e os principais executivos de tecnologia.
O documento foi assinado por executivos representando o Google , Meta , OpenAI , Nvidia , Anthropic , e X , de acordo com a Reuters.
UOL Notícias +1
Ao contrário de um regulamento federal, o acordo é voluntário. A administração descreveu-o como um compromisso destinado a estabelecer salvaguardas mais fortes dentro de empresas que desenvolvam modelos de inteligência artificial cada vez mais capazes.
O desenvolvimento vem como governos, empresas de tecnologia e pesquisadores continuam debatendo quão rápido o avanço da IA deve ser controlado sem impedir a inovação.
O que as empresas de IA concordaram em fazer
O acordo estabelece quatro grandes camadas de controlos de segurança.
Espera-se que as empresas participantes mantenham sistemas internos que monitorem as capacidades e o comportamento de seus modelos de IA durante treinamento e implantação.
Esses controlos destinam-se a identificar potenciais riscos que envolvam áreas como a cibersegurança, as ameaças biológicas e as ameaças químicas.
O acordo exige especificamente salvaguardas destinadas a impedir que os modelos de IA acedam ou interfiram com sistemas técnicos de forma não intencional.
Notícias da UOL
Espera-se também que as empresas mantenham as equipes internas responsáveis por verificar se os sistemas de monitoramento e detecção estão funcionando como pretendido.
Um nível separado de supervisão viria de fora das próprias empresas.
Avaliações independentes de IA fazem parte do acordo
Uma das disposições mais significativas exige que as empresas participantes trabalhem com auditores ou avaliadores externos.
Estas avaliações independentes analisariam se os sistemas de monitorização e controlo de IA das empresas funcionam como previsto.
O acordo também solicita que as empresas criem comitês independentes que recebam informações de equipes internas e avaliadores externos.
UOL Notícias +1
Espera-se que as empresas participantes cumpram regularmente para desenvolver normas e melhores práticas para melhorar a segurança dos seus sistemas.
O documento reconhece também que algumas destas medidas poderão eventualmente tornar-se parte de leis ou regulamentos formais.
Notícias da UOL
Por enquanto, porém, os compromissos não são regras federais juridicamente vinculativas.
Por que o acordo importa
O acordo chega a um momento crucial para a indústria da inteligência artificial.
Os sistemas de IA estão cada vez mais se movendo além de responder perguntas e gerar texto, imagens ou código de computador.
As empresas estão desenvolvendo agentes de IA capazes de realizar sequências mais longas de ações, utilizando ferramentas de software e completando tarefas com supervisão humana menos direta.
Essa expansão aumentou a atenção sobre como as empresas testam modelos poderosos antes de liberá-los.
O novo acordo tenta criar um framework compartilhado entre os principais desenvolvedores de IA, deixando as empresas individuais responsáveis pela implementação de muitos dos controles.
A Associated Press informou que o acordo inclui salvaguardas internas, revisões externas independentes e mecanismos de supervisão nas empresas participantes.
Notícias AP
As maiores empresas de IA estavam em Washington
A Casa Branca reuniu muitas das figuras mais influentes da tecnologia global.
Os executivos participantes incluíam líderes ligados à Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon e X, de acordo com relatórios do evento.
Notícias AP +1
Sua participação ilustra como a política de IA está se conectando com as maiores empresas de tecnologia dos Estados Unidos.
As empresas envolvidas estão investindo fortemente em modelos de IA, infraestrutura computacional, chips e data centers.
Ao mesmo tempo, governos em todo o mundo estão tentando determinar quais salvaguardas devem ser aplicadas à medida que esses sistemas se tornam mais capazes.
America.gov também lança
O acordo de segurança da IA não foi o único grande anúncio tecnológico de Washington.
A Casa Branca também lançou o America.gov, um novo portal digital destinado a dar aos americanos um único lugar para acessar informações e serviços do governo federal.
Segundo a Casa Branca, os usuários podem se comunicar com o serviço usando linguagem comum e receber respostas sem ter que navegar por inúmeros sites de agências federais individuais.
A Casa Branca
A administração diz que a plataforma é projetada para permitir que as pessoas completem certas transações governamentais diretamente quando houver autorização e infraestrutura técnica.
A Casa Branca também diz que as proteções de privacidade devem ser incorporadas ao serviço.
A Casa Branca
O lançamento representa outro exemplo de IA gerativa que passa de aplicações experimentais para serviços públicos utilizados pelos cidadãos comuns.
O regulamento AI continua a ser um grande debate
É provável que o carácter voluntário do acordo continue a ser uma parte importante do debate mais alargado sobre o regulamento relativo à IA.
Os apoiadores de padrões conduzidos pela indústria argumentam que a inteligência artificial está se desenvolvendo tão rapidamente que a regulação rígida poderia lutar para acompanhar os avanços tecnológicos.
Críticos de sistemas voluntários argumentam que as empresas que desenvolvem modelos poderosos de IA devem enfrentar padrões externos exequíveis em vez de confiar principalmente em controles internos.
O novo acordo inclui de facto uma avaliação independente, mas as empresas mantêm uma responsabilidade substancial pela implementação dos seus próprios sistemas de segurança.
O próprio acordo deixa em aberto a possibilidade de os seus princípios poderem eventualmente ser incorporados na legislação ou na regulamentação formal.
Notícias da UOL
Isso significa que o anúncio de 29 de setembro pode representar um quadro precoce, em vez da forma final da superintendência da IA americana.
A Europa está a tomar um caminho diferente
Os Estados Unidos não estão a desenvolver a política de IA isoladamente.
A Europa tem prosseguido uma abordagem mais regulamentar através das regras da União Europeia em matéria de inteligência artificial e de legislação digital mais ampla.
O contraste criou uma importante questão política internacional: se a IA avançada deve ser governada principalmente através de legislação, compromissos da indústria, auditoria independente, ou alguma combinação dos três.
As empresas de tecnologia que operam globalmente podem, em última análise, ter de cumprir diferentes sistemas regulatórios, dependendo de onde os seus produtos são oferecidos.
Isso torna as decisões em Washington e Bruxelas particularmente importantes para as empresas que desenvolvem modelos utilizados por centenas de milhões de pessoas.
As preocupações de segurança das IA estão a aumentar com capacidade
O acordo também chega à medida que várias empresas líderes de IA discutem publicamente riscos associados a sistemas cada vez mais capazes.
Os desenvolvedores estão testando modelos de comportamento envolvendo cibersegurança, tomada de decisão autônoma, informações biológicas e a capacidade de operar ferramentas de software externas.
Esses recursos podem criar aplicativos úteis, mas também levantam dúvidas sobre o que acontece quando os sistemas se comportam de forma diferente do que os desenvolvedores pretendiam.
O novo acordo tenta resolver esta questão, exigindo múltiplas camadas de monitorização, em vez de confiar num único processo de segurança interna.
A avaliação externa pode tornar-se particularmente importante à medida que as empresas liberam agentes de IA cada vez mais autônomos.
O que acontece a seguir?
A questão imediata é saber como as empresas participantes traduzirão o acordo em salvaguardas operacionais.
O documento estabelece princípios, mas a eficácia desses princípios dependerá da implementação, incluindo a forma como os avaliadores independentes são selecionados, quais as normas que aplicam e como as empresas respondem quando os riscos são descobertos.
Outra questão é a transparência.
O público pode cada vez mais esperar que as empresas expliquem como modelos avançados foram avaliados antes da liberação e quais salvaguardas estão operando após a implantação.
Por enquanto, o acordo representa um compromisso coordenado significativo envolvendo várias das empresas que constroem os sistemas de inteligência artificial mais avançados do mundo.
Se essas salvaguardas voluntárias eventualmente se tornarão regras obrigatórias dependerá de futuras decisões dos legisladores, reguladores e das próprias empresas.
O que já está claro é que a segurança da IA passou de um debate tecnológico especializado para uma questão central para governos, empresas e centenas de milhões de pessoas que utilizam inteligência artificial todos os dias.
