Alguns dos maiores nomes em inteligência artificial concordaram com um novo quadro destinado a manter sob controle sistemas de IA em rápido avanço, marcando um momento significativo no debate sobre como a tecnologia deve ser governada.
O presidente Donald Trump anunciou em 29 de setembro que executivos de empresas líderes de IA haviam assinado um acordo cobrindo padrões de segurança e supervisão do desenvolvimento de inteligência artificial.
As empresas representadas incluíam [Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com), [OpenAI](https://openai.com/?utm source=chatgpt.com), [Anthropic](https://www.anthropic.com/?utm source=chatgpt.com), [Nvidia](https://www.nvidia.com/?utm source=chatgpt.com) e [xaI](https://x.ai/?utm source=chatgpt.com).
O acordo vem como a indústria de IA enfrenta um escrutínio crescente sobre se sistemas cada vez mais autônomos podem ser desenvolvidos com segurança, enquanto as empresas concorrem para lançar modelos mais capazes.
De acordo com a Associated Press, o acordo voluntário inclui compromissos que envolvem controlos internos fortes, revisões independentes e supervisão a nível do conselho.
O desenvolvimento poderia moldar a próxima fase do debate global sobre IA, especialmente porque os Estados Unidos têm até agora favorecido uma abordagem comparativamente focada na inovação, enquanto a Europa tem avançado para uma regulamentação mais ampla.
Empresas de IA concordam em se policiar
A ideia central por trás do acordo é que as empresas de IA assumirão maior responsabilidade pela avaliação dos riscos criados pelos seus próprios sistemas.
O acordo apela a procedimentos de segurança interna, bem como a revisões externas destinadas a fornecer um controlo adicional de modelos de IA cada vez mais poderosos.
Trump descreveu o acordo como moralmente vinculativo ao invés de um mandato regulatório convencional.
Reuters relatou que a administração também está considerando a criação de um comitê de 10 membros para supervisionar os desenvolvimentos em toda a indústria de IA. Os pormenores sobre a comissão, incluindo a sua autoridade potencial e a sua adesão, ainda não foram finalizados.
O presidente Mike Johnson confirmou separadamente que os executivos da indústria de IA haviam assinado um acordo sobre os padrões tecnológicos durante a reunião da Casa Branca.
Para o Vale do Silício, a abordagem voluntária poderia oferecer uma alternativa à legislação federal mais restritiva.
Para os críticos, no entanto, a questão é se as empresas que desenvolvem a tecnologia podem efetivamente se regular enquanto competem simultaneamente por clientes, investimento e liderança tecnológica.
Google, Meta e outros líderes de IA participam de palestras
Várias das figuras mais influentes na tecnologia participaram nas discussões.
Sundar Pichai e Mark Zuckerberg estavam entre os executivos envolvidos, enquanto as empresas no centro do boom de IA generativa também estavam representadas.
O acordo chega a um momento particularmente sensível para a indústria.
Modelos de IA estão se tornando capazes de realizar tarefas cada vez mais complexas com supervisão humana menos direta. O rápido surgimento de agentes de IA, sistemas capazes de realizar sequências de ações em vez de simplesmente responder a perguntas, tem intensificado as preocupações com segurança e controle.
Pesquisadores dos principais laboratórios de IA também avisaram publicamente sobre a velocidade do desenvolvimento.
A Reuters informou em 29 de setembro que pesquisadores atuais e antigos da OpenAI e Google DeepMind levantaram preocupações sobre empresas que buscam sistemas capazes de melhorar suas próprias habilidades enquanto medidas de segurança lutam para manter o ritmo.
Essas preocupações vão desde a interrupção do emprego e ameaças de segurança cibernética até cenários muito mais graves envolvendo sistemas de IA se comportando de maneiras que seus desenvolvedores não pretendiam.
OpenAI parou um modelo sobre questões de segurança
Um detalhe da reunião da Casa Branca ilustrou quão seriamente alguns laboratórios estão tratando o problema.
O CEO da OpenAI, Sam Altman, disse que sua empresa havia pausado o lançamento de um modelo por problemas de segurança, de acordo com a Associated Press.
A divulgação vem como empresas de IA cada vez mais testar modelos avançados antes da implantação pública para determinar se eles poderiam ser usados ou se comportar inesperadamente.
Ao mesmo tempo, a indústria enfrenta enorme pressão comercial para se mover rapidamente.
OpenAI, Google, Anthropic, Meta e outras empresas estão gastando muito em infraestrutura de computação e competindo para construir sistemas de IA cada vez mais capazes.
Isso cria um equilíbrio difícil entre a velocidade tecnológica e a segurança.
Nvidia lança tecnologia projetada para deter agentes de IA desonestos
O novo acordo também segue um importante anúncio de segurança de IA da Nvidia.
Em 28 de setembro, a Nvidia introduziu sua Plataforma de Segurança Open Agent, um sistema de segurança destinado a impedir agentes autônomos de realizar ações não autorizadas.
A plataforma inclui tecnologia que verifica o que um agente de IA é autorizado a fazer e outro componente capaz de monitorar atividade suspeita e quarantear comportamento potencialmente perigoso.
Mais de 100 organizações já estão usando a tecnologia, de acordo com a Associated Press.
O CEO da Nvidia, Jensen Huang, argumentou que a segurança de IA pode ser abordada em parte como um desafio de engenharia, com proteções de software mais fortes proporcionando limites em torno de sistemas cada vez mais autônomos.
Washington pesa uma abordagem diferente da Europa
O debate destaca igualmente uma diferença crescente entre as abordagens norte-americana e europeia em matéria de inteligência artificial.
A administração Trump tem enfatizado repetidamente a manutenção da liderança tecnológica dos EUA e evitando restrições que ela acredita que poderiam retardar a inovação.
O Plano de Ação da Casa Branca descreve a liderança em inteligência artificial como uma prioridade de segurança nacional e argumenta que os Estados Unidos devem permanecer à frente dos concorrentes globais.
Os reguladores europeus adoptaram uma abordagem mais intervencionista.
No mesmo dia da reunião de IA da Casa Branca, o Google desafiou as ordens regulatórias da União Europeia que exigiam maior acesso a certos serviços para desenvolvedores de IA e motores de busca concorrentes.
A Google argumenta que os requisitos poderiam expor informações sensíveis dos utilizadores, enquanto a Comissão Europeia sustenta que estão incluídas as salvaguardas de privacidade adequadas.
A disputa demonstra como os governos estão lutando para equilibrar a concorrência, a privacidade, a inovação e a segurança à medida que a IA se torna incorporada em toda a economia global.
A próxima batalha sobre o regulamento de IA
O acordo voluntário não resolve a questão maior de saber se a regulamentação federal vinculativa de IA será eventualmente necessária.
Em vez disso, estabelece um quadro apoiado pela indústria numa altura em que os legisladores, os investigadores e as empresas de tecnologia estão a debater a rapidez com que a supervisão governamental deve evoluir.
Os riscos estão aumentando à medida que a IA se move para além de chatbots e para agentes autônomos capazes de interagir com sistemas de computador, escrever software, realizar pesquisas e realizar tarefas digitais complicadas.
Por enquanto, Washington está a dar à indústria tecnológica uma responsabilidade significativa para estabelecer salvaguardas em torno dos seus próprios produtos.
Se os compromissos voluntários se revelarem suficientes, poderá tornar-se uma das questões de definição da política tecnológica dos próximos anos.
