Algunos de los nombres más grandes de la inteligencia artificial han acordado un nuevo marco destinado a mantener rápidamente los sistemas de inteligencia artificial bajo control, marcando un momento significativo en el debate sobre cómo debe gobernarse la tecnología.
El presidente Donald Trump anunció el 29 de septiembre que ejecutivos de las principales compañías de inteligencia artificial habían firmado un acuerdo que abarcaba las normas de seguridad y la supervisión del desarrollo de la inteligencia artificial.
Las empresas representadas incluían [Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com](https://openai.comutm source=chatgsource).
El acuerdo viene a medida que la industria AI se enfrenta a un creciente escrutinio sobre si los sistemas cada vez más autónomos pueden desarrollarse de forma segura mientras las empresas corren a liberar modelos más capaces.
Según la Associated Press, el acuerdo voluntario incluye compromisos que incluyen controles internos sólidos, exámenes independientes y supervisión a nivel de la junta.
El desarrollo podría dar forma a la siguiente fase del debate mundial sobre las IA, sobre todo porque Estados Unidos ha favorecido hasta ahora un enfoque comparativo de innovación, mientras que Europa ha avanzado hacia una regulación más amplia.
Las empresas de inteligencia artificial aceptan la propia policía
La idea central detrás del acuerdo es que las compañías de IA asumirán mayor responsabilidad para evaluar los riesgos creados por sus propios sistemas.
El acuerdo requiere procedimientos de seguridad interna y exámenes externos diseñados para proporcionar un escrutinio adicional de modelos de IA cada vez más potentes.
Trump describió el acuerdo como moralmente vinculante en lugar de un mandato regulatorio convencional.
Reuters informó de que la administración también está considerando la posibilidad de establecer un comité de 10 miembros para supervisar los acontecimientos en toda la industria de la IA. Aún no se han finalizado detalles sobre el comité, incluida su posible autoridad y composición.
El portavoz de la Cámara Mike Johnson confirmó por separado que los ejecutivos de la industria AI habían firmado un acuerdo sobre las normas tecnológicas durante la reunión de la Casa Blanca.
Para Silicon Valley, el enfoque voluntario podría ofrecer una alternativa a una legislación federal más restrictiva.
Para los críticos, sin embargo, la pregunta es si las empresas que desarrollan la tecnología pueden regularse de manera efectiva mientras compiten simultáneamente para los clientes, la inversión y el liderazgo tecnológico.
Google, Meta y otros líderes de AI se unen a las conversaciones
Varias de las figuras más influyentes de la tecnología participaron en los debates.
Sundar Pichai y Mark Zuckerberg estaban entre los ejecutivos involucrados, mientras que las empresas en el centro del boom generativo de AI también estaban representadas.
El acuerdo llega a un momento inusualmente sensible para la industria.
Los modelos AI se están convirtiendo en capaces de realizar tareas cada vez más complejas con una supervisión humana menos directa. El rápido surgimiento de agentes de IA, sistemas capaces de llevar a cabo secuencias de acciones en lugar de responder simplemente a preguntas, ha intensificado las preocupaciones sobre seguridad y control.
Los investigadores de los principales laboratorios de inteligencia artificial también han advertido públicamente sobre la velocidad del desarrollo.
Reuters informó el 29 de septiembre que investigadores actuales y antiguos de OpenAI y Google DeepMind habían planteado preocupaciones acerca de las empresas que buscan sistemas capaces de mejorar sus propias capacidades mientras las medidas de seguridad luchan para mantener el ritmo.
Esas preocupaciones van desde la perturbación del empleo y las amenazas de ciberseguridad hasta escenarios mucho más graves que implican sistemas de IA comportándose de maneras que sus desarrolladores no se proponían.
OpenAI preparó un modelo sobre cuestiones de seguridad
Un detalle de la reunión de la Casa Blanca ilustra lo seriamente que algunos laboratorios están tratando el problema.
El CEO de OpenAI Sam Altman dijo que su compañía había pausado la liberación de un modelo debido a preocupaciones de seguridad, según la Associated Press.
La divulgación viene cuando las compañías de AI prueban cada vez más modelos avanzados antes del despliegue público para determinar si pueden ser mal utilizados o comportarse inesperadamente.
Al mismo tiempo, la industria enfrenta una enorme presión comercial para moverse rápidamente.
OpenAI, Google, Antrópico, Meta y otras compañías están gastando mucho en la infraestructura informática y compitiendo para construir sistemas de IA cada vez más capaces.
Eso crea un difícil equilibrio entre la velocidad tecnológica y la seguridad.
Nvidia lanza tecnología diseñada para detener a los agentes de inteligencia artificial.
The new agreement also follows a major AI security announcement from Nvidia.
El 28 de septiembre, Nvidia introdujo su Plataforma de Seguridad de Agentes Abiertos, un sistema de seguridad destinado a evitar que agentes autónomos de IA realicen acciones no autorizadas.
La plataforma incluye tecnología que verifica lo que un agente de IA está autorizado a hacer y otro componente capaz de monitorear actividad sospechosa y cuantificar comportamiento potencialmente peligroso.
Más de 100 organizaciones ya utilizan la tecnología, según la Associated Press.
El CEO de Nvidia Jensen Huang ha argumentado que la seguridad de IA puede ser abordada en parte como un desafío de ingeniería, con una protección de software más fuerte que proporciona límites alrededor de sistemas cada vez más autónomos.
Washington pesa un enfoque diferente de Europa
El debate también pone de relieve una diferencia cada vez mayor entre los enfoques estadounidenses y europeos de la inteligencia artificial.
La administración Trump ha hecho hincapié repetidamente en mantener el liderazgo tecnológico de los Estados Unidos y evitar restricciones que cree que podrían retrasar la innovación.
El Plan de Acción de la Casa Blanca AI describe el liderazgo en la inteligencia artificial como una prioridad de seguridad nacional y sostiene que los Estados Unidos deben permanecer por delante de los competidores mundiales.
Los reguladores europeos han adoptado un enfoque más intervencionista.
El mismo día que la reunión de la Casa Blanca AI, Google desafió las órdenes regulatorias de la Unión Europea que le exigían proporcionar un mayor acceso a ciertos servicios para los desarrolladores de IA y los motores de búsqueda competidores.
Google sostiene que los requisitos podrían exponer información confidencial de los usuarios, mientras que la Comisión Europea mantiene que se incluyen las salvaguardias adecuadas de privacidad.
La disputa demuestra cómo los gobiernos están luchando para equilibrar la competencia, la privacidad, la innovación y la seguridad a medida que la IA se incrusta en la economía global.
La próxima batalla sobre la regulación de AI
El acuerdo voluntario no resuelve la cuestión más amplia de si se necesitará eventualmente una regulación vinculante de la IA federal.
En cambio, establece un marco respaldado por la industria en un momento en que los legisladores, investigadores y empresas tecnológicas están debatiendo lo rápido que debe evolucionar la supervisión gubernamental.
Las apuestas están aumentando a medida que AI se mueve más allá de los chatbots y en agentes autónomos capaces de interactuar con sistemas informáticos, escribir software, realizar investigaciones y llevar a cabo tareas digitales complicadas.
Por ahora, Washington está dando a la industria tecnológica una responsabilidad importante para establecer salvaguardias alrededor de sus propios productos.
Si los compromisos voluntarios resultan suficientes pueden convertirse en una de las cuestiones de política tecnológica definitoria de los próximos años.
