L'accord, appelé l'engagement conjoint sur les responsabilités aux frontières, a été annoncé le 29 septembre à la suite d'une réunion de la Maison-Blanche impliquant le président Donald Trump et les dirigeants de la technologie.
Le document a été signé par les cadres représentant Google, Meta, OpenAI, Nvidia, Anthropic et X, selon Reuters.
UOL Notícias +1
Contrairement à un règlement fédéral, l'entente est volontaire. L'administration l'a décrit comme un engagement visant à établir des garanties plus solides au sein des entreprises développant des modèles d'intelligence artificielle de plus en plus capables.
Le développement survient alors que les gouvernements, les entreprises technologiques et les chercheurs continuent de débattre de la façon dont l'IA devrait être contrôlée rapidement sans empêcher l'innovation.
Ce que les entreprises d'IA ont accepté de faire
L'accord établit quatre grandes couches de contrôles de sécurité.
Les entreprises participantes doivent maintenir des systèmes internes qui surveillent les capacités et le comportement de leurs modèles d'IA pendant la formation et le déploiement.
Ces contrôles visent à identifier les risques potentiels touchant des domaines tels que la cybersécurité, les menaces biologiques et les menaces chimiques.
L'accord prévoit expressément des mesures de sauvegarde destinées à empêcher les modèles d'IA d'accéder ou d'interférer de manière non intentionnelle avec les systèmes techniques.
UOL Notícias
Les entreprises doivent également maintenir des équipes internes chargées de vérifier si les systèmes de surveillance et de détection fonctionnent comme prévu.
Un niveau de surveillance distinct proviendrait de l'extérieur des entreprises elles-mêmes.
Des évaluations indépendantes de l'IA font partie de l'accord
L'une des dispositions les plus importantes exige que les entreprises participantes travaillent avec des vérificateurs externes ou des évaluateurs.
Ces évaluations indépendantes permettraient d'examiner si les systèmes de surveillance et de contrôle de l'IA des entreprises fonctionnent comme prévu.
L'entente demande également aux entreprises de créer des comités de conseil indépendants qui recevraient de l'information des équipes internes et des évaluateurs externes.
UOL Notícias +1
On s'attend à ce que les entreprises participantes se conforment régulièrement à des normes et à des pratiques exemplaires pour améliorer la sécurité de leurs systèmes.
Le document reconnaît également que certaines de ces mesures pourraient éventuellement faire partie de lois ou de règlements officiels.
UOL Notícias
Pour l'instant, toutefois, les engagements ne sont pas des règles fédérales juridiquement contraignantes.
Pourquoi l'accord est-il important?
L'accord arrive à un moment crucial pour l'industrie de l'intelligence artificielle.
Les systèmes d'IA vont de plus en plus au-delà des questions et génèrent du texte, des images ou du code informatique.
Les entreprises développent des agents d'IA capables d'effectuer des séquences d'actions plus longues, en utilisant des outils logiciels et en accomplissant des tâches avec une supervision humaine moins directe.
Cette expansion a accru l'attention sur la façon dont les entreprises testent les modèles puissants avant de les libérer.
Le nouvel accord tente de créer un cadre partagé entre les principaux développeurs d'IA tout en laissant les entreprises individuelles responsables de la mise en œuvre de nombreux contrôles.
Associated Press a indiqué que l'accord comprend des garanties internes, des examens externes indépendants et des mécanismes de surveillance au sein des sociétés participantes.
Nouvelles AP
Les plus grandes sociétés d'IA étaient à Washington
La réunion de la Maison Blanche a réuni un grand nombre des personnalités les plus influentes de la technologie mondiale.
Les dirigeants présents comprenaient des leaders connectés à Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon et X, selon les rapports de l'événement.
Nouvelles AP +1
Leur participation montre à quel point la politique d'IA est étroitement liée aux plus grandes entreprises technologiques des États-Unis.
Les entreprises concernées investissent massivement dans les modèles d'IA, l'infrastructure informatique, les puces et les centres de données.
Dans le même temps, les gouvernements du monde entier essaient de déterminer quelles garanties devraient s'appliquer à mesure que ces systèmes deviennent plus capables.
America.gov lance également
L'accord sur la sécurité des AI n'était pas la seule importante annonce technologique de Washington.
La Maison-Blanche a également lancé America.gov, une nouvelle passerelle numérique destinée à donner aux Américains une place unique pour accéder à l'information et aux services du gouvernement fédéral.
Selon la Maison Blanche, les utilisateurs peuvent communiquer avec le service en utilisant la langue ordinaire et recevoir des réponses sans avoir à naviguer sur de nombreux sites Web d'organismes fédéraux.
La Maison Blanche
Selon l'administration, la plate-forme est conçue pour permettre aux gens de réaliser certaines transactions gouvernementales directement lorsque l'autorisation et l'infrastructure technique sont disponibles.
La Maison-Blanche affirme également que les protections de la vie privée doivent être intégrées au service.
La Maison Blanche
Le lancement représente un autre exemple de passage de l'IA générique des applications expérimentales aux services publics utilisés par les citoyens ordinaires.
La réglementation de l'IA reste un débat majeur
Le caractère volontaire de l'accord restera probablement une partie importante du débat plus large sur la réglementation de l'IA.
Les partisans des normes de l'industrie soutiennent que l'intelligence artificielle se développe si rapidement que la réglementation rigide pourrait lutter pour suivre le rythme des progrès technologiques.
Les critiques des systèmes volontaires soutiennent que les entreprises qui développent des modèles puissants d'IA devraient faire face à des normes externes applicables plutôt qu'à des contrôles internes.
Le nouvel accord prévoit une évaluation indépendante, mais les entreprises conservent une grande responsabilité dans la mise en œuvre de leurs propres systèmes de sécurité.
L'accord lui-même laisse ouverte la possibilité que ses principes puissent éventuellement être incorporés dans la législation ou la réglementation formelle.
UOL Notícias
Cela signifie que l'annonce du 29 septembre pourrait représenter un cadre précoce plutôt que la forme finale de la surveillance américaine de l'IA.
L'Europe prend une autre voie
Les États-Unis n'élaborent pas de politique d'IA isolément.
L'Europe a adopté une approche plus réglementaire à travers les règles de l'Union européenne en matière d'intelligence artificielle et une législation numérique plus large.
Le contraste a créé une importante question de politique internationale : la question de savoir si l'IA avancée devrait être régie principalement par la législation, les engagements de l'industrie, la vérification indépendante ou une combinaison des trois.
Les entreprises technologiques opérant à l'échelle mondiale peuvent en fin de compte devoir se conformer à différents systèmes réglementaires selon l'endroit où leurs produits sont offerts.
Cela rend les décisions à Washington et à Bruxelles particulièrement importantes pour les entreprises qui développent des modèles utilisés par des centaines de millions de personnes.
Les problèmes de sécurité de l'IA augmentent avec la capacité
L'accord arrive également alors que plusieurs grandes sociétés d'IA discutent publiquement des risques associés à des systèmes de plus en plus capables.
Les développeurs testent des modèles de comportement impliquant la cybersécurité, la prise de décision autonome, l'information biologique et la capacité d'utiliser des outils logiciels externes.
Ces capacités peuvent créer des applications utiles, mais elles soulèvent aussi des questions sur ce qui se passe lorsque les systèmes se comportent différemment de ce que les développeurs voulaient.
Le nouvel accord tente de régler ce problème en exigeant plusieurs niveaux de surveillance plutôt que de s'appuyer sur un seul processus de sécurité interne.
L'évaluation externe pourrait devenir particulièrement importante à mesure que les entreprises libèrent des agents d'IA de plus en plus autonomes.
Ce qui se passe ensuite
La question immédiate est de savoir comment les entreprises participantes transposeront l'accord en garanties opérationnelles.
Le document établit des principes, mais l'efficacité de ces principes dépendra de la mise en oeuvre, y compris de la façon dont les évaluateurs indépendants sont sélectionnés, des normes qu'ils appliquent et de la façon dont les entreprises réagissent lorsque les risques sont découverts.
Une autre question est la transparence.
Le public peut s'attendre de plus en plus à ce que les entreprises expliquent comment les modèles avancés ont été évalués avant leur mise en marché et quelles mesures de protection sont en place après leur déploiement.
Pour l'instant, l'accord représente un engagement coordonné important impliquant plusieurs des entreprises qui construisent les systèmes d'intelligence artificielle les plus avancés au monde.
La question de savoir si ces garanties volontaires deviennent des règles obligatoires dépendra des décisions futures des législateurs, des régulateurs et des entreprises elles-mêmes.
Ce qui est déjà clair, c'est que la sécurité de l'IA est passée d'un débat technologique spécialisé à une question centrale pour les gouvernements, les entreprises et des centaines de millions de personnes qui utilisent l'intelligence artificielle chaque jour.
