Das Abkommen, das als Gemeinsames Engagement für die Verantwortung der Grenzen bezeichnet wird, wurde am 29. September nach einer Sitzung des Weißen Hauses unter Beteiligung von Präsident Donald Trump und führenden Technologiemanagern bekannt gegeben.
Das Dokument wurde von Executives, die Google, Meta, OpenAI, Nvidia, Anthropic und X, nach Reuters signiert.
UOL Notícias +1
Anders als eine Bundesverordnung ist die Vereinbarung freiwillig. Die Verwaltung bezeichnete es als eine Verpflichtung, stärkere Garantien in Unternehmen zu schaffen, die immer leistungsfähigere Modelle für künstliche Intelligenz entwickeln.
Die Entwicklung kommt, da Regierungen, Technologieunternehmen und Forscher weiterhin darüber debattieren, wie schnell die KI gesteuert werden sollte, ohne Innovation zu verhindern.
Was die KI-Unternehmen tun wollten
Mit dem Abkommen werden vier große Sicherheitskontrollen eingeführt.
Es wird erwartet, dass die teilnehmenden Unternehmen interne Systeme beibehalten, die die Fähigkeiten und das Verhalten ihrer KI-Modelle während der Schulung und Bereitstellung überwachen.
Diese Kontrollen sollen potenzielle Risiken identifizieren, die Bereiche wie Cybersicherheit, biologische Bedrohungen und chemische Bedrohungen betreffen.
Die Vereinbarung fordert insbesondere Garantien, die verhindern sollen, dass AI-Modelle auf ungewollte Weise auf technische Systeme zugreifen oder eingreifen.
UOL Notícias
Die Unternehmen sollen auch interne Teams unterhalten, die für die Überprüfung verantwortlich sind, ob Überwachungs- und Detektionssysteme wie vorgesehen funktionieren.
Eine gesonderte Aufsicht würde von außerhalb der Unternehmen selbst erfolgen.
Unabhängige KI-Bewertungen sind Teil der Vereinbarung
Eine der wichtigsten Bestimmungen verlangt, dass teilnehmende Unternehmen mit externen Rechnungsprüfern oder Evaluatoren arbeiten.
Diese unabhängigen Bewertungen würden prüfen, ob die Überwachungs- und Kontrollsysteme der Unternehmen wie vorgesehen funktionieren.
In der Vereinbarung wird auch gefordert, dass Unternehmen unabhängige Gremien einrichten, die Informationen sowohl von internen Teams als auch von externen Bewertern erhalten würden.
UOL Notícias +1
Die teilnehmenden Unternehmen sollen regelmäßig zur Entwicklung von Standards und bewährten Verfahren zur Verbesserung der Sicherheit ihrer Systeme beitragen.
Das Dokument räumt auch ein, dass einige dieser Maßnahmen schließlich Teil formeller Gesetze oder Verordnungen werden könnten.
UOL Notícias
Bisher sind die Verpflichtungen jedoch nicht rechtsverbindliche Bundesregeln.
Warum das Abkommen
Das Abkommen kommt zu einem entscheidenden Zeitpunkt für die künstliche Intelligenz.
KI-Systeme bewegen sich zunehmend über die Beantwortung von Fragen hinaus und erzeugen Text, Bilder oder Computercode.
Unternehmen entwickeln KI-Agenten, die in der Lage sind, längere Handlungsabläufe durchzuführen, Software-Tools zu verwenden und Aufgaben mit weniger direkter menschlicher Aufsicht zu erledigen.
Diese Expansion hat die Aufmerksamkeit erhöht, wie Unternehmen starke Modelle testen, bevor sie veröffentlicht werden.
Die neue Vereinbarung versucht, einen gemeinsamen Rahmen unter den großen KI-Entwicklern zu schaffen, während einzelne Unternehmen für die Umsetzung vieler Kontrollen verantwortlich sind.
Associated Press berichtete, dass die Vereinbarung interne Garantien, unabhängige externe Überprüfungen und Aufsichtsmechanismen in teilnehmenden Unternehmen umfasst.
AP-Nachrichten
Die größten KI-Unternehmen waren in Washington
Das Treffen des Weißen Hauses brachte viele der einflussreichsten Persönlichkeiten der globalen Technologie zusammen.
Zu den Führungskräften gehörten Leiter von Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon und X, laut Berichten der Veranstaltung.
AP Nachrichten +1
Ihre Beteiligung zeigt, wie eng die KI-Politik mit den größten Technologieunternehmen in den Vereinigten Staaten verbunden wird.
Die beteiligten Unternehmen investieren stark in KI-Modelle, Computerinfrastruktur, Chips und Rechenzentren.
Gleichzeitig versuchen Regierungen auf der ganzen Welt zu bestimmen, welche Sicherungsmaßnahmen gelten sollten, da diese Systeme fähiger werden.
America.gov startet auch
Die AI-Sicherheitsvereinbarung war nicht die einzige große Technologie-Ankündigung aus Washington.
Das Weiße Haus startete auch America.gov, ein neues digitales Gateway, das den Amerikanern einen einzigen Platz für den Zugang zu Informationen und Diensten der Bundesregierung geben soll.
Laut dem Weißen Haus können Nutzer mit dem Dienst über gewöhnliche Sprache kommunizieren und Antworten erhalten, ohne dass sie zahlreiche einzelne Webseiten der Bundesagentur navigieren müssen.
Das Weiße Haus
Die Verwaltung sagt, die Plattform ist schließlich so konzipiert, dass Menschen bestimmte staatliche Transaktionen direkt abschließen können, wenn Autorisierung und technische Infrastruktur zur Verfügung stehen.
Das Weiße Haus sagt auch, dass Datenschutzbestimmungen in den Dienst aufgenommen werden sollen.
Das Weiße Haus
Der Start stellt ein weiteres Beispiel dafür dar, dass generative KI von experimentellen Anwendungen in öffentliche Dienste gehen, die von normalen Bürgern genutzt werden.
KI-Verordnung bleibt eine große Debatte
Der freiwillige Charakter des Abkommens dürfte ein wichtiger Teil der breiteren Debatte über die AI-Verordnung bleiben.
Unterstützer der Industrie führte Standards argumentieren, dass künstliche Intelligenz entwickelt sich so schnell, dass starre Regulierung könnte kämpfen, mit technischen Fortschritten Schritt zu halten.
Kritiker freiwilliger Systeme argumentieren, dass Unternehmen, die leistungsstarke KI-Modelle entwickeln, mit durchsetzbaren externen Standards konfrontiert sein sollten, anstatt sich in erster Linie auf interne Kontrollen zu verlassen.
Das neue Abkommen umfasst eine unabhängige Bewertung, aber die Unternehmen behalten eine erhebliche Verantwortung für die Umsetzung ihrer eigenen Sicherheitssysteme.
Das Abkommen selbst lässt die Möglichkeit offen, dass seine Grundsätze schließlich in Rechtsvorschriften oder formelle Vorschriften aufgenommen werden könnten.
UOL Notícias
Das bedeutet, dass die Ankündigung vom 29. September eher einen frühen Rahmen als die endgültige Form der amerikanischen KI-Überwachung darstellen kann.
Europa geht einen anderen Weg
Die Vereinigten Staaten entwickeln keine KI-Politik isoliert.
Europa hat durch die Regeln für künstliche Intelligenz der Europäischen Union und die breiter angelegten digitalen Rechtsvorschriften einen stärker regulatorischen Ansatz verfolgt.
Der Kontrast hat zu einer wichtigen internationalen politischen Frage geführt: Ob fortgeschrittene KI in erster Linie durch Rechtsvorschriften, Verpflichtungen der Industrie, unabhängige Prüfung oder eine Kombination aller drei geregelt werden sollte.
Technologieunternehmen, die weltweit tätig sind, müssen je nachdem, wo ihre Produkte angeboten werden, letztlich unterschiedliche Regulierungssysteme einhalten.
Das trifft Entscheidungen in Washington und Brüssel besonders wichtig für Unternehmen, die Modelle von Hunderten von Millionen Menschen entwickeln.
AI Sicherheitsbedenken wachsen mit Fähigkeit
Die Vereinbarung kommt auch als mehrere führende KI-Unternehmen öffentlich diskutieren Risiken im Zusammenhang mit immer leistungsfähigeren Systemen.
Entwickler testen Modelle für Verhalten mit Cybersecurity, autonome Entscheidungsfindung, biologische Informationen und die Fähigkeit, externe Software-Tools zu betreiben.
Diese Fähigkeiten können nützliche Anwendungen erstellen, aber sie werfen auch Fragen darüber auf, was passiert, wenn Systeme anders verhalten als das, was Entwickler beabsichtigte.
Das neue Abkommen versucht, dieses Problem anzugehen, indem es mehrere Überwachungsebenen verlangt, anstatt sich auf einen einzigen internen Sicherheitsprozess zu verlassen.
Die externe Evaluierung könnte besonders wichtig werden, da Unternehmen zunehmend autonome KI-Agenten freigeben.
Was als nächstes passiert
Die unmittelbare Frage ist, wie die beteiligten Unternehmen die Vereinbarung in operative Sicherungsmaßnahmen umsetzen werden.
Das Dokument legt Grundsätze fest, aber die Wirksamkeit dieser Grundsätze hängt von der Umsetzung ab, einschließlich der Auswahl unabhängiger Bewerter, deren Anwendungsstandards und der Reaktion der Unternehmen bei der Aufdeckung von Risiken.
Eine weitere Frage ist Transparenz.
Die Öffentlichkeit kann zunehmend erwarten, dass Unternehmen erklären, wie fortgeschrittene Modelle vor der Freigabe bewertet wurden und welche Garantien nach dem Einsatz laufen.
Die Vereinbarung stellt für den Moment ein erhebliches koordiniertes Engagement dar, an dem mehrere Unternehmen beteiligt sind, die die fortschrittlichsten Systeme der künstlichen Intelligenz der Welt aufbauen.
Ob diese freiwilligen Garantien schließlich zu verbindlichen Regeln werden, hängt von künftigen Entscheidungen von Gesetzgebern, Regulierungsbehörden und den Unternehmen selbst ab.
Was bereits klar ist, ist, dass KI-Sicherheit von einer Fach-Technologie-Debatte in eine zentrale Frage für Regierungen, Unternehmen und Hunderte von Millionen Menschen mit künstlicher Intelligenz jeden Tag verschoben hat.
