本契約は、フロンティアの責任に関する共同コミットメントと呼ばれる、社長ドナルド・トランプと主要な技術執行者を含むホワイトハウス会議の後に9月29日に発表されました。
ドキュメントは、Google、Meta、OpenAI、Nvidia、Anthropic、X、ロイターによると、役員によって署名されました。
UOLノッティア +1
連邦規制とは異なり、合意は自主的です。 管理は、ますますます有能な人工知能モデルを開発する企業の中でより強力な保護策を確立することを目的としたコミットメントとしてそれを説明する。
開発は、政府、テクノロジー企業、研究者が、イノベーションを防止することなく、AIがいかに迅速に管理されるべきかを議論し続けています。
AI企業が何をすべきか
契約は、安全制御の4つの広い層を確立します。
参加企業は、トレーニングと展開の両方でAIモデルの機能と動作を監視する内部システムを維持することが期待されます。
これらの制御は、サイバーセキュリティ、生物学的脅威、化学的脅威などの関与する領域を識別するために意図されています。
具体的には、AIモデルが意図されていない方法で技術的なシステムにアクセスしたり、干渉したりすることを防ぐように設計された保護のための呼び出しを呼び出します。
UOLノッティア
企業は、監視システムや検出システムが意図どおりに動作しているかをチェックする責任のある社内チームを維持することも期待しています。
社内外から別のレベルの監督が来ています。
独立したAI評価は取引の一部である
参加企業が外部の監査人や評価者と協力して取り組むための最も重要な規定の1つです。
これらの独立した評価は、企業のAI監視と制御システムが意図どおりに機能しているかどうかを調べます。
また、社内のチームと外部評価者の両方から情報を受け取る独立した委員会を設置する企業に対しても合意します。
UOLノッティア +1
参加企業は、システムの安全性を向上させるための基準とベストプラクティスを開発するために定期的に会う予定です。
文書はまた、これらの措置のいくつかは、最終的に正式な法令の一部になる可能性があることを認めます。
UOLノッティア
しかしながら、約束は法的に連邦の規則を拘束するものではありません。
なぜ合意が重要なのか
アコードは人工知能業界にとって重要な瞬間に着きます。
AIシステムは、質問に答え、テキスト、画像、コンピュータのコードを生成することを超えて、ますますます動きます。
企業は、ソフトウェアツールを使用して、アクションの長いシーケンスを実行し、直接的な人間の監督でタスクを完了することができるAIエージェントを開発しています。
その拡張は、企業がそれらを解放する前に強力なモデルをテストする方法に注目しています。
新しい合意は、多くの制御を実施する責任のある個々の会社を残しながら、主要なAI開発者の間で共有フレームワークを作成しようとしています。
アソシエイトプレスは、参加企業内の内部保護、独立した外部レビュー、および監督メカニズムを含むことを発表しました。
APニュース
ワシントンで最大級のAI企業
ホワイトハウスの集会は、グローバル技術の最も影響力のある数字の多くを集めました。
本イベントのレポートによると、メタ、NVIDIA、Anthropic、OpenAI、Google、Microsoft、Amazon、X に接続されたリーダーに出席するエグゼクティブ。
APニュース +1
米国最大のテクノロジー企業と密接なAI政策がつながるか、その参加事例をご紹介します。
企業がAIモデル、コンピューティングインフラ、チップ、データセンターに投資しています。
同時に、世界の政府は、これらのシステムがより可能になるように、保護措置が適用すべきかを判断しようとしています。
アメリカ.govも発売
「AI安全協定」は、ワシントンの主要技術発表にすぎません。
ホワイトハウスは、アメリカ連邦政府の情報やサービスにアクセスするための単一の場所を提供する目的で、新しいデジタルゲートウェイであるAmerica.govを立ち上げました。
White Houseによると、ユーザーは通常の言語を使用してサービスに通信し、多数の個々の連邦機関のウェブサイトをナビゲートすることなく回答を受け取ることができます。
ホワイトハウス
管理者は、プラットフォームは、承認と技術的なインフラストラクチャが利用可能なときに、人々が直接特定の政府の取引を完了できるようにするために設計されています。
ホワイトハウスは、プライバシー保護もサービスに組み込まれているように意図されていると述べています。
ホワイトハウス
打ち上げは、実験的なアプリケーションから一般市民が使用する公共サービスに移動する遺伝子AIの別の例を表します。
AI規制は大きな議論を残します
契約の自発的な性質は、AI規制に対するより広い議論の重要な部分を維持する可能性があります。
業界のサポーターは、人工知能が急速に発展しているので、厳格な規制が技術の進歩にスピードをあげることに苦労する可能性があるという基準を主導しました。
強力なAIモデルを開発する企業は、主に内部制御に依存するよりも、強制的な外部基準に直面しるべきであると主張する自発的なシステムの重要性。
新しいコードは独立した評価を含みますが、企業は独自の安全システムを実装するための大きな責任を負います。
合意自体は、その原則が法律または正式な規制に組み込まれる可能性がある可能性を開く。
UOLノッティア
つまり、9月29日の発表は、アメリカのAIの監督よりも初期の枠組みを表すかもしれません。
ヨーロッパは別の道を取っています
米国は、隔離におけるAI政策を開発していません。
ヨーロッパは、欧州連合の人工知能規則とより広範なデジタル法律により、より規制的アプローチを追求しています。
コントラストは重要な国際政策の質問を作成しました。高度なAIが法律、業界のコミットメント、独立した監査、またはすべての3つの組み合わせを主に管理すべきかどうか。
テクノロジー企業は、製品が提供されている場所に応じて、最終的に異なる規制システムを遵守する必要がある場合があります。
それは、何百万人もの人々によって使用されるモデルを開発する企業にとって特に重要なワシントンとブリュッセルで決定します。
人工知能の安全性に関する懸念が高まっています。
合意はまた、ますますます可能なシステムに関連したリスクを一般に議論する複数の大手AI企業として到着します。
開発者は、サイバーセキュリティ、自律的な意思決定、生物学的情報、外部ソフトウェアツールを操作する機能に関する動作のテストモデルです。
これらの機能は、有用なアプリケーションを作成できますが、システムがどのような開発者が意図したかとは異なる方法で動作するときに何が起こるかについての質問を上げます。
新しいaccordは、単一の内部安全プロセスに依存するのではなく、複数の監視層を必要とすることによって、その問題に対処することを試みます。
外部の評価は、企業がますます自律的なAIエージェントをリリースするにつれて特に重要になる可能性があります。
次は何が起こるか
直接質問は、参加企業が業務上の安全対策に合意を翻訳する方法です。
文書は原則を確立しますが、これらの原則の有効性は、独立した評価者の選択方法、それらが適用する基準、およびリスクが発見されたときに企業が反応する方法など、実装に依存します。
別の質問は透明です。
一般に、企業がリリース前に、高度なモデルが評価され、デプロイ後にどの保護措置が動作しているかを詳しく説明する可能性がある。
今のところ、この合意は、世界で最も先進的な人工知能システムを構築している企業のいくつかの関与の重要な調整されたコミットメントを表しています。
それらの自発的な保護が最終的に必須規則になるかどうかは、法律事務所、規制当局による将来の決定に依存します。
すでに明らかなことは、人工知能の安全性は、政府、企業、毎日何百万人もの人々のための中央の質問に専門家の技術議論から移動したことです。