人工知能の最大の名前のいくつかは、制御の下で急速に高度化するAIシステムを維持することを目的とした新しいフレームワークに合意しました, 技術を支配すべき議論で重要な瞬間をマーク.
ドナルド・トランプ大統領は、主要なAI企業からの幹部が安全基準を覆い、人工知能開発の監督に署名したことを発表しました。
[Google](https://www.google.com/?utm source=chatgpt.com)、[Meta](https://www.meta.com/?utm source=chatgpt.com)、[OpenAI](https://openai.com/?utm source=chatgpt.com)、[Anthropic](https://www.anthropic.com/?utm source=chatgpt.com/)、[OpenAI](https://openai.com/?utm source=chatgpt.com/)、[Anthropic](https://www.com/
これにより、AI業界は、企業がより可能なモデルを発売する一方で、より自動車システムが安全に開発できるか、より一層成長する規模に直面しています。
アソシエイトプレスによると、自発的なアコードには、強力な内部制御、独立したレビュー、およびボードレベルでの監督を含む約束が含まれています。
欧州は、より広範な規制に向かって移動しながら、米国は、これまでのところ比較的革新に焦点を当てたアプローチを好むので、特に、グローバルなAIの議論の次のフェーズを形成することができます。
AI企業は、警察自体に同意します
合意の背後にある中央の考え方は、AI企業が独自のシステムによって作成されたリスクを評価するためのより大きな責任を負うことになります。
内部安全手順と、ますます強力なAIモデルの追加のスクラッチを提供するように設計された外部レビューのためのコード呼び出し。
トランプは、従来の規制当局よりもむしろ道徳的拘束力のある合意を述べた。
ロイターは、AI業界を横断する開発を監督する10人の会員委員会を設置することも検討していると報告した。 潜在的な権限や会員を含む委員会の詳細は、まだ確定していません。
ハウススピーカー・マイク・ジョンソンは、AI業界幹部がホワイトハウス会議中に技術基準に関する協定を締結したことを個別に確認しました。
シリコンバレーにとって、自発的なアプローチは、より制限的な連邦法への代替手段を提供できます。
批判のために, しかしながら, 問題は、技術を開発する企業が効果的に顧客のために競争しながら、自分自身を規制することができるかどうかです, 投資と技術のリーダーシップ.
Google、Meta、その他のAIリーダーがトークに参加
テクノロジーの最も影響力のある数字の一部が議論に参加しました。
Sundar PichaiとMark Zuckerbergは、ジェネレーションAIブームの中央にある企業も、関与する役員の中でいました。
契約は、業界にとって珍しい敏感な瞬間に到着します。
AIモデルは、より直接的な人的監督で、ますます複雑なタスクを実行することができるようになりました。 AIエージェントの急速な出現、単に質問に答えるのではなく、アクションのシーケンスを実行できるシステム、セキュリティと制御に関する強化された懸念を持っています。
大手AI研究所の研究者も、開発スピードについて公に警告しています。
ロイターは、OpenAIとGoogle DeepMindの現在の研究者と元研究者が、安全対策がペースを維持するのに苦労しながら、自分の能力を向上させることができる体制を追求する企業について懸念を提起したと報告しました。
これらの懸念は、仕事の混乱とサイバーセキュリティの脅威から、開発者が意図しない方法でAIシステムを含むはるかに厳しいシナリオまでの範囲です。
OpenAIは、安全上の問題に対するモデルをpaused
ホワイトハウスの集会の1つの詳細は、問題を扱ういくつかの研究所がどのように重要であるかを示しています。
OpenAIのCEOであるサム・オルトマンは、アソシエイテッド・プレスによると、安全上の懸念からモデルのリリースを明らかにしたと述べた。
開示は、AI企業が公共の展開前に高度なモデルをテストし、誤用や予期しない振る舞いができるかどうかを判断することになります。
同時に、業界は急速に動くために巨大な商業圧力に直面します。
OpenAI、Google、Anthropic、Meta、その他の企業は、コンピューティングのインフラに大きく費やし、ますます可能なAIシステムを構築するために競争しています。
技術的スピードと安全のバランスがとれにくい。
Nvidiaは、ローグAIエージェントを停止するように設計された技術を発表
NvidiaのAIセキュリティに関する大きな発表にも合意しました。
9月28日、Nvidiaは、自律的なAIエージェントが不正な行為を防止するためのセキュリティシステムであるOpen Agent Safety Platformを導入しました。
プラットフォームには、AIエージェントができることを検証する技術と、疑わしい活動を監視し、潜在的に危険な行動を検疫することができる別のコンポーネントが含まれます。
100社以上が既に技術を利用しています。
NvidiaのCEOのJensen Huangは、AIの安全性がエンジニアリングの課題として部分的にアプローチできると主張しており、ますます自動化されたシステムの周りに境界を提供する強力なソフトウェア保護を備えています。
ワシントンはヨーロッパから異なるアプローチを量ります
議論は、アメリカ人とヨーロッパのアプローチと人工知能の幅広い違いを強調しています。
トランプ政権は、米国の技術的リーダーシップを維持し、それがイノベーションを遅らせる可能性があると信じる制限を回避することを繰り返し強調しました。
White House AI Action Planは、米国がグローバル競合他社に先立っていなければならない国家安全保障の優先順位と論点として、人工知能のリーダーシップについて説明しています。
欧州の規制当局は、より介入主義的なアプローチを取った。
ホワイトハウスAI会議と同じ日に、Googleは、AI開発者のための特定のサービスにアクセスし、検索エンジンを競争させるためにそれを必要とする欧州連合規制の注文に挑戦しました。
Googleは、要件が機密ユーザー情報を公開できると主張していますが、欧州委員会は適切なプライバシー保護措置が含まれていることを維持しています。
紛争は、政府が競争、プライバシー、イノベーション、セキュリティのバランスをとり、AIが世界経済を横断して埋め込む方法を示しています。
AI規制における次の戦い
自主的な合意は、連邦AI規制の結合が最終的に必要とされるかどうかのより大きな質問を解決しません。
代わりに、企業は、法律事務所、研究者、技術会社が急速に政府の過視がいかに進化するべきかを議論している時に、業界に裏付けられたフレームワークを確立します。
AIがチャットボットを超えて移動し、コンピュータシステムとやりとりできる自律的なエージェントに成長し、ソフトウェアを書いて、複雑なデジタルタスクを研究し、実施しています。
現在、ワシントンは、自社製品に関する安全対策を確立するための技術産業の重要な責任を担っています。
自主的なコミットメントが十分に証明するかどうかは、今後数年の技術政策の質問を定義する1つになるかもしれません。