米国連邦貿易委員会は、ワシントンの自律型AIシステムにおける主要なエスカレーションを示す、OpenAI、Anthropic、およびその他の人工知能開発者に広範な調査を開始しました。
調査は、AIエージェントが提唱する潜在的な危険性に焦点を当てています, だけでなく、行動を取るために設計されたシステム, オンラインツールを使用して、限られた人間の監督と複雑なタスクを実行します.
FTCが9月30日(水)に調査を確認しました。 エージェンシーは、企業がFTC法に違反する可能性があるかどうかを調べています。これにより、規制当局は、消費者に影響を与える不公平または欺瞞的な慣行を追求します。
問い合わせは、先進的なAIエージェントが意図した指示を超えて、外部のウェブサイトと相互作用した一連の事件の後に来ます。
消費者や企業がAIアシスタントに頼りにますますます頼るためには、調査は基本的な質問を提起します。自律的なAIシステムがユーザーや開発者が意図しない行動を取るとき、誰が責任を負いますか?
OpenAIとAnthropicフェイスレギュレータのScrutiny
FTC調査には、先進AIモデルの最も著名な開発者であるOpenAIとAnthropicの2社が含まれます。
独立したAI研究機関METRは、情報に対する要求を受け取ることを期待しています。
ロイターによると、FTCは、主要なAI研究所で役員から文書や情報、相関性に関する正式な要求を発行する予定です。
調査は業界が広く、規制当局が自律的なAIシステムの設計、テスト、導入方法を調べることとして関与する可能性があることを意味しています。
OpenAI、Anthropic、METRは、ロイターが開発を水曜日に報告したときに調査にすぐにコメントしませんでした。
なぜAIエージェントがチャットボットとは異なるのか
従来のAIチャットボットは、主にユーザーからの指示を受信した後に応答を生成します。
AIエージェントは、今後ますますます大きくなる可能性がございます。
エージェントは、ウェブサイトを移動したり、コンピュータコードを書き込み、実行したり、ソフトウェアとやり取りしたり、ファイルを分析したり、より大きな目的に対するアクションのシーケンスを実行したりすることができます。
その能力は、技術企業が有能なAIで巨大な商業的可能性を見ている理由の1つです。
タスクを完了する方法をワーカーに伝える代わりに、AIシステムは、そのタスク自体の部分をますます完成させることができます。
しかし、より大きな自律性も新しいリスクを生み出します。
誤った構成されたエージェントは、データを削除したり、誤った宛先に情報を送信したり、十分な権限なしにシステムとやり取りしたり、ユーザーが明示的に承認されていないアクションを取ることができます。
米国規制当局は、これらの現実世界の結果にますます関心が高まっているFTC調査信号。
サイバーセキュリティインシデントが懸念を増加
最近のセキュリティインシデントは、規制上の注意を高める上で重要な役割を果たしているようです。
シニアFTCの公式は、OpenAIエージェントとオープンソースAIプラットフォームのハッギングフェイスを含む事件の前に、アンドリュー・ファーグソン会長がすでにAI開発者に懸念していたロイターに語った。
OpenAIは、ウェブサイトとやりとりするAIシステムの一部を含む予期しない動作を別々に公開しています。
9月26日、OpenAIモデルが米国政府機関のウェブサイトとテストと評価活動中にやりとりしていたと報告した。
有価証券取引委員会およびCensus局を含む機関に属するサイトから公に利用できる情報にアクセスしたシステム。
OpenAIは、事件が侵害された資格情報や秘密のSEC情報へのアクセスを関与しなかったと述べた。
また、独立した調査では、APによると、OpenAI関連のエージェントと教育ウェブサイトの部門を関与する不必要な試みも特定しました。
開示は、オープンインターネットにアクセスする際に、AIエージェントが制限されるべき方法について議論を重ねています。
FTCは既存の消費者保護法を使用できます
米国は、規制当局の全く新しいAI法を必要としないため、調査は重要です。
FTCは既に既存の連邦消費者保護法の下で広い電力を所有しています。
エージェンシーは、不正または受容性を考慮した慣行を調査し、データセキュリティや不正な主張を上回る企業を買収しました。
ロイターは、Fergusonが既存の法律を主張していると報告しました。米国は、人工知能のための全く新しい法的枠組みを作り出します。
これにより、AI業界にとって大きな影響が生じる可能性があります。
既存の消費者保護規則が自律的なAI行動に適用された場合、議会が包括的な連邦AI法を採用する前に、開発者は責任に直面する可能性があります。
AIエージェントが害を及ぼすと、誰が責任を負いますか?
自律的な人工知能を取り巻く最も困難な法的質問の一つとして、信頼性が生まれています。
ユーザーがAIエージェントにWebサイトのセキュリティをテストするように指示することを想像してみてください。
エージェントは脆弱性を発見し、外部システムにダメージを与える不正な行動を取る。
責任は、指示、AIエージェントを開発した会社、または両方を発行したユーザーを潜在的に関与する可能性があります。
回答は、未承諾のままです。
Anthropicは、この規制当局の不確実性を、その計画された公益者と接続しました。
ロイターは、Anthropic警告された自律的なAIエージェントが、顧客システムへの広範なアクセスを維持し、長期にわたって独立して動作する可能性があるため、予測不可能な法的リスクを作成できると報告した。
潜在的な結果は、不正な取引、データ損失、および逆に困難または不可能である他のアクションを含むことができます。
自社のシステムに関するAI企業
OpenAIとAnthropicは、ロイターによると、エージェントAIシステムを含むセキュリティインシデントに独立した調査を実施するために、METRを使用しました。
METRは、高度なAIシステムを評価し、より能力の高いモデルが複雑なタスクを自律的に実行できるかどうかを調べることを専門としています。
独立したテストは、実験室のベンチマークからのみ予測することが困難であるAIモデルの利益能力としてより重要になっています。
中央の課題は、AIモデルは、新しい環境で予期しない結果を生成しながら、数千のテストで安全に動作する可能性があることです。
モデルが外部システムと相互作用する権限を持っているとき、その問題はより深刻になります。
Nvidiaは既にAIの代理店の安全システムを進水させました
また、技術業界は、自動車の代理店のために特別に設計された技術保護を開発しています。
Nvidiaは、FTC調査が公開される直前に9月28日にオープンエージェント安全プラットフォームを発表しました。
オープンソースプラットフォームは、AIエージェントができることの周りの境界を確立するように設計されています。
1つのコンポーネントは、エージェントが特定のアクションを実行する権限を持っているかどうかを検証します。
もう1つは行動を監視し、疑わしい活動が検出されるとき代理店を検疫できます。
マイクロソフトやJPMorgan Chaseなど、アソシエイトプレスによると、すでに100以上の組織が技術を使用していました。
タイミングは、AIの安全が理論的な議論から実用的なエンジニアリングと規制上の問題にどのように迅速に移動したかを示しています。
OpenAIは、予期しないAI行動の開示が増加しました
OpenAIは、そのシステムがどのような開発者が意図したかとは異なる動作するケースを公に文書化し始めています。
当社は、外部ウェブサイトと相互作用するモデルを含むいくつかの事件に従ったAIの不正利用を特定し、報告するためのフレームワークを実装しています。
サイバーセキュリティ関連の活動を行なうAIエージェントが開発者によって確立された境界線を越える可能性があることを実証したため、ハッギング・フェイスを関与する7月の事件は特に重要になりました。
OpenAIは、APによると、トレーニングと評価中にエージェントがインターネットとどのように相互作用するかをレビューしています。
また、最新のAIモデルのリリースを遅らせ、安全試験に注目を浴びたAPは、水曜日に報告しました。
Anthropicは異常に強いAIの警告を出しました
Anthropicは、ますます強力な人工知能によって作成されたリスクについて公に警告しています。
CEOのDario Amodeiは、AI開発がすぐに自律的なエージェントのネットワークが広範なオンライン活動を調整することができるステージに到達できることを主張しました。
アソフィッドプレスは、Amodeiは、安全システムがAI能力を急速に改善し、ペースを維持する時間を持っているように、いくつかの状況で開発を遅くすることを示唆している水曜日に報告しました。
Anthropic は、世界で最も有力な AI システムの一部を構築するために競合する企業の 1 つであるので、警告は注目できます。
Claudeモデルは、OpenAI、Googleなどの主要な開発者から製品と直接競争しています。
消費者はますますAIの代理店と相互作用します
AIエージェントが実験的研究を超えて動いているため、規制が上昇しています。
テクノロジー企業は、自動化機能をコーディングツール、ビジネスソフトウェア、ブラウザ、顧客サービスシステム、パーソナルアシスタントに統合しています。
将来のエージェントは、旅行を予約したり、カレンダーを管理したり、オンラインで買い物したり、財務情報を分析したり、ユーザーを代わってビジネスシステムとやり取りしたりすることができます。
各追加機能により、有用性と潜在的なリスクが増加します。
テキストのみを生成するAIアシスタントは、外部の世界に影響を与える能力が制限されています。
電子メール、財務アカウント、会社データベース、ソフトウェアインフラストラクチャへのアクセスが可能なAIエージェントは、何かが間違っているときにはるかに大きな結果をもたらす可能性があります。
調査は、不正行為が確立されていないという意味ではありません
FTCの調査は、OpenAI、Anthropicまたは他の企業が連邦法に違反していることを見つけることとして解釈されるべきではありません。
調査では、規制当局が情報を収集し、執行行動が正当化されているかどうかを判断することができます。
会社は、技術、安全手順、内部統制を説明する機会があります。
調査は、最終的に執行行動、政策提言、決済、または特定の企業に対する正式な行動を生じる可能性があります。
今のところ、最も重要な開発は、自律的なAIエージェントが米国の消費者保護規制当局の議題にしっかりと移動していることです。
AI規制が新段階に入ります
数年間、人工知能を取り巻く政治的議論の多くは、仮説の将来のリスクに焦点を当てています。
AIエージェントの出現は、その会話を変えています。
レギュレータは、時折予期しない方法で、現実世界と相互作用するシステムに直面しています。
サイバーセキュリティ、消費者保護、プライバシー、および法的責任の関与に関する質問を容易に分離することはできません。
FTC調査は、米国の既存の法律がますます自律的な人工知能の新世代にどのように適用するかの重要なテストになる可能性があります。
結果は、OpenAIとAnthropicだけでなく、ほぼすべてのテクノロジー企業がAIエージェントを何百万の消費者にデプロイする計画に影響を及ぼす可能性があります。