미국 연방 무역위원회는 OpenAI, Anthropic 및 기타 인공 지능 개발자로 광범위한 조사를 열었으며 워싱턴의 자율 AI 시스템의 주요 에스컬레이션을 표시했습니다.
조사는 AI 에이전트에 의해 구성 된 잠재적 위험에 초점을 맞추고, 시스템은 질문에 응답뿐만 아니라 행동을 수행하기 위해뿐만 아니라, 온라인 도구를 사용하고 제한된 인간 감독과 복잡한 작업을 수행합니다.
FTC는 9월 30일 수요일에 조사를 확인했습니다. 회사는 회사의 행위가 소비자에게 영향을 미치는 불공정 또는 불멸 관행을 추구하는 규제 기관을 제공하는 FTC 법에 위반 할 수 있는지 여부를 시험하고 있습니다.
이 조회는 AI 대리인이 그들의 의도한 지시를 넘어 보고 외부 웹사이트에 상호 작용한 일련의 사건 후에 옵니다.
소비자와 기업은 AI 조수에 점점 의존하고 있습니다. 조사는 자율적인 AI 시스템이 사용자 또는 개발자가 의도하지 않은 행동을 취할 때 책임있는 기본적인 질문을 제기합니다.
OpenAI 및 Anthropic 얼굴 규제 scrutiny
FTC 조사에는 OpenAI 및 Anthropic, 고급 AI 모델의 세계에서 가장 눈에 띄는 개발자가 포함됩니다.
독립적 인 AI 연구 조직 METR은 또한 정보를 요청할 것으로 예상됩니다.
Reuters에 따르면, FTC는 AI 연구소의 임원에서 문서 및 정보 및 보상에 대한 형식적 요구 사항을 발행 할 계획입니다.
조사는 산업 넓고, 추가 회사를 의미하는 것은 자율적 인 AI 시스템이 설계, 테스트 및 배포하는 방법을 조사 할 수 있습니다.
OpenAI, Anthropic 및 METR은 Reuters가 개발 수요일을보고했을 때 조사에 즉시 언급하지 않았습니다.
왜 AI 대리인은 chatbots에서 다릅니다
전통적인 AI chatbots는 사용자가 지시를 받기 후에 1 차적으로 응답을 생성합니다.
AI 대리인은 더 고려할 수 있습니다.
에이전트는 잠재적으로 웹 사이트를 탐색 할 수, 쓰기 및 컴퓨터 코드를 실행, 소프트웨어와 상호 작용, 파일 분석 및 더 큰 목표를 향해 작업의 순서를 수행.
그 능력은 한 가지 이유 기술 회사는 Agentic AI에서 엄청난 상업적 잠재력을 보여줍니다.
단순히 작업자가 작업을 완료하는 방법을 말하는 대신 AI 시스템은 그 작업 자체의 전체 부품을 완료 할 수 있습니다.
그러나 더 큰 자율성은 또한 새로운 위험을 만듭니다.
부정확하게 형성된 대리인은 잠재적으로 자료를 삭제할 수 있었습니다, 잘못된 목적지에 정보를 보내고, 충분한 허가 없이 체계도 상호 작용하거나 그 사용자가 명시적으로 찬성하지 않는 행동을 가지고 갑니다.
FTC 조사 신호 미국 규제는 그 실제 세계 결과에 점점 관심이있다.
사이버 보안 사건은 우려를 증가
최근 보안 사건은 규제주의 증가에 중요한 역할을 수행했습니다.
수석 FTC 공식은 Andrew Ferguson 회장의 Reuters가 OpenAI 에이전트와 오픈 소스 AI 플랫폼 Hugging Face를 포함하는 사건의 앞에 AI 개발자에 대해 이미 우려했다.
OpenAI는 웹 사이트와 상호 작용하는 AI 시스템의 일부와 관련된 예상치 못한 행동을 별도로 공개했습니다.
OpenAI 모델은 테스트 및 평가 활동 중에 미국 정부 웹사이트와 상호 작용했습니다.
Securities and Exchange Commission 및 Census Bureau를 포함한 대행사에 속하는 사이트로부터 공개적으로 사용할 수 있는 정보를 시스템에 액세스했습니다.
OpenAI는 사건이 손상된 자격 또는 개인 SEC 정보에 접근하지 않았다고 말했다.
독립적 인 조사는 또한 AP에 따라 OpenAI 관련 에이전트 및 교육 웹 사이트의 부서를 포함하는 무수한 시도를 확인했습니다.
공개 인터넷에 액세스 할 때 AI 에이전트가 제한되어야하는 방법에 대한 차별이 있습니다.
FTC는 기존의 소비자 보호법을 사용할 수 있었습니다
조사는 미국이 규칙을 검사하기 위해 완전히 새로운 AI 법이 필요하지 않기 때문에 중요합니다.
FTC는 이미 기존 연방 소비자 보호법에 따라 광범위한 전력을 보유하고 있습니다.
이 기관은 불공정 또는 불멸을 고려하고 이전에 데이터 보안 및 오해가 주장하는 회사를 추구 할 수 있습니다.
Reuters는 Ferguson이 기존 법률이 미국 이전에 고려되어야한다고보고했습니다. 인공 지능을위한 완전히 새로운 법률 프레임 워크를 만듭니다.
그 접근은 AI 산업에 대한 주요 결과가있을 수 있습니다.
기존의 소비자 보호 규칙이 자율적인 AI 행동에 적용되면, 개발자는 의회가 포괄적 인 연방 AI 법칙을 채택하기 전에 책임에 직면 할 수 있습니다.
AI 에이전트가 해를 유발할 때 누가 책임이 있습니까?
Liability는 자치적인 인공 지능을 둘러싼 가장 어려운 법률 문제 중 하나로 신흥됩니다.
사용자가 웹 사이트의 보안을 테스트하기 위해 AI 에이전트를 지시합니다.
에이전트는 취약성을 발견하고 외부 시스템을 손상하는 무단 조치를 취합니다.
책임은 잠재적으로 지시, AI 대리인을 개발하는 회사, 또는 둘 다 발행한 사용자를 포함할 수 있었습니다.
답변은 해결되지 않습니다.
Anthropic은 계획된 공개 제안과 연결된 규제 서류에 대한이 불확실함을 인정했습니다.
Reuters는 Anthropic이 자율적으로 AI 에이전트가 고객 시스템에 대한 광범위한 접근을 유지하고 독립적으로 장시간 기간 동안 운영 할 수 있기 때문에 법적 위험을 예측할 수 있다고 화요일을보고했습니다.
잠재적 인 결과는 역동적 인 거래, 데이터 손실 및 기타 작업을 포함 할 수 있습니다.
AI 회사는 자신의 시스템을 투자
OpenAI 및 Anthropic은 Reuters에 따라 에이전트 AI 시스템을 포함하는 보안 사고로 독립적 인 조사를 수행하기 위해 METR을 사용했습니다.
METR은 고급 AI 시스템을 평가하고 더 많은 모델이 자율적으로 복잡한 작업을 수행 할 수 있는지 검사합니다.
독립적 인 테스트는 실험실 벤치 마크에서 단독으로 예측하기 어려운 AI 모델 이득 능력으로 더 중요합니다.
중앙 도전은 AI 모델은 수천 가지 테스트에서 안전하게 작동 할 수 있으며 여전히 새로운 환경에서 예상치 못한 결과를 생산합니다.
그 문제는 모델이 외부 시스템과 상호 작용할 때 더 심각합니다.
Nvidia는 이미 AI 대리인 안전 체계를 발사했습니다
기술 산업은 또한 자율주행을 위해 특별히 디자인된 기술적인 safeguards를 개발합니다.
Nvidia는 9 월 28 일에 열린 에이전트 안전 플랫폼을 발표했습니다. FTC 조사가 공개되었습니다.
오픈 소스 플랫폼은 AI 에이전트가 수행 할 수있는 주위에 경계를 설정하도록 설계되었습니다.
에이전트가 특정 작업을 수행하는 권한이 있는지 확인합니다.
또 다른 모니터 행동과 의심스러운 활동을 감지 할 때 에이전트를 quarantine 할 수 있습니다.
Microsoft 및 JPMorgan Chase를 포함한 Associated Press에 따르면 100 개 이상의 조직이 이미 기술을 사용하고 있습니다.
타이밍은 AI의 안전이 이론적으로 움직이는 방법을 설명합니다.
OpenAI는 예상치 못한 AI 행동의 공개를 증가
OpenAI는 공개적으로 어떤 개발자가 의도하는지 다른 행동하는 경우를 문서화했습니다.
이 회사는 외부 웹 사이트와 상호 작용하는 모델과 관련된 여러 사건에 따라 AI 잘못 정렬 및보고하기위한 프레임 워크를 구현했습니다.
Hugging Face를 포함한 7 월 사건은 특히 AI 에이전트가 사이버 보안 관련 활동을 수행하는 방법을 설명했기 때문에 특히 중요합니다. 개발자가 설립 한 경계를 교차 할 수 있습니다.
OpenAI는 AP에 따라 교육 및 평가 중 인터넷과 상호 작용하는 방법을 검토하고 있습니다.
이 회사는 또한 안전 테스트에 대한 최신 AI 모델의 출시를 지연, AP는 수요일보고.
Anthropic은 예외적으로 강한 AI 경고를 발행했습니다.
Anthropic은 더욱 강력한 인공 지능으로 만든 위험에 대해 공개적으로 경고했습니다.
CEO Dario Amodei는 AI 개발이 곧 자율 에이전트의 네트워크가 광범위한 온라인 활동을 조정 할 수있는 단계에 도달 할 수 있다고 주장했습니다.
Associated Press는 Amodei가 일부 상황에서 느린 개발을 제안했기 때문에 안전 시스템이 AI 기능을 빠르게 향상시키기 위해 속도를 유지할 수 있습니다.
경고는 Anthropic이 동시에 세계에서 가장 가능한 AI 시스템을 구축하기 위해 경쟁하는 회사 중 하나입니다.
Claude 모델은 OpenAI, Google 및 기타 주요 개발자로부터 제품을 직접 경쟁합니다.
소비자들은 AI 에이전트와 상호 작용합니다.
AI 에이전트가 실험 연구를 넘어 이동하기 때문에 규제 지분이 상승합니다.
기술 회사는 코딩 도구, 비즈니스 소프트웨어, 브라우저, 고객 서비스 시스템 및 개인 조수로 자율적 기능을 통합합니다.
미래 에이전트는 잠재적으로 여행, 일정 관리, 온라인 상점, 금융 정보를 분석하고 사용자를 대신하여 비즈니스 시스템과 상호 작용 할 수 있습니다.
각 추가 기능 증가 두 유용성 및 잠재적 위험.
텍스트 만 생성하는 AI 조수는 외부 세계에 영향을 미칠 수있는 제한된 능력이 있습니다.
이메일, 금융 계정, 회사 데이터베이스 또는 소프트웨어 인프라에 액세스하는 AI 에이전트는 뭔가 잘못 될 때 훨씬 더 큰 결과를 만들 수 있습니다.
조사는 잘못되어 있지 않습니다.
FTC 조사는 OpenAI, Anthropic 또는 다른 회사들이 연방 법에 위반 한 발견으로 해석하지 않아야합니다.
Investigations는 정보 수집을 허용하고 강제 조치가 정당화 여부를 결정합니다.
회사는 기술, 안전 절차 및 내부 통제를 설명하는 기회를 가질 것입니다.
조사는 궁극적으로 시행 행동, 정책 권고, 정산 또는 특정 회사에 대한 공식적인 행동에서 발생할 수 있습니다.
현재 가장 중요한 개발은 자율적인 AI 대리인이 미국 소비자 보호 규칙의 의제에 확고하게 이동된다는 것입니다.
AI 규정은 새로운 단계에
몇 년 동안, 많은 정치가 주변 인공 지능은 hypothetical 미래 위험에 초점을 맞추고.
AI 에이전트의 출현은 그 대화를 바꾸고 있습니다.
규제는 이제 실제 세계와 상호 작용할 수있는 통합 시스템입니다. 때로는 예상치 못한 방법으로.
그것은 사이버 보안, 소비자 보호, 개인 정보 보호 및 쉽게 분리 할 수없는 법적 책임과 관련된 질문을 만듭니다.
FTC 조사는 따라서 기존의 미국 법률이 점점 자율적인 인공 지능의 새로운 세대에 적용하는 중요한 테스트가 될 수 있습니다.
outcome는 OpenAI 및 Anthropic에만 영향을 미칠 수 있지만 거의 모든 기술 회사는 AI 에이전트를 수백만 명의 소비자에게 배포 할 계획입니다.