인공 지능의 가장 큰 이름 중 일부는 제어에서 AI 시스템을 신속하게 추진하는 새로운 프레임 워크에 동의하고 기술이 지배되어야하는 방법에 대한 논쟁의 중요한 순간을 표시.
Donald Trump 대통령은 9 월 29 일 대통령이 AI 회사에서 임원이 인공 지능 개발의 안전 표준 및 감독을 포함하는 협정을 체결했다고 발표했다.
[Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com), [OpenAI](https://openai.com/?utm source=chatgpt.com), [Anthropic](https://www.anthropic.com/?utm source=chatgpt.com/?utm source=chatgpt.com/?utm source=chatgpt.com/?utm source=chatgpt.com/?utm source=chatgpt.com/?pt.com/?pt.com/?pt.com/?pt.com/?utm source=chatgpt.com/?pt.com/?pt.com/?pt.com/?pt.com/?pt.com/?utm source=chatgpt.com/?pt.com/?utm source=chatgpt.com/?utm source=chatgpt.com/?pt.com/?
계약은 AI 산업이 더 많은 수의 모델을 출시 할 수 있도록 회사 경주 동안 점점 자율 시스템이 안전하게 개발 될 수 있는지 궁금해하는지 궁금해하는 경향이 있습니다.
Associated Press에 따르면, voluntary accord는 이사회 수준에서 강력한 내부 제어, 독립적 인 리뷰 및 감독과 관련된 약속을 포함합니다.
개발은 유럽이 더 광범위한 규정을 향해 이동하면서 비교 혁신에 중점을 둔 접근 방식을 선호했기 때문에 세계 AI 토론의 다음 단계를 형성 할 수 있습니다.
AI 회사는 경찰에 동의합니다
계약의 중앙 아이디어는 AI 회사가 자신의 시스템에 의해 생성 된 위험을 평가하는 데 큰 책임을 집니다.
내부 안전 절차 및 외부 리뷰에 대한 협정은 점점 강력한 AI 모델의 추가 scrutiny를 제공하기 위해 설계되었습니다.
Trump는 기존의 규제 위임보다 도덕적으로 바인딩으로 계약을 설명했습니다.
Reuters는 정부가 AI 산업 전반에 걸쳐 개발을 감독하기 위해 10 회원위원회를 수립하는 것으로보고했습니다. 위원회에 대한 세부 사항, 잠재적 권위 및 회원 포함, 아직 최종적으로되지 않았다.
집 스피커 Mike Johnson은 별도로 AI 업계 임원이 White House 회의에서 기술 표준에 관한 협정을 체결했다고 확인했습니다.
실리콘 밸리의 경우, 배운 접근법은 더 많은 제한 연방법에 대한 대안을 제공 할 수 있습니다.
비평가를 위해, 그러나, 질문은 기술 발전이 고객, 투자 및 기술 리더십을 동시에 준수하면서 스스로를 효과적으로 통제 할 수 있는지 여부.
Google, Meta 및 기타 AI 리더가 이야기합니다.
기술에서 가장 영향력있는 인물 중 일부는 토론에 참여했습니다.
Sundar Pichai와 Mark Zuckerberg는 전무 이사 중 하나이며, 유전적 AI 붐의 중심에 회사도 대표되었습니다.
계약은 업계에 대한 특이한 순간에 도착합니다.
AI 모델은 더 적은 직접 인간 감독과 더 복잡한 작업을 수행 할 수 있습니다. AI 에이전트의 급속한 출현, 단순히 질문에 응답하는 것보다 오히려 행동의 시퀀스를 수행 할 수있는 시스템은 보안 및 제어에 대한 우려를 강화했습니다.
AI 실험실의 연구자들은 대중적으로 발전의 속도에 대해 경고했다.
Reuters는 9 월 29 일 OpenAI 및 Google DeepMind의 현재 및 이전 연구원이 자신의 능력을 개선 할 수있는 회사가 추구하는 시스템에 대한 우려를 제기했으며 안전 조치가 진행 중입니다.
이러한 문제들은 작업 중단과 사이버 보안 위협으로부터 AI 시스템 위반과 관련된 훨씬 심각한 시나리오에 이르기까지 개발자가 의도하지 않았다.
OpenAI는 안전 문제에 대한 모델을 사용
White House 모임의 한 가지 세부 사항은 심각한 실험실이 문제를 치료하는 방법을 설명합니다.
OpenAI CEO Sam Altman은 Associated Press에 따르면 안전 문제로 인해 모델의 출시를 일시 중지했다고 밝혔다.
공개 배포 전에 AI 회사는 점점 테스트 고급 모델로 제공되며 잘못되거나 예기치 않게 행동 할 수 있는지 결정합니다.
동시에 업계는 신속하게 이동할 수있는 엄청난 상업 압력 직면.
OpenAI, Google, Anthropic, Meta 및 기타 회사는 컴퓨팅 인프라에 크게 지출하고 더 많은 AI 시스템을 구축하기 위해 경쟁합니다.
기술 속도와 안전 사이의 어려운 균형을 만듭니다.
Nvidia, Rogue AI 에이전트를 중지하도록 설계된 기술 출시
새로운 합의는 Nvidia의 주요 AI 보안 발표를 따릅니다.
9월 28일, Nvidia는 Open Agent Safety Platform을 도입하여 자율적인 AI 에이전트를 방지하기 위한 보안 시스템을 도입했습니다.
이 플랫폼에는 AI 에이전트가 수행 할 수 있는지 확인하고 의심스러운 활동과 잠재적으로 위험한 행동을 모니터링 할 수있는 다른 구성 요소를 검증하는 기술이 포함되어 있습니다.
100 개 이상의 조직은 이미 기술로, Associated Press에 따르면.
Nvidia CEO 인 Jensen Huang은 AI 안전이 엔지니어링 도전으로 부분적으로 접근 할 수 있다고 주장했으며 더 강력한 소프트웨어 보호로 인해 점점 더 자율적인 시스템에 경계를 부여합니다.
워싱턴은 유럽에서 다른 접근 방식을 무게
debate는 또한 미국과 유럽이 인공 지능에 접근하는 다양한 차이를 강조합니다.
트럼프 행정은 미국 기술 리더십을 유지하고 혁신을 느리게 할 수있는 제한을 피하기 위해 반복적으로 강조했다.
White House AI Action Plan은 국가 보안 우선 순위로 인공 지능의 리더십을 설명하고 미국은 글로벌 경쟁사보다 앞서 남아 있어야합니다.
유럽 규제 기관은 더 개입 접근 방식을 취했습니다.
White House AI 회의와 같은 날에 Google은 AI 개발자 및 검색 엔진에 대한 특정 서비스에 대한 더 큰 액세스를 제공하기 위해 필요한 유럽 연합 규제 주문에 도전했습니다.
요구 사항이 민감한 사용자 정보를 노출 할 수있는 Google argues, 유럽위원회는 적절한 개인 정보 보호 보호가 포함되어있는 것을 유지합니다.
분쟁은 정부가 경쟁, 개인 정보 보호, 혁신 및 보안을 글로벌 경제 전반에 걸쳐 구축하는 방법을 보여줍니다.
AI 규정에 대한 다음 전투
배운 계약은 연방 AI 규정이 결국 필요한지 더 큰 질문을 해결하지 않습니다.
대신, 법률자, 연구원 및 기술 회사가 빠르게 정부 감독이 진화해야 할 때 업계에서 뒷 프레임 워크를 구축합니다.
AI는 Chatbots를 넘어 이동하고 컴퓨터 시스템과 상호 작용 할 수있는 자율 에이전트로 증가, 소프트웨어 작성, 연구 수행 및 복잡한 디지털 작업을 수행.
현재 워싱턴은 자체 제품 주변의 안전장치 구축을 위한 기술 산업이 중요한 역할을 합니다.
자발적 인 약속은 향후 몇 년 동안 기술 정책 문제 중 하나가 될 수 있습니다.