Frontier Responsibilities에 합동 투입이라고 불리는 계약은 9월 29일 대통령 도널드 트럼프와 주요한 기술 임원을 포함하는 백색 집 회의를 따르기 위하여 발표되었습니다.
문서는 Google, Meta, OpenAI, Nvidia, Anthropic 및 X를 대표하는 임원이 서명했습니다.
UOL 노니시아 +1
연방 규정과는 달리, 계약은 배운다. 이 관리는 점점 더 많은 인공 지능 모델을 개발하는 회사 내부의 더 강력한 보호 기능을 구축하기위한 약속으로 설명했습니다.
개발은 정부, 기술 회사 및 연구원들이 AI가 혁신을 방지하지 않고 제어해야하는지 신속하게 배제하는 방법을 계속 파괴합니다.
AI 회사는 무엇을 할 동의
계약은 안전 통제의 4개의 넓은 층을 설치합니다.
참여 기업은 교육 및 배포 중에 AI 모델의 기능과 행동을 모니터링하는 내부 시스템을 유지 할 것으로 예상됩니다.
이러한 통제는 사이버 보안, 생물학적 위협 및 화학 위협과 같은 영역과 관련된 잠재적 위험을 식별하는 것입니다.
안전한 가드를 위한 계약은 무인화한 방법으로 접근하거나 간섭에서 AI 모형을 방지하기 위하여 디자인됩니다.
UOL 노리시아
기업은 또한 감시 및 탐지 체계가 예정대로 운영된다는 것을 검사하는 책임있는 내부 팀을 유지하기 위하여 예상됩니다.
별도의 수준의 oversight가 회사에 직접 올 것입니다.
독립적 인 AI 평가는 거래의 일부입니다
참가업체를 위한 가장 중요한 규정 중 하나는 외부 감사인 또는 evaluators와 함께 일합니다.
이러한 독립적 인 평가는 회사의 AI 모니터링 및 제어 시스템이 의도대로 작용하는지 여부를 검사합니다.
계약은 또한 내부 팀과 외부 evaluators 모두의 정보를 수신하는 독립적 인 이사회위원회를 수립하기 위해 회사를 호출합니다.
UOL 노니시아 +1
참여 회사는 정기적으로 시스템의 안전 향상을 위해 표준 및 모범 사례를 개발할 것으로 예상됩니다.
문서는 또한 이러한 측정의 일부가 결국 공식 법률 또는 규정의 일부가 될 수 있음을 인정합니다.
UOL 노리시아
지금, 그러나, 약속은 합법적으로 연방 규칙을 바인딩하지 않습니다.
왜 계약 문제인가?
협정은 인공 지능 산업의 중요한 순간에 도착합니다.
AI 시스템은 점점 문제와 텍스트, 이미지 또는 컴퓨터 코드를 생성하는 것보다 이동하고있다.
기업은 소프트웨어 도구를 사용하여 더 긴 행동을 수행 할 수있는 AI 에이전트를 개발하고 덜 직접 인간 감독과 작업을 완료합니다.
그 확장은 회사에 강력한 모델을 테스트하는 방법에 대한 관심을 증가했다.
새로운 계약은 주요 AI 개발자들 사이에서 공유 된 프레임 워크를 만들려고하고 통제의 많은 구현을 담당하는 개인 회사를 떠난다.
Associated Press는 참여사 내의 내부 안전장치, 독립적 인 외부 리뷰 및 감독 메커니즘을 포함합니다.
AP 뉴스
가장 큰 AI 회사는 워싱턴에 있었다
White House 모임은 세계적인 기술에서 가장 영향력 있는 인물들을 함께 모았습니다.
Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon 및 X에 연결된 통합 리더에 참석하는 임원.
AP 뉴스 +1
그들의 참여는 밀접한 AI 정책이 미국에서 가장 큰 기술 회사와 연결되는 방법을 보여줍니다.
이 회사는 AI 모델, 컴퓨팅 인프라, 칩 및 데이터 센터에 크게 투자하고 있습니다.
동시에, 전 세계 정부는 이러한 시스템의 적용을 결정하려고합니다.
America.gov도 출시
AI 안전 계약은 워싱턴의 주요 기술 발표가 아닙니다.
White House는 미국 연방 정부 정보 및 서비스에 액세스 할 수있는 단일 장소를 제공하는 새로운 디지털 게이트웨이 인 America.gov를 출시했습니다.
White House에 따르면, 사용자는 일반 언어를 사용하여 서비스와 통신 할 수 있으며 수많은 개별 연방 기관 웹 사이트를 탐색하지 않고 답변을받을 수 있습니다.
백악관
관리는 사용자가 권한 및 기술 인프라를 사용할 때 직접 특정 정부 거래를 완료 할 수 있도록 플랫폼을 설계했습니다.
White House는 또한 개인 정보 보호가 서비스에 통합 될 것이라고 말합니다.
백악관
발사는 실험적인 신청에서 일반 시민에 의해 사용되는 공공 서비스로 이동하는 다른 예를 나타냅니다.
AI 규정은 중요한 결정이다
계약의 자발적 성격은 AI 규정에 따라 더 넓은 논쟁의 중요한 부분이 될 가능성이 있습니다.
업계의 지원자들은 인공 지능이 개발되는 표준을 주도하여 엄격한 규제가 기술 발전으로 진행될 수 있다고 주장합니다.
강력한 AI 모델을 개발하는 회사가 개발하는 배운 시스템의 Critics는 내부 제어에 주로 의존하는 외부 표준을 직면해야합니다.
새로운 협정은 독립적 인 평가를 포함하지만 회사는 자신의 안전 시스템을 구현하기위한 실질적인 책임을 유지합니다.
계약 자체는 원칙이 결국 다리 또는 공식 규정에 통합 될 수 있다는 가능성을 열어줍니다.
UOL 노리시아
즉, 9 월 29 발표는 미국 AI oversight의 최종 모양보다 초기 프레임 워크를 나타냅니다.
유럽은 다른 길을 가지고
미국은 고립에 있는 AI 정책을 개발하지 않습니다.
유럽은 유럽 연합의 인공 지능 규칙과 더 넓은 디지털 법률을 통해 더 많은 규제 접근 방식을 추구했습니다.
대조는 중요한 국제 정책 질문을 창조했습니다: 진보된 AI가 Legislation, 기업 투입, 독립적인 감사, 또는 모든 3의 어떤 조합을 통해 1 차적으로 지배되어야 하는지 여부.
전 세계적으로 운영되는 기술 회사는 궁극적으로 그들의 제품이 제안되는 곳에 따라 다른 규제 시스템을 준수해야 할 수 있습니다.
워싱턴과 브뤼셀의 결정은 특히 수백만 명의 사람들이 사용하는 모델 개발을 위해 중요한 역할을합니다.
AI 안전 우려는 기능으로 성장합니다
계약은 AI 회사를 공개적으로 더 많은 가능한 시스템과 관련된 위험을 논의하기 위해 몇 가지 선도적 인 AI 회사로 도착합니다.
개발자들은 사이버 보안, 자율적 결정, 생물학적 정보 및 외부 소프트웨어 도구를 운영하는 능력과 관련된 행동에 대한 테스트 모델입니다.
이 기능은 유용한 응용 프로그램을 만들 수 있지만, 시스템은 어떤 개발자가 의도 한대로 서로 행동 할 때 일어나는 일에 대한 질문을 제기합니다.
새로운 협정은 단일 내부 안전 프로세스에 의존하지 않고 모니터링의 여러 층을 필요로하여 문제를 해결하려고합니다.
외부 평가는 회사가 점점 자율적인 AI 대리인을 풀어 놓기 때문에 특히 중요합니다.
다음 것
즉각적인 질문은 참여 회사가 운영 안전 보호관으로 계약을 번역하는 방법입니다.
문서는 원칙을 설정하지만, 그 원칙의 효과는 독립적 인 증발기가 선택되는 방법을 포함하여 구현에 따라 달라집니다. 어떤 표준을 적용하고 회사가 위험이 발견 될 때 어떻게 반응합니다.
다른 질문은 투명성입니다.
공개는 점점 더 많은 기업이 출시 전에 평가 된 모델을 설명 할 수 있으며 배포 후 안전 보호가 운영되는 것을 기대할 수 있습니다.
현재, 계약은 세계에서 가장 진보 된 인공 지능 시스템을 구축하는 회사의 여러 가지를 포함하는 상당한 협조 된 약속을 나타냅니다.
그 자발적 인 안전은 결국 필수 규칙이 법 메이커, 규제 기관 및 회사에 의해 미래 결정에 따라 달라집니다.
이미 분명한 것은 AI 안전은 매일 인공 지능을 사용하는 수백만의 정부, 기업 및 수백 명의 사람들을위한 중앙 문제로 인해 전문가 기술에서 이동했다.