Соглашение, получившее название «Совместная приверженность пограничным обязанностям», было объявлено 29 сентября после встречи в Белом доме с участием президента Дональда Трампа и ведущих руководителей технологических компаний.
Документ подписали руководители, представляющие Google, Meta, OpenAI, Nvidia, Anthropic и X, сообщает Reuters.
UOL Notícias +1
В отличие от федерального закона, договор является добровольным. Администрация описала это как обязательство, направленное на создание более надежных гарантий внутри компаний, разрабатывающих все более эффективные модели искусственного интеллекта.
Развитие происходит по мере того, как правительства, технологические компании и исследователи продолжают обсуждать, как быстро продвигать ИИ, не препятствуя инновациям.
На что согласились компании AI
Соглашение устанавливает четыре широких уровня контроля безопасности.
Ожидается, что участвующие компании будут поддерживать внутренние системы, которые контролируют возможности и поведение своих моделей ИИ во время обучения и развертывания.
Эти меры предназначены для выявления потенциальных рисков, связанных с такими областями, как кибербезопасность, биологические угрозы и химические угрозы.
Соглашение, в частности, призывает к гарантиям, предназначенным для предотвращения непреднамеренного доступа или вмешательства моделей ИИ в технические системы.
UOL Notícias
Ожидается, что компании также будут поддерживать внутренние команды, ответственные за проверку того, работают ли системы мониторинга и обнаружения по назначению.
Отдельный уровень надзора будет исходить от самих компаний.
Независимые оценки ИИ являются частью сделки
Одним из наиболее важных положений является требование к участвующим компаниям работать с внешними аудиторами или оценщиками.
Эти независимые оценки позволят изучить, функционируют ли системы мониторинга и контроля ИИ компаний по назначению.
Соглашение также призывает компании создать независимые комитеты совета директоров, которые будут получать информацию как от внутренних команд, так и от внешних оценщиков.
UOL Notícias +1
Ожидается, что участвующие компании будут регулярно отвечать требованиям разработки стандартов и передового опыта для повышения безопасности своих систем.
В документе также признается, что некоторые из этих мер могут в конечном итоге стать частью официальных законов или правил.
UOL Notícias
Однако пока обязательства не являются юридически обязательными федеральными правилами.
Почему соглашение имеет значение
Соглашение вступило в решающий момент для индустрии искусственного интеллекта.
Системы ИИ все больше выходят за рамки ответа на вопросы и генерации текста, изображений или компьютерного кода.
Компании разрабатывают агентов ИИ, способных выполнять более длинные последовательности действий, используя программные инструменты и выполняя задачи с меньшим непосредственным наблюдением человека.
Это расширение привлекло внимание к тому, как компании тестируют мощные модели, прежде чем выпускать их.
Новое соглашение пытается создать общую структуру среди крупных разработчиков ИИ, оставляя отдельные компании ответственными за реализацию многих элементов управления.
Агентство Ассошиэйтед Пресс сообщило, что соглашение включает в себя внутренние гарантии, независимые внешние обзоры и механизмы надзора в участвующих компаниях.
AP Новости
Крупнейшие компании ИИ находились в Вашингтоне
На встрече в Белом доме собрались многие из самых влиятельных деятелей мировой технологии.
Среди присутствующих руководителей были лидеры, связанные с Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon и X, согласно отчетам мероприятия.
AP Новости +1
Их участие иллюстрирует, насколько тесно политика ИИ становится связанной с крупнейшими технологическими компаниями в Соединенных Штатах.
Компании инвестируют значительные средства в модели ИИ, вычислительную инфраструктуру, чипы и центры обработки данных.
В то же время правительства во всем мире пытаются определить, какие гарантии должны применяться, поскольку эти системы становятся более эффективными.
America.gov запускает
Соглашение о безопасности ИИ было не единственным крупным технологическим объявлением из Вашингтона.
Белый дом также запустил America.gov, новый цифровой шлюз, предназначенный для предоставления американцам единого места для доступа к информации и услугам федерального правительства.
По данным Белого дома, пользователи могут общаться с сервисом на обычном языке и получать ответы без необходимости навигации по многочисленным отдельным сайтам федеральных агентств.
Белый дом
Администрация говорит, что платформа в конечном итоге предназначена для того, чтобы люди могли совершать определенные правительственные транзакции непосредственно при наличии авторизации и технической инфраструктуры.
Белый дом также заявил, что защита конфиденциальности должна быть включена в сервис.
Белый дом
Запуск представляет собой еще один пример перехода генеративного ИИ от экспериментальных приложений к государственным услугам, используемым обычными гражданами.
Регулирование ИИ остается серьезной дискуссией
Добровольный характер соглашения, вероятно, останется важной частью более широких дебатов по регулированию ИИ.
Сторонники отраслевых стандартов утверждают, что искусственный интеллект развивается так быстро, что жесткое регулирование может не идти в ногу с технологическими достижениями.
Критики добровольных систем утверждают, что компании, разрабатывающие мощные модели ИИ, должны сталкиваться с внешними стандартами, а не полагаться на внутренний контроль.
Новое соглашение включает в себя независимую оценку, но компании сохраняют значительную ответственность за внедрение своих собственных систем безопасности.
Само соглашение оставляет открытой возможность того, что его принципы в конечном итоге могут быть включены в законодательство или формальное регулирование.
UOL Notícias
Это означает, что объявление от 29 сентября может представлять собой раннюю основу, а не окончательную форму надзора за ИИ в США.
Европа идет другим путем
Соединенные Штаты не разрабатывают политику ИИ изолированно.
Европа придерживается более регулирующего подхода через правила искусственного интеллекта Европейского союза и более широкое цифровое законодательство.
Контраст создал важный вопрос международной политики: должен ли передовой ИИ в первую очередь регулироваться законодательством, отраслевыми обязательствами, независимым аудитом или какой-то комбинацией всех трех.
Технологические компании, работающие по всему миру, в конечном итоге должны соблюдать различные системы регулирования в зависимости от того, где предлагается их продукция.
Это делает решения в Вашингтоне и Брюсселе особенно важными для компаний, разрабатывающих модели, используемые сотнями миллионов людей.
Проблемы безопасности ИИ растут с ростом возможностей
Соглашение также появилось, когда несколько ведущих компаний ИИ публично обсуждают риски, связанные со все более эффективными системами.
Разработчики тестируют модели поведения, связанные с кибербезопасностью, автономным принятием решений, биологической информацией и возможностью работы с внешними программными инструментами.
Эти возможности могут создавать полезные приложения, но они также вызывают вопросы о том, что происходит, когда системы ведут себя иначе, чем предполагали разработчики.
Новое соглашение пытается решить эту проблему, требуя нескольких уровней мониторинга, а не опираясь на единый внутренний процесс безопасности.
Внешняя оценка может стать особенно важной, поскольку компании выпускают все более автономных агентов ИИ.
Что будет дальше
Непосредственный вопрос заключается в том, как участвующие компании преобразуют соглашение в оперативные гарантии.
Документ устанавливает принципы, но эффективность этих принципов будет зависеть от реализации, в том числе от того, как отбираются независимые оценщики, какие стандарты они применяют и как компании реагируют при обнаружении рисков.
Другой вопрос – прозрачность.
Общественность все чаще ожидает от компаний объяснений того, как перед выпуском оценивались передовые модели и какие гарантии действуют после развертывания.
На данный момент соглашение представляет собой значительное скоординированное обязательство с участием нескольких компаний, строящих самые передовые в мире системы искусственного интеллекта.
Станут ли эти добровольные гарантии в конечном итоге обязательными правилами, будет зависеть от будущих решений законодателей, регулирующих органов и самих компаний.
Что уже ясно, так это то, что безопасность ИИ перешла от обсуждения специализированных технологий к центральному вопросу для правительств, предприятий и сотен миллионов людей, использующих искусственный интеллект каждый день.
