Некоторые из крупнейших имен в области искусственного интеллекта согласились на новую структуру, направленную на поддержание быстро развивающихся систем ИИ под контролем, что ознаменовало важный момент в дебатах о том, как следует управлять технологией.
29 сентября президент Дональд Трамп объявил, что руководители ведущих компаний, занимающихся ИИ, подписали соглашение, охватывающее стандарты безопасности и надзор за развитием искусственного интеллекта.
Представленные компании включали [Google] (https://www.google.com/?utm source=chatgpt.com), [Meta] (https://www.meta.com/?utm source=chatgpt.com), [OpenAI] (https://openai.com/?utm source=chatgpt.com), [Anthropic] (https://www.anthropic.com/?utm source=chatgpt.com), [Nvidia] (https://www.nvidia.com/?utm source=chatgpt.com) и [xAI] (https://x.ai/?utm source=chatgpt.com).
Соглашение было достигнуто в связи с тем, что индустрия ИИ сталкивается с растущим вниманием к тому, можно ли безопасно разрабатывать все более автономные системы, в то время как компании стремятся выпустить более эффективные модели.
По данным Associated Press, добровольное соглашение включает обязательства, связанные с сильным внутренним контролем, независимыми обзорами и надзором на уровне совета директоров.
Развитие может сформировать следующий этап глобальных дебатов по ИИ, особенно потому, что Соединенные Штаты до сих пор выступали за сравнительно инновационный подход, в то время как Европа перешла к более широкому регулированию.
ИИ-компании согласны сами себя контролировать
Основная идея соглашения заключается в том, что компании ИИ будут брать на себя большую ответственность за оценку рисков, создаваемых их собственными системами.
Соглашение требует внутренних процедур безопасности, а также внешних обзоров, призванных обеспечить дополнительный контроль над все более мощными моделями ИИ.
Трамп охарактеризовал соглашение как морально обязывающее, а не как обычный регулирующий мандат.
Агентство Reuters сообщило, что администрация также рассматривает возможность создания комитета из 10 членов для наблюдения за развитием отрасли ИИ. Подробная информация о комитете, включая его потенциальные полномочия и членский состав, еще не доработана.
Спикер Палаты представителей Майк Джонсон отдельно подтвердил, что руководители отрасли ИИ подписали соглашение о технологических стандартах во время встречи в Белом доме.
Для Кремниевой долины добровольный подход может стать альтернативой более ограничительному федеральному законодательству.
Однако для критиков вопрос заключается в том, могут ли компании, разрабатывающие технологию, эффективно регулировать себя, одновременно конкурируя за клиентов, инвестиции и технологическое лидерство.
Google, Meta и другие лидеры ИИ присоединяются к переговорам
В дискуссиях приняли участие несколько наиболее влиятельных деятелей в области технологий.
Сундар Пичаи и Марк Цукерберг были среди руководителей, в то время как компании в центре генеративного бума ИИ также были представлены.
Соглашение пришло к необычайно чувствительному моменту для отрасли.
Модели ИИ становятся способными выполнять все более сложные задачи с меньшим непосредственным наблюдением человека. Быстрое появление агентов ИИ, систем, способных выполнять последовательности действий, а не просто отвечать на вопросы, усилило опасения по поводу безопасности и контроля.
Исследователи из ведущих лабораторий ИИ также публично предупредили о скорости разработки.
29 сентября агентство Reuters сообщило, что нынешние и бывшие исследователи из OpenAI и Google DeepMind выразили обеспокоенность по поводу того, что компании разрабатывают системы, способные улучшить свои собственные способности, в то время как меры безопасности изо всех сил пытаются идти в ногу со временем.
Эти опасения варьируются от сбоев в работе и угроз кибербезопасности до гораздо более серьезных сценариев, в которых системы ИИ ведут себя так, как их разработчики не намеревались.
OpenAI остановил модель из-за проблем безопасности
Одна деталь из собрания Белого дома проиллюстрировала, насколько серьезно некоторые лаборатории относятся к проблеме.
Генеральный директор OpenAI Сэм Альтман сказал, что его компания приостановила выпуск модели из-за проблем безопасности.
Раскрытие информации происходит по мере того, как компании ИИ все чаще тестируют перед публичным развертыванием передовые модели, чтобы определить, могут ли они быть неправильно использованы или вести себя неожиданно.
В то же время отрасль сталкивается с огромным коммерческим давлением, чтобы быстро двигаться.
OpenAI, Google, Anthropic, Meta и другие компании тратят значительные средства на вычислительную инфраструктуру и конкурируют за создание все более мощных систем ИИ.
Это создает сложный баланс между технологической скоростью и безопасностью.
Nvidia запускает технологию, предназначенную для остановки мошеннических агентов ИИ
Новое соглашение также следует за крупным объявлением о безопасности ИИ от Nvidia.
28 сентября Nvidia представила свою платформу безопасности Open Agent Safety Platform, систему безопасности, предназначенную для предотвращения несанкционированных действий автономных агентов ИИ.
Платформа включает в себя технологию, которая проверяет, что разрешено делать агенту ИИ, и другой компонент, способный контролировать подозрительную активность и карантинировать потенциально опасное поведение.
Более 100 организаций уже используют эту технологию, сообщает Associated Press.
Генеральный директор Nvidia Дженсен Хуанг утверждает, что к безопасности ИИ можно подходить отчасти как к инженерной задаче, поскольку более надежная защита программного обеспечения обеспечивает границы вокруг все более автономных систем.
Вашингтон придерживается иного подхода к Европе
Дебаты также подчеркивают растущее различие между американским и европейским подходами к искусственному интеллекту.
Администрация Трампа неоднократно подчеркивала сохранение технологического лидерства США и избегание ограничений, которые, по ее мнению, могут замедлить инновации.
В Плане действий по ИИ Белого дома лидерство в области искусственного интеллекта рассматривается как приоритет национальной безопасности и утверждается, что Соединенные Штаты должны оставаться впереди глобальных конкурентов.
Европейские регуляторы придерживаются более интервенционистского подхода.
В тот же день, когда прошло заседание по ИИ в Белом доме, Google оспорил нормативные постановления Европейского союза, требующие от него предоставить больший доступ к определенным услугам для разработчиков ИИ и конкурирующих поисковых систем.
Google утверждает, что требования могут раскрыть конфиденциальную информацию о пользователях, в то время как Европейская комиссия утверждает, что соответствующие гарантии конфиденциальности включены.
Спор демонстрирует, как правительства пытаются сбалансировать конкуренцию, конфиденциальность, инновации и безопасность по мере того, как ИИ внедряется в глобальную экономику.
Следующая битва за регулирование ИИ
Добровольное соглашение не решает более широкий вопрос о том, потребуется ли в конечном итоге обязательное федеральное регулирование ИИ.
Вместо этого он устанавливает отраслевую структуру в то время, когда законодатели, исследователи и технологические компании обсуждают, как быстро должен развиваться государственный надзор.
Ставки растут по мере того, как ИИ выходит за рамки чат-ботов и превращается в автономных агентов, способных взаимодействовать с компьютерными системами, писать программное обеспечение, проводить исследования и выполнять сложные цифровые задачи.
На данный момент Вашингтон возлагает на технологическую отрасль значительную ответственность за создание гарантий в отношении собственной продукции.
Вопрос о том, окажутся ли добровольные обязательства достаточными, может стать одним из определяющих вопросов технологической политики на ближайшие годы.
