Някои от най-големите имена в изкуствения интелект са се съгласили с нова рамка, която има за цел да запази бързото развитие на системите за изкуствен интелект под контрол, отбелязвайки важен момент в дебата за това как трябва да се управлява технологията.
Президентът Доналд Тръмп обяви на 29 септември, че ръководители на водещи компании за изкуствен интелект са подписали споразумение, обхващащо стандартите за безопасност и надзора върху развитието на изкуствения интелект.
В представените дружества бяха включени [Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com), [OpenAI](https://openai.com/?utm source=chatgpt.com), [Anthropic](https://www.anthropic.com/?utm source=chatgpt.com), [Nvidia](https://www.nvidia.com/?utm source=chatgpt.com) и [xAI](https://x.ai/source=chagpt.com).
Споразумението идва, тъй като промишлеността на ИИ е изправена пред все по-голям контрол дали все по-самостоятелни системи могат да бъдат разработени безопасно, докато компаниите се състезават, за да освободят по-способни модели.
Според Associated Press доброволното споразумение включва ангажименти, включващи силен вътрешен контрол, независими прегледи и надзор на равнището на борда.
Развитието би могло да оформи следващата фаза на глобалния дебат за ИИ, особено защото Съединените щати досега подкрепиха сравнително съсредоточения подход за иновации, докато Европа се насочи към по-широко регулиране.
AI компаниите се съгласяват да се полицаят
Основната идея зад споразумението е, че компаниите AI ще поемат по-голяма отговорност за оценка на рисковете, създадени от собствените им системи.
Съгласието изисква вътрешни процедури за безопасност, както и външни прегледи, предназначени да осигурят допълнителен контрол на все по-мощните модели AI.
Тръмп определи споразумението като морално обвързващо, а не като конвенционален регулаторен мандат.
"Ройтерс" съобщи, че администрацията обмисля и създаването на 10-членна комисия за наблюдение на развитието на промишлеността на ИИ. Подробности за комисията, включително нейната потенциална власт и членство, все още не са финализирани.
Председателят на Камарата Майк Джонсън потвърди отделно, че мениджърите на ИИ са подписали споразумение относно технологичните стандарти по време на срещата на Белия дом.
За Силиконовата долина доброволният подход може да предложи алтернатива на по-ограничителното федерално законодателство.
За критиците обаче въпросът е дали компаниите, развиващи технологията, могат ефективно да се регулират, докато едновременно се конкурират за клиенти, инвестиции и технологично лидерство.
Google, Meta и други лидери на AI се присъединяват към преговорите
Няколко от най-влиятелните фигури в технологиите участваха в дискусиите.
Sundar Pichai и Mark Zuckerberg бяха сред участващите ръководители, докато компании в центъра на генеративния AI бум също бяха представени.
Споразумението пристига в необичайно чувствителен момент за индустрията.
AI моделите стават способни да изпълняват все по-сложни задачи с по-малко директен човешки надзор. Бързото появяване на AI агенти, системи, способни да извършват последователности на действия, а не просто да отговарят на въпроси, засили притесненията за сигурността и контрола.
Изследователи от водещи лаборатории на ИИ също публично предупреждават за скоростта на развитие.
"Ройтерс" съобщи на 29 септември, че настоящи и бивши изследователи от OpenAI и Google DeepMind са породили опасения относно фирмите, преследващи системи, способни да подобрят собствените си способности, докато мерките за безопасност се борят да поддържат темпото.
Тези опасения варират от нарушаване на работните места и заплахи за киберсигурността до далеч по-тежки сценарии, включващи AI системи, които се държат по начин, който техните разработчици не са възнамерявали.
OpenAI направи пауза на модела за безопасност
Един детайл от събирането на Белия дом илюстрира колко сериозно някои лаборатории се отнасят към проблема.
Директорът на OpenAI Сам Олтман каза, че компанията му е спряла освобождаването на модел поради опасения за безопасността, според Associated Press.
Разкриването идва, тъй като компаниите за ИИ все по-проучват напредналите модели преди публичното разполагане, за да определят дали могат да се злоупотребяват или да се държат неочаквано.
В същото време промишлеността е изправена пред огромен търговски натиск да се движи бързо.
OpenAI, Google, Anthropic, Meta и други компании харчат много за компютърна инфраструктура и се конкурират за изграждане на все по-способни системи за AI.
Това създава труден баланс между технологичната скорост и безопасността.
Nvidia стартира технология, предназначена да спре измамници AI агенти
Новото споразумение следва също така важно съобщение за сигурността на AI от Nvidia.
На 28 септември Нвидия въведе своята Платформа за безопасност на отворени агенти - охранителна система, предназначена да попречи на автономните агенти на AI да извършват неразрешени действия.
Платформата включва технология, която проверява какво е позволено на AI агента да прави и друг компонент, способен да наблюдава подозрителната активност и да кварантира потенциално опасно поведение.
Повече от 100 организации вече използват технологията, според Associated Press.
Изпълнителният директор на Nvidia Jensen Huang твърди, че безопасността на AI може да се подхожда отчасти като инженерно предизвикателство, като по-силните софтуерни защити осигуряват граници около все по-самостоятелни системи.
Вашингтон тежи различен подход от Европа
Дебатът също така подчертава разширяващата се разлика между американския и европейския подход към изкуствения интелект.
Администрацията на Тръмп многократно подчертава поддържането на американското технологично лидерство и избягването на ограничения, които смята, че могат да забавят иновациите.
Планът за действие на Белия дом AI описва лидерството в изкуствения интелект като приоритет на националната сигурност и твърди, че САЩ трябва да останат пред световните конкуренти.
Европейските регулатори възприеха по-интензантски подход.
В същия ден, когато беше проведена срещата на Белия дом, Google оспори регулаторните нареждания на Европейския съюз, изискващи от него да осигури по-голям достъп до определени услуги за разработчиците на ИИ и конкурентните търсачки.
Google твърди, че изискванията могат да разкрият чувствителна информация за потребителя, докато Европейската комисия поддържа, че са включени подходящи гаранции за поверителност.
Спорът показва как правителствата се борят да балансират конкуренцията, неприкосновеността на личния живот, иновациите и сигурността, тъй като AI става вграден в световната икономика.
Следващата битка за AI регулиране
Доброволното споразумение не урежда по-големия въпрос дали в крайна сметка ще бъде необходим задължителен федерален AI регламент.
Вместо това тя създава рамка, подкрепена от промишлеността, в момент, когато законодателите, изследователите и технологичните компании обсъждат колко бързо трябва да се развива надзорът над правителството.
Залозите се увеличават, тъй като AI се придвижва отвъд чатботите и към автономни агенти, способни да взаимодействат с компютърни системи, да пишат софтуер, да провеждат изследвания и да изпълняват сложни цифрови задачи.
Засега Вашингтон дава на технологичната индустрия значителна отговорност за установяването на предпазни мерки около собствените си продукти.
Дали доброволните ангажименти се окажат достатъчни, може да се превърне в един от определящите въпроси на политиката в областта на технологиите през следващите години.