Споразумението, наречено съвместна отговорност за граничните отговорности, бе обявено на 29 септември след среща на Белия дом, включваща президента Доналд Тръмп и водещите технологични ръководители.
Документът е подписан от изпълнителни директори, представляващи Google , Meta год. , OpenAI год. , Nvidia по-рано , Anthropic .
UOL Notícias +1
За разлика от федерален регламент, споразумението е доброволно. Администрацията го определи като ангажимент за установяване на по-строги предпазни мерки вътре в дружествата, разработващи все по-способни модели на изкуствен интелект.
Развитието идва, тъй като правителствата, технологичните компании и изследователите продължават да обсъждат колко бързо следва да се контролира AI, без да се предотвратява иновациите.
Какво се съгласиха да направят AI компаниите
Споразумението установява четири широки слоя проверки за безопасност.
Очаква се участващите компании да поддържат вътрешни системи, които следят възможностите и поведението на своите модели AI по време както на обучение, така и на внедряване.
Тези проверки са предназначени за идентифициране на потенциални рискове, свързани с области като киберсигурност, биологични заплахи и химически заплахи.
В споразумението изрично се призовава за предпазни мерки, предназначени да предотвратят достъпа или намесата на моделите на ИИ в техническите системи по непреднамерен начин.
UOL Notícias
Очаква се също така дружествата да поддържат вътрешни екипи, отговорни за проверката дали системите за мониторинг и откриване работят по предназначение.
Отделно ниво на надзор ще дойде извън самите дружества.
Независимите оценки на ИИ са част от сделката
Една от най-важните разпоредби призовава участващите дружества да работят с външни одитори или оценители.
Тези независими оценки ще проучат дали системите за мониторинг и контрол на дружествата функционират по предназначение.
В споразумението също така се призовава дружествата да създадат независими комитети на управителните съвети, които да получават информация както от вътрешни екипи, така и от външни оценители.
UOL Notícias +1
Очаква се участващите дружества редовно да отговарят на стандартите и най-добрите практики за подобряване на безопасността на системите си.
Документът също така признава, че някои от тези мерки евентуално биха могли да станат част от формалните закони или разпоредби.
UOL Notícias
Засега обаче ангажиментите не са правно обвързващи федерални правила.
Защо споразумението има значение
Споразумението пристига в решаващ момент за индустрията за изкуствен интелект.
AI системи все повече се движат отвъд отговори въпроси и генериране на текст, изображения или компютърен код.
Компаниите развиват AI агенти, способни да извършват по-дълги последователности от действия, използвайки софтуерни инструменти и изпълнявайки задачи с по-малко директен човешки надзор.
Това разширяване увеличи вниманието върху това как компаниите тестват мощни модели, преди да ги освободят.
Новото споразумение се опитва да създаде обща рамка сред основните разработчици на ИИ, като същевременно оставя отделни дружества отговорни за осъществяването на много от проверките.
Associated Press съобщи, че споразумението включва вътрешни гаранции, независими външни проверки и механизми за надзор в рамките на участващите дружества.
AP новини
Най-големите компании бяха във Вашингтон.
Събранието на Белия дом събра много от най-влиятелните фигури в глобалната технология.
Директорите, които посещават, включват лидери, свързани с Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon и X, според доклади от събитието.
AP News +1
Тяхното участие илюстрира колко тясно AI политиката се свързва с най-големите технологични компании в САЩ.
Участващите компании инвестират сериозно в модели на ИИ, компютърна инфраструктура, чипове и центрове за данни.
В същото време правителствата по целия свят се опитват да определят какви предпазни мерки трябва да се прилагат, тъй като тези системи стават по-способни.
Америка.Гов също стартира
Споразумението за безопасност на изкуствен интелект не беше единственото важно съобщение от Вашингтон.
Белият дом също стартира America.gov, нов дигитален портал, предназначен да даде на американците едно място за достъп до информация и услуги на федералното правителство.
Според Белия дом потребителите могат да комуникират с услугата чрез обикновен език и да получават отговори, без да се налага да се навигират многобройни индивидуални уебсайтове на федерални агенции.
Белият дом
Администрацията казва, че платформата е проектирана в крайна сметка, за да позволи на хората да завършат определени правителствени сделки директно, когато има разрешение и техническа инфраструктура.
Белият дом също казва, че защитата на личните данни е предназначена да бъде включена в службата.
Белият дом
Изстрелването представлява още един пример за генеративен ИИ, който преминава от експериментални приложения към обществени услуги, използвани от обикновените граждани.
Регламентът за AI остава голямо разискване
Доброволният характер на споразумението вероятно ще остане важна част от по-широкия дебат относно регламента за AI.
Поддръжниците на индустриалните водещи стандарти твърдят, че изкуственият интелект се развива толкова бързо, че строгото регулиране може да се бори да поддържа темпото на технологичния напредък.
Критиците на доброволческите системи твърдят, че компаниите, разработващи мощни модели AI, трябва да бъдат изправени пред приложими външни стандарти, вместо да разчитат главно на вътрешен контрол.
Новото споразумение включва независима оценка, но дружествата запазват значителна отговорност за прилагането на собствените си системи за безопасност.
Самата спогодба оставя отворена възможността нейните принципи евентуално да бъдат включени в законодателство или формален регламент.
UOL Notícias
Това означава, че съобщението от 29 септември може да представлява по-скоро ранна рамка, отколкото окончателна форма на американския надзор на AI.
Европа поема по различен път
Съединените щати не развиват политика на AI в изолация.
Европа следва по-регулативен подход чрез правилата на Европейския съюз за изкуствен интелект и по-широко цифрово законодателство.
Контрастът създаде важен въпрос за международната политика: дали напредналият ИИ трябва да се управлява главно чрез законодателство, ангажименти в промишлеността, независим одит или някаква комбинация от трите.
В крайна сметка технологичните дружества, работещи в световен мащаб, може да се нуждаят от спазване на различни регулаторни системи в зависимост от това къде се предлагат техните продукти.
Това взема решения във Вашингтон и Брюксел, особено важни за компаниите, разработващи модели, използвани от стотици милиони хора.
AI безопасността се увеличава с възможности
Споразумението пристига и като няколко водещи дружества за ИИ публично обсъждат рисковете, свързани с все по-способни системи.
Разработчиците тестват модели за поведение, включващи киберсигурност, самостоятелно вземане на решения, биологична информация и възможност за работа с външни софтуерни инструменти.
Тези възможности могат да създадат полезни приложения, но те също така повдигат въпроси какво се случва, когато системите се държат различно от това, което разработчиците са планирали.
Новото споразумение се опитва да се справи с този проблем, като изисква множество слоеве на наблюдение, вместо да разчита на единен вътрешен процес на безопасност.
Външната оценка може да стане особено важна, тъй като компаниите освобождават все по-самостоятелни агенти на AI.
Какво следва?
Непосредственият въпрос е как участващите дружества ще преведат споразумението в оперативни гаранции.
Документът установява принципи, но ефективността на тези принципи ще зависи от прилагането, включително как се избират независими оценители, какви стандарти прилагат и как отговарят дружествата, когато бъдат открити рискове.
Друг въпрос е прозрачността.
Обществото може все повече да очаква от дружествата да обяснят как са оценени напредналите модели преди пускането на пазара и какви предпазни мерки действат след разполагането.
Засега споразумението представлява значителен координиран ангажимент, включващ няколко от компаниите, които изграждат най-напредналите системи за изкуствен интелект в света.
Дали тези доброволни гаранции в крайна сметка ще станат задължителни правила ще зависят от бъдещите решения на законодателите, регулаторите и самите дружества.
Това, което вече е ясно, е, че безопасността на AI се е преместила от дебат за специализирани технологии в централен въпрос за правителствата, бизнеса и стотици милиони хора, използващи изкуствен интелект всеки ден.