Umowa, zwana wspólnym zobowiązaniem w sprawie odpowiedzialności granic, została ogłoszona 29 września po spotkaniu w Białym Domu z udziałem prezydenta Donalda Trumpa i wiodących kadry kierowniczej ds. technologii.
Dokument został podpisany przez kierowników reprezentujących Google Booking, Meta Booking, OpenAI Booking, Nvidia Booking, Antropic Booking i X Booking, według Reuters.
UOL Notícias + 1
W przeciwieństwie do przepisów federalnych, umowa jest dobrowolna. Administracja określiła ją jako zobowiązanie do ustanowienia silniejszych zabezpieczeń wewnątrz przedsiębiorstw, które rozwijają coraz bardziej zdolne modele sztucznej inteligencji.
Rozwój ten ma miejsce, gdy rządy, firmy technologiczne i naukowcy nadal debatują nad tym, jak szybko postępująca SI powinna być kontrolowana bez zapobiegania innowacjom.
Co przedsiębiorstwa AI zgodziły się zrobić
Umowa ustanawia cztery szerokie warstwy kontroli bezpieczeństwa.
Oczekuje się, że przedsiębiorstwa uczestniczące będą utrzymywać systemy wewnętrzne, które monitorują możliwości i zachowanie swoich modeli SI podczas szkolenia i wdrażania.
Kontrole te mają na celu określenie potencjalnych zagrożeń związanych z takimi obszarami jak bezpieczeństwo cybernetyczne, zagrożenia biologiczne i zagrożenia chemiczne.
W umowie wezwano w szczególności do wprowadzenia zabezpieczeń mających na celu zapobieganie niezamierzonemu dostępowi do systemów technicznych lub ingerowaniu w nie.
UOL Notícias
Oczekuje się również, że przedsiębiorstwa będą utrzymywać wewnętrzne zespoły odpowiedzialne za sprawdzanie, czy systemy monitorowania i wykrywania działają zgodnie z przeznaczeniem.
Oddzielny poziom nadzoru pochodziłby z zewnątrz samych przedsiębiorstw.
Niezależne oceny AI są częścią umowy
Jeden z najważniejszych przepisów wymaga, aby uczestniczące przedsiębiorstwa współpracowały z zewnętrznymi audytorami lub oceniającymi.
Te niezależne oceny zbadałyby, czy systemy monitorowania i kontroli ptasiej grypy funkcjonują zgodnie z przeznaczeniem.
Umowa wzywa również przedsiębiorstwa do ustanowienia niezależnych komitetów zarządu, które otrzymywałyby informacje zarówno od zespołów wewnętrznych, jak i zewnętrznych oceniających.
UOL Notícias + 1
Oczekuje się, że przedsiębiorstwa uczestniczące będą regularnie spotykać się w celu opracowania norm i najlepszych praktyk w celu poprawy bezpieczeństwa swoich systemów.
Dokument uznaje również, że niektóre z tych środków mogą ostatecznie stać się częścią formalnych przepisów ustawowych lub wykonawczych.
UOL Notícias
Na razie jednak zobowiązania nie są prawnie wiążącymi przepisami federalnymi.
Dlaczego porozumienie ma znaczenie?
Porozumienie przychodzi w decydującym momencie dla przemysłu sztucznej inteligencji.
Systemy AI w coraz większym stopniu wykraczają poza odpowiedzi na pytania i generowanie tekstu, obrazów lub kodu komputera.
Firmy opracowują czynniki ptasiej grypy, zdolne do wykonywania dłuższych sekwencji działań, przy użyciu narzędzi oprogramowania i wykonywania zadań z mniej bezpośrednim nadzorem nad ludźmi.
Ta ekspansja zwiększyła uwagę na to, jak firmy testują potężne modele przed ich uwolnieniem.
Nowa umowa stara się stworzyć wspólne ramy wśród głównych deweloperów PSI, pozostawiając jednocześnie pojedyncze przedsiębiorstwa odpowiedzialne za wdrożenie wielu kontroli.
Associated Press poinformowała, że umowa obejmuje wewnętrzne zabezpieczenia, niezależne zewnętrzne przeglądy i mechanizmy nadzoru w uczestniczących przedsiębiorstwach.
Wiadomości AP
Największe przedsiębiorstwa AI były w Waszyngtonie
Zgromadzenie Białego Domu zgromadziło wiele z najbardziej wpływowych postaci w technologii globalnej.
Egzekucjoniści biorący udział w spotkaniu to przywódcy powiązani z Meta, Nvidia, Antropic, OpenAI, Google, Microsoft, Amazon i X, zgodnie z raportami z wydarzenia. ¶
AP Aktualności + 1
Ich uczestnictwo ilustruje, jak ściśle polityka w zakresie broni strzeleckiej staje się powiązana z największymi firmami technologicznymi w Stanach Zjednoczonych.
Zaangażowane firmy inwestują w modele AI, infrastrukturę obliczeniową, chipy i centra danych.
Jednocześnie rządy na całym świecie starają się określić, jakie zabezpieczenia powinny mieć zastosowanie w miarę zwiększania zdolności tych systemów.
America.gov również startuje
Umowa w sprawie bezpieczeństwa ptasiej grypy nie była jedynym ważnym komunikatem technologicznym z Waszyngtonu.
Biały Dom uruchomił również America.gov, nową bramę cyfrową, która ma dać Amerykanom jedno miejsce dostępu do informacji i usług rządu federalnego.
Według Białego Domu, użytkownicy mogą komunikować się z usługą przy użyciu zwykłego języka i otrzymywać odpowiedzi bez konieczności poruszania się po wielu stronach internetowych agencji federalnych.
Biały Dom
Administracja mówi, że platforma została zaprojektowana, aby umożliwić ludziom realizację pewnych transakcji rządowych bezpośrednio, gdy autoryzacja i infrastruktura techniczna są dostępne.
Biały Dom mówi również, że ochrona prywatności ma zostać włączona do serwisu.
Biały Dom
Inauguracja stanowi kolejny przykład uogólnionej SI przechodzącej od zastosowań eksperymentalnych do usług publicznych wykorzystywanych przez zwykłych obywateli.
Rozporządzenie w sprawie ptasiej grypy pozostaje ważną debatą
Dobrowolny charakter umowy prawdopodobnie pozostanie ważnym elementem szerszej debaty na temat rozporządzenia w sprawie ptasiej grypy.
Zwolennicy norm kierowanych przez przemysł twierdzą, że sztuczna inteligencja rozwija się tak szybko, że sztywne regulacje mogą walczyć o dotrzymanie kroku postępowi technologicznemu.
Krytycy dobrowolnych systemów twierdzą, że przedsiębiorstwa opracowujące potężne modele sztucznej grypy powinny stawić czoła egzekwowalnym standardom zewnętrznym, a nie polegać przede wszystkim na kontroli wewnętrznej.
Nowe porozumienie obejmuje niezależną ocenę, ale przedsiębiorstwa zachowują znaczną odpowiedzialność za wdrażanie własnych systemów bezpieczeństwa.
Sama umowa pozostawia otwartą możliwość włączenia jej zasad do prawodawstwa lub formalnej regulacji.
UOL Notícias
Oznacza to, że ogłoszenie z 29 września może stanowić wczesne ramy, a nie ostateczny kształt amerykańskiego nadzoru w zakresie ptasiej grypy.
Europa podąża inną drogą
Stany Zjednoczone nie opracowują polityki w zakresie ptasiej grypy w izolacji.
Europa dążyła do przyjęcia bardziej regulacyjnego podejścia poprzez przepisy Unii Europejskiej dotyczące sztucznej inteligencji i szersze prawodawstwo cyfrowe.
Kontrast ten wywołał ważne pytanie dotyczące polityki międzynarodowej: czy zaawansowana AI powinna być regulowana przede wszystkim przez prawodawstwo, zobowiązania branżowe, niezależne audyty, czy też przez pewną kombinację wszystkich trzech.
Przedsiębiorstwa technologiczne działające na całym świecie mogą ostatecznie wymagać przestrzegania różnych systemów regulacyjnych w zależności od tego, gdzie oferowane są ich produkty.
Czyni to decyzje w Waszyngtonie i Brukseli szczególnie ważnymi dla przedsiębiorstw opracowujących modele wykorzystywane przez setki milionów ludzi.
Obawy dotyczące bezpieczeństwa ptasiej grypy rosną wraz z możliwościami
Umowa dociera również do kilku wiodących przedsiębiorstw zajmujących się sztuczną inteligencją, które publicznie omawiają zagrożenia związane z coraz bardziej zdolnymi systemami.
Deweloperzy testują modele zachowań obejmujące bezpieczeństwo cybernetyczne, samodzielne podejmowanie decyzji, informacje biologiczne i zdolność do obsługi zewnętrznych narzędzi oprogramowania.
Możliwości te mogą tworzyć użyteczne aplikacje, ale również wzbudzają pytania o to, co dzieje się, gdy systemy zachowują się inaczej niż planowali deweloperzy.
Nowe porozumienie stara się rozwiązać tę kwestię, wymagając raczej wielu warstw monitorowania niż polegając na jednym procesie bezpieczeństwa wewnętrznego.
Ocena zewnętrzna może stać się szczególnie ważna w miarę uwalniania przez przedsiębiorstwa coraz bardziej autonomicznych czynników ptasiej grypy.
Co będzie dalej?
Bezpośrednim pytaniem jest, w jaki sposób uczestniczące przedsiębiorstwa przełożyą umowę na gwarancje operacyjne.
Dokument ustanawia zasady, ale skuteczność tych zasad będzie zależeć od wdrożenia, w tym sposobu wyboru niezależnych oceniających, stosowanych przez nie standardów oraz sposobu, w jaki przedsiębiorstwa reagują przy wykrywaniu zagrożeń.
Kolejną kwestią jest przejrzystość.
Społeczeństwo może w coraz większym stopniu oczekiwać od przedsiębiorstw wyjaśnienia, w jaki sposób zostały ocenione zaawansowane modele przed ich uwolnieniem oraz jakie zabezpieczenia funkcjonują po wdrożeniu.
Na razie umowa ta stanowi znaczące skoordynowane zobowiązanie z udziałem kilku przedsiębiorstw budujących najbardziej zaawansowane systemy sztucznej inteligencji na świecie.
To, czy te dobrowolne zabezpieczenia staną się ostatecznie obowiązkowymi przepisami, będzie zależeć od przyszłych decyzji prawodawców, organów regulacyjnych i samych przedsiębiorstw.
Już teraz jasne jest, że bezpieczeństwo ptasiej grypy przeszło z specjalistycznej debaty technologicznej do kwestii centralnej dla rządów, przedsiębiorstw i setek milionów ludzi korzystających ze sztucznej inteligencji każdego dnia.
