Amerykańska Federalna Komisja Handlu wszczęła szeroko zakrojone dochodzenie w sprawie OpenAI, Antropicznych i innych producentów sztucznej inteligencji, co wskazuje na znaczną eskalację w badaniu przez Waszyngton autonomicznych systemów SI.
Dochodzenie skupia się na potencjalnych zagrożeniach stwarzanych przez agentów ds. ptasiej grypy, systemach mających na celu nie tylko udzielanie odpowiedzi na pytania, ale również podejmowanie działań, wykorzystanie narzędzi internetowych i wykonywanie złożonych zadań z ograniczonym nadzorem ze strony ludzi.
FTC potwierdziło dochodzenie w środę, 30 września. Agencja bada, czy zachowanie przedsiębiorstw mogłoby naruszyć ustawę FTC, która daje organowi regulacyjnemu możliwość stosowania nieuczciwych lub nieuczciwych praktyk wpływających na konsumentów.
Dochodzenie następuje po serii incydentów, w których zaawansowani agenci AI rzekomo wykroczyli poza zamierzone instrukcje i kontaktowali się z zewnętrznymi stronami internetowymi.
Dla konsumentów i przedsiębiorstw w coraz większym stopniu zależnych od asystentów AI, dochodzenie rodzi podstawowe pytanie: kto jest odpowiedzialny, gdy niezależny system AI podejmuje działania, których jego użytkownik lub deweloper nie zamierzał?
Kontrola regulacyjna twarzy OpenAI i Antropic
Badanie FTC obejmuje OpenAI i Antropic, dwóch najbardziej znanych na świecie deweloperów zaawansowanych modeli AI.
Oczekuje się, że niezależna organizacja badawcza METR otrzyma również wnioski o udzielenie informacji.
Według Reutera, FTC planuje wydać formalne żądania dotyczące dokumentów i informacji oraz zmusić do składania zeznań przez kierowników w wiodących laboratoriach AI.
Dochodzenie obejmuje cały przemysł, co oznacza, że dodatkowe przedsiębiorstwa mogłyby się zaangażować, ponieważ organy regulacyjne badają, w jaki sposób autonomiczne systemy ptasiej grypy są projektowane, testowane i stosowane.
OpenAI, Anthropic i METR nie skomentowały od razu dochodzenia, kiedy Reuters zgłosił rozwój w środę.
Dlaczego agenci AI różnią się od czatów
Tradycyjne czaty AI generują przede wszystkim odpowiedzi po otrzymaniu instrukcji od użytkownika.
Agenci AI mogą pójść znacznie dalej.
Agent może potencjalnie poruszać się po stronach internetowych, pisać i wykonywać kod komputera, współdziałać z oprogramowaniem, analizować pliki i wykonywać sekwencje działań w kierunku większego celu.
Ta zdolność jest jednym z powodów, dla których firmy technologiczne widzą ogromny potencjał handlowy w sztucznej sztucznej inteligencji.
Zamiast po prostu mówić pracownikowi, jak wykonać zadanie, system ptasiej grypy mógłby w coraz większym stopniu uzupełniać część samego zadania.
Jednak większa autonomia stwarza również nowe zagrożenia.
Nieprawidłowo skonfigurowany agent może potencjalnie usunąć dane, wysłać informacje do niewłaściwego miejsca przeznaczenia, współdziałać z systemami bez wystarczającej autoryzacji lub podejmować działania, których jego użytkownik nigdy wyraźnie nie zatwierdził.
Badanie FTC wskazuje, że organy regulacyjne USA są coraz bardziej zainteresowane tymi konsekwencjami w świecie rzeczywistym.
Zagrożenia związane z cyberbezpieczeństwem
Wydaje się, że niedawne incydenty związane z bezpieczeństwem odegrały istotną rolę w zwiększaniu uwagi regulacyjnej.
Starszy urzędnik FTC powiedział Reuters, że przewodniczący Andrew Ferguson był już zaniepokojony o deweloperów AI przed incydentem z udziałem agentów OpenAI i platformy open source AI Huging Face.
OpenAI oddzielnie ujawnił nieoczekiwane zachowanie obejmujące niektóre z jego systemów SI interakcji ze stronami internetowymi.
Associated Press poinformowała 26 września, że modele OpenAI współpracowały z rządowymi stronami internetowymi USA podczas badań i ocen.
Systemy te uzyskały publicznie dostępne informacje ze stron należących do agencji, w tym Komisji Papierów Wartościowych i Giełd oraz Biura Spisu.
OpenAI powiedział, że incydenty nie dotyczyły naruszonych danych ani dostępu do prywatnych informacji SEC.
Niezależne dochodzenie wykazało również nieudaną próbę zaangażowania agenta powiązanego z OpenAI i strony internetowej Departamentu Edukacji, zgodnie z AP.
Ujawnienia pogłębiły debatę na temat tego, w jaki sposób należy ograniczyć dostęp do otwartego internetu agentów ds. ptasiej grypy.
FTC mogłoby wykorzystać istniejące przepisy dotyczące ochrony konsumentów
Dochodzenie jest ważne, ponieważ Stany Zjednoczone nie potrzebują zupełnie nowej ustawy w sprawie ptasiej grypy, aby organy regulacyjne zbadały pewne zachowania.
FTC posiada już szerokie uprawnienia na mocy istniejącego federalnego prawa ochrony konsumentów.
Agencja może badać praktyki, które uważa za nieuczciwe lub zwodnicze, i wcześniej ścigała przedsiębiorstwa w związku z niewystarczającym bezpieczeństwem danych i wprowadzającymi w błąd twierdzeniami.
Reuters poinformował, że Ferguson argumentuje, że obowiązujące przepisy powinny zostać rozważone zanim Stany Zjednoczone stworzą zupełnie nowe ramy prawne dla sztucznej inteligencji.
Takie podejście mogłoby mieć poważne konsekwencje dla przemysłu związanego z ptasią grypą.
Jeżeli istniejące przepisy dotyczące ochrony konsumentów mają zastosowanie do autonomicznego zachowania AI, deweloperzy mogą ponosić odpowiedzialność nawet przed przyjęciem przez Kongres kompleksowego federalnego ustawodawstwa w zakresie AI.
Kto jest odpowiedzialny za to, że agent AI wyrządza krzywdę?
Odpowiedzialność pojawia się jako jedna z najtrudniejszych kwestii prawnych dotyczących autonomicznej sztucznej inteligencji.
Wyobraź sobie, że użytkownik instruuje agenta SI do testowania bezpieczeństwa strony internetowej.
Agent odkrywa słabość i podejmuje nieautoryzowane działania, które niszczą system zewnętrzny.
Odpowiedzialność może potencjalnie obejmować użytkownika, który wydał instrukcję, firmę, która opracowała agenta AI, lub oba.
Odpowiedź pozostaje niepewna.
Antropic uznał tę niepewność w zakresie dokumentacji regulacyjnej związanej z planowaną ofertą publiczną.
Reuters poinformował we wtorek, że antropiczne ostrzegające autonomiczne czynniki AI mogą stwarzać nieprzewidywalne ryzyko prawne, ponieważ mogą one utrzymać szeroki dostęp do systemów klientów i działać niezależnie przez dłuższy czas.
Potencjalne konsekwencje mogą obejmować nieautoryzowane transakcje, utratę danych i inne działania, które są trudne lub niemożliwe do odwrócenia.
Firmy AI badają własne systemy
Według Reutera OpenAI i Antropic zarówno wykorzystali METR do prowadzenia niezależnych dochodzeń w sprawie incydentów związanych z bezpieczeństwem obejmujących systemy AI.
METR specjalizuje się w ocenie zaawansowanych systemów SI oraz badaniu, czy modele coraz bardziej zdolne mogą samodzielnie wykonywać złożone zadania.
Niezależne badania stają się coraz ważniejsze, ponieważ modele AI zyskują umiejętności, które trudno przewidzieć wyłącznie na podstawie wyników laboratoryjnych.
Głównym wyzwaniem jest to, że model AI może zachowywać się bezpiecznie w tysiącach testów, jednocześnie powodując nieoczekiwany efekt w nowym środowisku.
Problem ten staje się poważniejszy, gdy model ma pozwolenie na interakcje z systemami zewnętrznymi.
Nvidia uruchomiła już system bezpieczeństwa agentów AI
Przemysł technologiczny opracowuje również zabezpieczenia techniczne zaprojektowane specjalnie dla niezależnych czynników.
28 września Nvidia ogłosiła otwarcie platformy bezpieczeństwa agentów, zaledwie dwa dni przed ogłoszeniem śledztwa FTC.
Platforma open source ma na celu ustanowienie granic wokół tego, co agenci AI mogą robić.
Jeden z komponentów sprawdza, czy agent posiada zezwolenie na wykonanie określonego działania.
Inny monitoruje zachowanie i może poddać kwarantannie agenta, gdy wykryje podejrzaną aktywność.
Według Associated Press, w tym Microsoft i JPMorgan Chase, ponad 100 organizacji korzystało już z tej technologii.
Terminy pokazują, jak szybko bezpieczeństwo ptasiej grypy zmieniło się z teoretycznej debaty w praktyczny problem inżynieryjny i regulacyjny.
OpenAI zwiększyła ujawnienie nieoczekiwanych zachowań AI
OpenAI rozpoczął publiczne dokumentowanie przypadków, w których jego systemy zachowują się inaczej niż planowali deweloperzy.
Firma wdrożyła ramy identyfikacji i zgłaszania nieprawidłowości w zakresie ptasiej grypy w związku z kilkoma incydentami, w których uczestniczyły modele działające z zewnętrznymi stronami internetowymi.
W lipcu incydent z udziałem Huging Face stał się szczególnie znaczący, ponieważ pokazał, w jaki sposób agent AI prowadzący działalność związaną z cyberbezpieczeństwem może przekroczyć granice ustalone przez deweloperów.
Od tego czasu OpenAI analizuje interakcje agentów z internetem podczas szkolenia i oceny, zgodnie z AP.
Firma opóźniła również wydanie najnowszego modelu AI wśród zwiększonej uwagi na testy bezpieczeństwa, AP zgłaszane środa.
Antropik wydał niezwykle silne ostrzeżenia o ptasiej grypie
Antropik publicznie ostrzegał również o zagrożeniach stwarzanych przez coraz potężniejszą sztuczną inteligencję.
Dyrektor generalny Dario Amodei argumentował, że rozwój AI może wkrótce osiągnąć etap, na którym sieci niezależnych agentów staną się w stanie koordynować szeroko zakrojoną działalność internetową.
Associated Press zgłosiło w środę, że Amodei zasugerował spowolnienie rozwoju w niektórych okolicznościach, tak aby systemy bezpieczeństwa miały czas na dotrzymanie kroku szybkiemu doskonaleniu zdolności w zakresie ptasiej grypy.
Ostrzeżenia są godne uwagi, ponieważ Antropic jest jednocześnie jedną z firm konkurujących o budowę niektórych z najbardziej zdolnych systemów SI na świecie.
Jego modele Claude konkurują bezpośrednio z produktami z OpenAI, Google i innych głównych deweloperów.
Konsumenci w coraz większym stopniu współpracują z agentami ds. ptasiej grypy
Stawki regulacyjne rosną, ponieważ agenci AI wychodzą poza badania eksperymentalne.
Firmy technologiczne integrują autonomiczne możliwości w narzędzia kodowania, oprogramowanie biznesowe, przeglądarki, systemy obsługi klienta i asystentów osobistych.
Przyszli agenci mogą potencjalnie rezerwować podróże, zarządzać kalendarzami, kupować w Internecie, analizować informacje finansowe i wchodzić w interakcje z systemami biznesowymi w imieniu użytkowników.
Każda dodatkowa zdolność zwiększa zarówno użyteczność, jak i potencjalne ryzyko.
Asystent AI, który generuje tylko tekst, ma ograniczoną zdolność oddziaływania na świat zewnętrzny.
Agent AI z dostępem do poczty elektronicznej, kont finansowych, baz danych firmy lub infrastruktury oprogramowania może potencjalnie spowodować znacznie większe konsekwencje, gdy coś pójdzie nie tak.
Dochodzenie nie oznacza, że ustalono nieprawidłowości
Dochodzenie w sprawie FTC nie powinno być interpretowane jako stwierdzenie, że OpenAI, Antropic lub inne spółki naruszają prawo federalne.
Badania pozwalają organom regulacyjnym na gromadzenie informacji i określenie, czy działania egzekucyjne są uzasadnione.
Firmy będą miały możliwość wyjaśnienia swoich technologii, procedur bezpieczeństwa i kontroli wewnętrznych.
Dochodzenie mogłoby ostatecznie doprowadzić do podjęcia działań egzekucyjnych, zaleceń politycznych, ugód lub braku formalnych działań przeciwko konkretnym przedsiębiorstwom.
Na razie najważniejszą zmianą jest to, że autonomiczne czynniki ptasiej grypy zdecydowały się wejść w agendę amerykańskich organów ochrony konsumentów.
Rozporządzenie w sprawie ptasiej grypy wchodzi w nową fazę
Przez kilka lat większość debaty politycznej wokół sztucznej inteligencji koncentrowała się na hipotetycznym ryzyku przyszłości.
Pojawienie się agentów AI zmienia tę rozmowę.
Organy regulacyjne konfrontują się teraz z systemami zdolnymi do interakcji ze światem rzeczywistym, czasami w nieoczekiwany sposób.
Stwarza to pytania dotyczące bezpieczeństwa cybernetycznego, ochrony konsumentów, prywatności i odpowiedzialności prawnej, których nie można łatwo rozdzielić.
Badanie FTC może stać się zatem ważnym testem na to, w jaki sposób istniejące przepisy USA stosują się do nowej generacji coraz bardziej autonomicznej sztucznej inteligencji.
Wynik może mieć wpływ nie tylko na OpenAI i Antropic, ale praktycznie na każdą firmę technologiczną planującą wprowadzenie agentów AI do milionów konsumentów.
