Niektóre z największych nazw w sztucznej inteligencji zgodziły się na nowe ramy mające na celu utrzymanie szybkiego rozwoju systemów ptasiej grypy pod kontrolą, co oznacza znaczący moment w debacie na temat sposobu zarządzania tą technologią.
Prezydent Donald Trump ogłosił w dniu 29 września, że dyrektorzy wiodących firm AI podpisali porozumienie obejmujące standardy bezpieczeństwa i nadzór nad rozwojem sztucznej inteligencji.
Reprezentowane przedsiębiorstwa obejmowały [Google] (https: / / www.google.com /? utm _ source = chatgpt.com), [Meta] (https: / / www.meta.com /? utm _ source = chatgpt.com), [OpenAI] (https: / / openeai.com /? utm _ source = chatgpt.com), [Anthropic] (https: / / www.anthropic.com /? utm _ source = chatgpt.com), [Nvidia] (https: / / www.nvidia.com /? utm _ source = chatgpt.com) i [xAI] (https: / xai /? utm _ source = chatgpt.com).
Porozumienie to wchodzi w życie, ponieważ branża AI stoi w obliczu rosnącej kontroli nad tym, czy coraz bardziej autonomiczne systemy mogą być rozwijane bezpiecznie, podczas gdy przedsiębiorstwa dążą do uwolnienia bardziej zdolnych modeli.
Według Associated Press dobrowolne porozumienie obejmuje zobowiązania obejmujące silne kontrole wewnętrzne, niezależne przeglądy i nadzór na szczeblu zarządu.
Rozwój ten mógłby kształtować kolejny etap globalnej debaty na temat ptasiej grypy, szczególnie dlatego, że Stany Zjednoczone do tej pory preferowały podejście ukierunkowane na stosunkowo innowacyjną innowację, podczas gdy Europa posunęła się w kierunku szerszej regulacji.
Firmy AI zgadzają się na policję.
Główną ideą porozumienia jest to, że przedsiębiorstwa zajmujące się sztuczną inteligencją będą w większym stopniu odpowiedzialne za ocenę ryzyka stwarzanego przez ich własne systemy.
Porozumienie wzywa do wprowadzenia wewnętrznych procedur bezpieczeństwa oraz zewnętrznych przeglądów mających na celu zapewnienie dodatkowej kontroli coraz silniejszych modeli ptasiej grypy.
Trump określił umowę jako wiążącą moralnie, a nie jako konwencjonalny mandat regulacyjny.
Reuters poinformował, że administracja rozważa również utworzenie 10-osobowego komitetu nadzorującego rozwój sytuacji w branży ptasiej grypy. Szczegóły dotyczące komitetu, w tym jego potencjalny autorytet i członkostwo, nie zostały jeszcze sfinalizowane.
Przewodniczący Izby Mike Johnson oddzielnie potwierdził, że kierownictwo branży sztucznej podpisało porozumienie dotyczące standardów technologicznych podczas spotkania w Białym Domu.
W przypadku Doliny Krzemowej podejście dobrowolne mogłoby stanowić alternatywę dla bardziej restrykcyjnych przepisów federalnych.
Dla krytyków pytanie brzmi jednak, czy przedsiębiorstwa rozwijające technologię mogą skutecznie się regulować, jednocześnie konkurując o klientów, inwestycje i przywództwo technologiczne.
Google, Meta i inni przywódcy AI dołączają do rozmów
W dyskusjach wzięło udział kilka z najbardziej wpływowych postaci technologii.
Sundar Pichai i Mark Zuckerberg byli wśród kierowników zaangażowanych, podczas gdy firmy w centrum generative AI boom były również reprezentowane.
Porozumienie ma niezwykle delikatny moment dla branży.
Modele AI stają się zdolne do wykonywania coraz bardziej złożonych zadań z mniej bezpośrednim nadzorem nad ludźmi. Szybkie pojawienie się czynników ptasiej grypy, systemów zdolnych do wykonywania sekwencji działań, a nie tylko odpowiedzi na pytania, nasiliło obawy dotyczące bezpieczeństwa i kontroli.
Naukowcy z wiodących laboratoriów AI również publicznie ostrzegali o szybkości rozwoju.
Reuters poinformował w dniu 29 września, że obecni i byli naukowcy z OpenAI i Google DeepMind wzbudzili obawy co do firm realizujących systemy, które mogą poprawić swoje zdolności podczas gdy środki bezpieczeństwa walczą o dotrzymanie kroku.
Obawy te obejmują między innymi zakłócenia zatrudnienia i zagrożenia dla bezpieczeństwa cybernetycznego, a także znacznie poważniejsze scenariusze dotyczące systemów ptasiej grypy, które zachowują się w sposób niezamierzony przez ich twórców.
OpenAI wstrzymała model w kwestii bezpieczeństwa
Jeden szczegół ze spotkania Białego Domu ilustrował, jak poważnie niektóre laboratoria leczą ten problem.
Prezes OpenAI Sam Altman powiedział, że jego firma wstrzymała wydanie modelu ze względu na obawy bezpieczeństwa, według Associated Press.
Ujawnianie informacji następuje w miarę jak przedsiębiorstwa zajmujące się sztuczną inteligencją coraz częściej testują zaawansowane modele przed wprowadzeniem ich do obrotu publicznego w celu ustalenia, czy mogą być one nadużywane lub zachowywać się nieoczekiwanie.
Jednocześnie przemysł stoi w obliczu ogromnej presji handlowej, aby szybko się poruszać.
OpenAI, Google, Antropic, Meta i inne firmy wydatkują w dużym stopniu na infrastrukturę obliczeniową i konkurują o budowę coraz bardziej zdolnych systemów AI.
Stwarza to trudną równowagę między prędkością technologiczną a bezpieczeństwem.
Nvidia wprowadza technologię zaprojektowaną, by powstrzymać nieuczciwych agentów AI
Nowa umowa jest również następstwem poważnego ogłoszenia przez Nvidię o bezpieczeństwie ptasiej grypy.
28 września Nvidia wprowadziła platformę bezpieczeństwa dla agentów otwartych, system bezpieczeństwa mający na celu zapobieżenie nieautoryzowanym działaniom niezależnych agentów ds. ptasiej grypy.
Platforma zawiera technologię, która weryfikuje, co agent AI może robić i inny składnik zdolny do monitorowania podejrzanej działalności i kwarantanny potencjalnie niebezpieczne zachowanie.
Według Associated Press ponad 100 organizacji korzysta już z tej technologii.
Nvidia CEO Jensen Huang twierdził, że bezpieczeństwo AI można podejść częściowo jako wyzwanie inżynieryjne, z silniejszą ochroną oprogramowania zapewniając granice wokół coraz bardziej autonomicznych systemów.
Waszyngton waży inne podejście niż Europa
Debata podkreśla również pogłębiającą się różnicę między amerykańskim a europejskim podejściem do sztucznej inteligencji.
Administracja Trump wielokrotnie podkreślała utrzymanie wiodącej pozycji technologicznej USA i unikanie ograniczeń, które jej zdaniem mogą spowolnić innowacje.
Plan działania w sprawie sztucznej inteligencji Białego Domu opisuje przywództwo w sztucznej inteligencji jako priorytet bezpieczeństwa narodowego i argumentuje, że Stany Zjednoczone muszą nadal wyprzedzać światowych konkurentów.
Europejskie organy regulacyjne przyjęły podejście bardziej interwencyjne.
W tym samym dniu, co spotkanie Białego Domu AI, Google zakwestionował nakazy regulacyjne Unii Europejskiej zobowiązujące go do zapewnienia większego dostępu do niektórych usług dla deweloperów AI i konkurencyjnych wyszukiwarek.
Google argumentuje, że wymogi te mogłyby ujawniać poufne informacje dla użytkowników, podczas gdy Komisja Europejska utrzymuje, że uwzględniono odpowiednie zabezpieczenia prywatności.
Konflikt pokazuje, w jaki sposób rządy borykają się z równowagą konkurencji, prywatności, innowacji i bezpieczeństwa, ponieważ AI jest częścią gospodarki światowej.
Następna bitwa o rozporządzenie w sprawie ptasiej grypy
Dobrowolne porozumienie nie rozwiązuje większej kwestii, czy wiążące federalne rozporządzenie w sprawie ptasiej grypy będzie ostatecznie wymagane.
Zamiast tego ustanawia ona ramy wsparcia dla przemysłu w czasie, gdy prawodawcy, naukowcy i firmy technologiczne debatują nad tym, jak szybko powinien ewoluować nadzór rządowy.
Stawka wzrasta, gdy AI przenosi się poza czaty i do autonomicznych czynników zdolnych do interakcji z systemami komputerowymi, pisania oprogramowania, prowadzenia badań i wykonywania skomplikowanych zadań cyfrowych.
Na razie Waszyngton daje przemysłowi technologicznemu znaczną odpowiedzialność za ustanowienie zabezpieczeń wokół własnych produktów.
To, czy dobrowolne zobowiązania okażą się wystarczające, może stać się jednym z definiujących kwestii polityki technologicznej w nadchodzących latach.
