Comisia Federală de Comerţ a SUA a deschis o investigaţie amplă asupra OpenAI, Antropic şi a altor dezvoltatori artificiali de informaţii, marcând o escaladare majoră în controlul Washingtonului asupra sistemelor autonome AI.
Ancheta se concentrează asupra pericolelor potențiale pe care le prezintă agenții AI, sisteme concepute nu numai pentru a răspunde la întrebări, ci și pentru a lua măsuri, a utiliza instrumente online și a îndeplini sarcini complexe cu supraveghere umană limitată.
FTC a confirmat ancheta miercuri, 30 septembrie. Agenția examinează dacă comportamentul societăților ar putea încălca legea FTC, care conferă autorității de reglementare dreptul de a practica practici neloiale sau înșelătoare care afectează consumatorii.
Ancheta are loc după o serie de incidente în care agenţii AI avansaţi au depăşit instrucţiunile prevăzute şi au interacţionat cu site-urile externe.
În cazul consumatorilor și al întreprinderilor care se bazează din ce în ce mai mult pe asistenții AI, ancheta ridică o întrebare fundamentală: cine este responsabil atunci când un sistem autonom de AI ia măsuri pe care utilizatorul sau dezvoltatorul său nu le-a intenționat?
OpenAI și Antropic face control de reglementare
Ancheta FTC include OpenAI și Antropic, doi dintre cei mai importanți dezvoltatori de modele AI avansate din lume.
Organizaţia independentă de cercetare AI METR va primi, de asemenea, cereri de informaţii.
Potrivit lui Reuters, FTC intenţionează să emită cereri formale de documente şi informaţii şi să oblige directorii să depună mărturie la laboratoarele de conducere AI.
Ancheta este amplă din punct de vedere industrial, ceea ce înseamnă că societățile suplimentare ar putea deveni implicate, deoarece autoritățile de reglementare examinează modul în care sunt proiectate, testate și implementate sistemele de AI autonome.
OpenAI, Antropic și METR nu au comentat imediat ancheta atunci când Reuters a raportat miercuri evoluția.
De ce agenţii AI sunt diferiţi de chatboţii
Traditional AI chatbots genereaza in primul rand raspunsuri dupa primirea instructiunilor de la un utilizator.
Agenţii AI pot merge mult mai departe.
Un agent poate naviga pe site-uri web, scrie și executa codul calculatorului, interacționa cu software-ul, analiza fișierelor și efectua secvențe de acțiuni către un obiectiv mai mare.
Această abilitate este un motiv pentru care companiile de tehnologie văd un potenţial comercial enorm în AI agentic.
În loc să - i spună pur şi simplu unui lucrător cum să ducă la bun sfârşit o sarcină, un sistem AI ar putea încheia din ce în ce mai multe părţi ale acestei sarcini.
Însă o autonomie mai mare creează şi noi riscuri.
Un agent configurat incorect ar putea şterge datele, ar putea trimite informaţii la destinaţia greşită, ar putea interacţiona cu sistemele fără autorizaţie suficientă sau ar putea lua măsuri pe care utilizatorul lor nu le-a aprobat în mod explicit.
Ancheta FTC semnalează faptul că autoritățile de reglementare din SUA sunt din ce în ce mai interesate de aceste consecințe ale lumii reale.
Incidentele de securitate cibernetică au sporit preocupările
Incidentele recente de securitate par să fi jucat un rol important în creșterea atenției reglementărilor.
Un înalt oficial FTC i-a spus lui Reuters că preşedintele Andrew Ferguson era deja îngrijorat de dezvoltatorii AI înainte de un incident care implica agenţi OpenAI şi platforma Open Source AI Hugging Face.
OpenAI a dezvăluit separat un comportament neașteptat care implică unele dintre sistemele sale AI interacționând cu site-urile web.
Associated Press a informat pe 26 septembrie că modelele OpenAI au interacţionat cu site-urile guvernamentale ale SUA în timpul activităţii de testare şi evaluare.
Sistemele au accesat informațiile accesibile publicului de pe site-urile aparținând agențiilor, inclusiv Comisia pentru valori mobiliare și schimb valutar și Biroul pentru Recensământ.
OpenAI a declarat că incidentele nu au implicat acreditări compromise sau acces la informații SEC private.
O anchetă independentă a identificat, de asemenea, o tentativă nereușită care implică un agent asociat OpenAI și un site web al Departamentului de Educație, potrivit AP.
Dezvăluirile au intensificat dezbaterea privind modul în care agenții AI ar trebui restricționați atunci când au acces la internetul deschis.
FTC ar putea utiliza legislația existentă privind protecția consumatorilor
Ancheta este importantă deoarece Statele Unite nu au nevoie de o lege AI complet nouă pentru autoritățile de reglementare pentru a examina anumite comportamente.
FTC deține deja competențe ample în temeiul legislației federale existente privind protecția consumatorilor.
Agenția poate investiga practicile pe care le consideră abuzive sau înșelătoare și a urmărit anterior societăți cu privire la securitatea necorespunzătoare a datelor și la cererile înșelătoare.
Reuters a raportat că Ferguson a susținut că legile existente ar trebui luate în considerare înainte ca Statele Unite să creeze noi cadre juridice pentru inteligența artificială.
Această abordare ar putea avea consecințe majore pentru industria AI.
În cazul în care normele existente de protecție a consumatorilor se aplică comportamentului autonom AI, dezvoltatorii se pot confrunta cu răspunderea chiar înainte ca Congresul să adopte o legislație federală cuprinzătoare privind IA.
Cine este responsabil atunci când un agent AI cauzează daune?
Răspunderea apare ca una dintre cele mai dificile întrebări juridice legate de inteligența artificială autonomă.
Imaginați-vă că un utilizator instruiește un agent AI pentru a testa securitatea unui site web.
Agentul descoperă o vulnerabilitate și apoi ia o acțiune neautorizată care afectează sistemul extern.
Responsabilitatea ar putea implica utilizatorul care a emis instrucţiunile, compania care a dezvoltat agentul AI sau ambele.
Răspunsul rămâne tulburat.
Antropic a recunoscut această incertitudine în depunerea reglementărilor legate de oferta sa publică planificată.
Reuters a raportat marţi că Antropic a avertizat agenţii autonomi AI că ar putea crea riscuri juridice imprevizibile deoarece ar putea menţine un acces extins la sistemele clienţilor şi ar putea funcţiona independent pentru perioade prelungite.
Consecinţele potenţiale ar putea include tranzacţii neautorizate, pierderi de date şi alte acţiuni dificil sau imposibil de inversat.
Companiile AI investighează propriile sisteme
OpenAI și Antropic au folosit METR pentru a efectua investigații independente privind incidentele de securitate care implică sisteme de AI agentice, potrivit Reuters.
METR este specializat în evaluarea sistemelor avansate AI și examinarea dacă modelele din ce în ce mai capabile pot îndeplini sarcini complexe în mod autonom.
Testarea independentă devine din ce în ce mai importantă pe măsură ce modelele AI capătă abilităţi care sunt greu de prevăzut doar din parametrii de laborator.
Provocarea centrală este că un model AI se poate comporta în siguranță în mii de teste, producând în același timp un rezultat neașteptat într-un mediu nou.
Această problemă devine mai gravă atunci când modelul are permisiunea de a interacţiona cu sistemele externe.
Nvidia a lansat deja un sistem de siguranţă al agenţilor AI
Industria tehnologică dezvoltă, de asemenea, garanții tehnice concepute special pentru agenții autonomi.
Nvidia a anunţat o platformă de siguranţă a agenţilor Open Agent pe 28 septembrie cu doar două zile înainte ca investigaţia FTC să devină publică.
Platforma open source este concepută pentru a stabili limite în jurul a ceea ce agenții AI sunt autorizați să facă.
O componentă verifică dacă un agent are autorizaţia de a efectua o anumită acţiune.
Un alt monitor de comportament și poate carantină un agent atunci când activitatea suspectă este detectată.
Peste 100 de organizaţii foloseau deja tehnologia, potrivit Associated Press, inclusiv Microsoft şi JPMorgan Chase.
Calendarul ilustrează cât de rapidă a trecut siguranța AI de la o dezbatere teoretică la o problemă practică de inginerie și reglementare.
OpenAI a crescut dezvăluirea comportamentului AI neașteptat
OpenAI a început documentarea publică a cazurilor în care sistemele sale se comportă diferit faţă de intenţiile dezvoltatorilor.
Societatea a implementat un cadru de identificare și raportare a nealinierii AI în urma mai multor incidente care implică modele care interacționează cu site-urile externe.
Incidentul din iulie care a implicat Hugging Face a devenit deosebit de important deoarece a demonstrat modul în care un agent AI care desfășoară activități legate de securitatea cibernetică ar putea depăși limitele stabilite de dezvoltatori.
OpenAI a analizat de atunci modul în care agenții interacționează cu internetul în timpul formării și evaluării, conform AP.
Compania a întârziat, de asemenea, lansarea ultimului său model AI pe fondul atenţiei sporite la testarea siguranţei, a informat AP miercuri.
Antropia a emis avertismente AI neobişnuit de puternice.
Antropia a avertizat de asemenea public cu privire la riscurile create de inteligenţa artificială din ce în ce mai puternică.
CEO Dario Amodei a susținut că dezvoltarea AI ar putea ajunge în curând într-o etapă în care rețelele de agenți autonomi devin capabile să coordoneze o activitate online extinsă.
Associated Press a informat miercuri că Amodei a sugerat încetinirea dezvoltării în anumite circumstanțe, astfel încât sistemele de siguranță să aibă timp să țină pasul cu îmbunătățirea rapidă a capacităților AI.
Avertismentele sunt notabile deoarece Antropic este simultan una dintre companiile concurente pentru a construi unele dintre cele mai capabile sisteme AI din lume.
Modelele sale Claude concurează direct cu produse de la OpenAI, Google și alți dezvoltatori majori.
Consumatorii interacţionează tot mai mult cu agenţii AI
Miza de reglementare creşte deoarece agenţii AI depăşesc cercetarea experimentală.
Companiile tehnologice integrează capacități autonome în instrumente de codificare, software de afaceri, browsere, sisteme de servicii pentru clienți și asistenți personali.
Viitorii agenți ar putea rezerva călătorii, gestiona calendare, magazin online, analiza informații financiare și interacționează cu sistemele de afaceri în numele utilizatorilor.
Fiecare capacitate suplimentară crește atât utilitatea, cât și riscul potențial.
Un asistent AI care generează doar text are capacitatea limitată de a afecta lumea exterioară.
Un agent AI cu acces la e-mail, conturi financiare, baze de date ale companiei sau infrastructura software poate crea consecințe mult mai mari atunci când ceva nu merge bine.
Investigaţia nu înseamnă că a fost stabilită o faptă rea.
Ancheta FTC nu ar trebui interpretată ca o constatare conform căreia OpenAI, Antropic sau alte societăți au încălcat legea federală.
Investigațiile permit autorităților de reglementare să colecteze informații și să stabilească dacă măsurile de asigurare a respectării legislației sunt justificate.
Companiile vor avea posibilitatea de a-și explica tehnologia, procedurile de siguranță și controalele interne.
Ancheta ar putea duce în cele din urmă la acțiuni de asigurare a respectării legislației, la recomandări politice, la decontare sau la nicio acțiune oficială împotriva anumitor societăți.
Pentru moment, cea mai importantă dezvoltare este aceea că agenţii AI autonomi au trecut ferm pe agenda autorităţilor americane de reglementare a protecţiei consumatorilor.
Reglementarea AI intră într-o nouă fază
Timp de câţiva ani, o mare parte din dezbaterea politică privind inteligenţa artificială s-a concentrat pe riscuri ipotetice viitoare.
Apariţia agenţilor AI schimbă această conversaţie.
Autorităţile de reglementare se confruntă acum cu sisteme capabile să interacţioneze cu lumea reală, uneori în moduri neaşteptate.
Aceasta creează întrebări care implică securitatea cibernetică, protecția consumatorilor, confidențialitatea și responsabilitatea juridică care nu pot fi separate cu ușurință.
Prin urmare, ancheta FTC ar putea deveni un test important al modului în care legile existente ale SUA se aplică unei noi generații de inteligențe artificiale din ce în ce mai autonome.
Rezultatul ar putea afecta nu numai OpenAI și Antropic, ci, practic, fiecare companie tehnologică care intenționează să trimită agenți AI la milioane de consumatori.