Acordul, denumit Angajamentul Comun privind Responsabilitățile Frontierelor, a fost anunțat în 29 septembrie în urma unei reuniuni a Casei Albe care a implicat președintele Donald Trump și directorii de vârf ai tehnologiei.
Documentul a fost semnat de directori care reprezintă Google , Meta
UOL Notícias +1
Spre deosebire de un regulament federal, acordul este voluntar. Administraţia a descris-o ca pe un angajament menit să stabilească garanţii mai puternice în interiorul întreprinderilor care dezvoltă modele de inteligenţă artificială tot mai capabile.
Dezvoltarea vine pe măsură ce guvernele, companiile tehnologice și cercetătorii continuă să dezbată modul în care dezvoltarea rapidă a AI ar trebui controlată fără a împiedica inovarea.
Ce au fost de acord companiile AI să facă
Acordul stabilește patru straturi largi de controale de siguranță.
Este de aşteptat ca întreprinderile participante să menţină sisteme interne care să monitorizeze capacităţile şi comportamentul modelelor lor AI atât în timpul formării, cât şi al implementării.
Aceste controale vizează identificarea riscurilor potențiale care implică domenii precum securitatea cibernetică, amenințările biologice și amenințările chimice.
Acordul solicită în mod specific garanții concepute pentru a împiedica accesul sau interferența modelelor AI cu sistemele tehnice în moduri neintenționate.
UOL Notícias
De asemenea, este de așteptat ca societățile să mențină echipe interne responsabile cu verificarea funcționării sistemelor de monitorizare și de detectare, așa cum se intenționează.
Un nivel separat de supraveghere ar veni din afara companiilor.
Evaluările independent AI fac parte din acord
Una dintre cele mai importante dispoziții solicită societăților participante să colaboreze cu auditori externi sau cu evaluatori.
Aceste evaluări independente ar examina dacă sistemele de monitorizare și control AI ale societăților funcționează conform planului.
Acordul solicită, de asemenea, societăților să instituie comitete independente ale consiliului de administrație care să primească informații atât de la echipele interne, cât și de la evaluatorii externi.
UOL Notícias +1
Se preconizează că societățile participante vor îndeplini în mod regulat standardele și cele mai bune practici pentru îmbunătățirea siguranței sistemelor lor.
Documentul recunoaște, de asemenea, că unele dintre aceste măsuri ar putea deveni în cele din urmă parte a actelor cu putere de lege sau a reglementărilor formale.
UOL Notícias
Deocamdată însă, angajamentele nu sunt norme federale obligatorii din punct de vedere juridic.
De ce contează acordul
Acordul ajunge într-un moment crucial pentru industria inteligenţei artificiale.
Sistemele AI sunt din ce în ce mai în mișcare dincolo de răspunsurile la întrebări și generarea de text, imagini sau cod de calculator.
Companiile dezvoltă agenţi AI capabili să efectueze secvenţe mai lungi de acţiuni, folosind instrumente software şi completând sarcini cu supraveghere umană mai puţin directă.
Această extindere a sporit atenția asupra modului în care companiile testează modele puternice înainte de a le elibera.
Noul acord încearcă să creeze un cadru comun între marii dezvoltatori AI, lăsând în același timp societățile individuale responsabile pentru implementarea multor controale.
Associated Press a raportat că acordul include garanții interne, evaluări externe independente și mecanisme de supraveghere în cadrul societăților participante.
AP News
Cele mai mari companii AI au fost în Washington
Adunarea Casei Albe a reunit multe dintre cele mai influente figuri din tehnologia globală.
Printre directorii care au participat s-au numărat liderii conectați la Meta, Nvidia, Antropic, OpenAI, Google, Microsoft, Amazon și X, potrivit rapoartelor evenimentului.
AP News +1
Participarea lor ilustrează cât de strâns se conectează politica AI cu cele mai mari companii tehnologice din Statele Unite.
Companiile implicate investesc foarte mult în modele AI, infrastructură de calcul, cipuri și centre de date.
În același timp, guvernele din întreaga lume încearcă să determine ce garanții ar trebui să se aplice pe măsură ce aceste sisteme devin mai capabile.
America.gov lansează, de asemenea,
Acordul privind siguranța AI nu a fost singurul anunț tehnologic major de la Washington.
Casa Albă a lansat, de asemenea, America.gov, o nouă poartă digitală destinată să ofere americanilor un singur loc pentru a accesa informații și servicii guvernamentale federale.
Potrivit Casei Albe, utilizatorii pot comunica cu serviciul folosind limba obișnuită și primi răspunsuri fără a fi nevoie să navigheze numeroase site-uri ale agențiilor federale individuale.
Casa Albă
Administraţia declară că platforma este concepută în cele din urmă pentru a permite oamenilor să încheie anumite tranzacţii guvernamentale direct atunci când sunt disponibile autorizaţia şi infrastructura tehnică.
Casa Albă spune, de asemenea, că protecția vieții private este destinată a fi încorporată în serviciu.
Casa Albă
Lansarea reprezintă un alt exemplu de IA generativă care trece de la aplicații experimentale la servicii publice utilizate de cetățenii obișnuiți.
Reglementarea AI rămâne o dezbatere majoră
Caracterul voluntar al acordului va rămâne probabil o parte importantă a dezbaterii mai ample privind reglementarea AI.
Susţinătorii standardelor din industrie au susţinut că inteligenţa artificială se dezvoltă atât de repede încât reglementarea rigidă s-ar putea lupta să ţină pasul cu progresele tehnologice.
Criticii sistemelor voluntare susțin că întreprinderile care dezvoltă modele AI puternice ar trebui să se confrunte mai degrabă cu standarde externe executorii decât să se bazeze în primul rând pe controale interne.
Noul acord include o evaluare independentă, dar societățile își păstrează responsabilitatea substanțială pentru punerea în aplicare a propriilor sisteme de siguranță.
Acordul însuși lasă deschisă posibilitatea ca principiile sale să poată fi încorporate în cele din urmă în legislație sau în reglementări formale.
UOL Notícias
Asta înseamnă că anunţul din 29 septembrie poate reprezenta mai degrabă un cadru timpuriu decât forma finală a supravegherii IA americane.
Europa urmează o altă cale
Statele Unite nu dezvoltă în mod izolat politica AI.
Europa a urmărit o abordare mai normativă prin intermediul normelor Uniunii Europene privind inteligența artificială și al legislației digitale mai largi.
Contrastul a creat o importantă întrebare politică internaţională: dacă AI avansată ar trebui să fie guvernată în primul rând prin legislaţie, angajamente industriale, audit independent sau o combinaţie între toate cele trei.
În cele din urmă, companiile tehnologice care operează la nivel global ar putea fi nevoite să respecte diferite sisteme de reglementare, în funcție de locul în care sunt oferite produsele lor.
Acest lucru face ca deciziile din Washington și Bruxelles să fie deosebit de importante pentru companiile care elaborează modele utilizate de sute de milioane de oameni.
Preocupările legate de siguranța AI cresc odată cu capacitatea
Acordul ajunge, de asemenea, ca mai multe companii de conducere AI discută public riscurile asociate cu sistemele din ce în ce mai capabile.
Dezvoltatorii testează modele de comportament care implică securitatea cibernetică, luarea de decizii autonome, informații biologice și capacitatea de a utiliza instrumente software externe.
Aceste capacități pot crea aplicații utile, dar ridică și întrebări cu privire la ceea ce se întâmplă atunci când sistemele se comportă diferit de ceea ce au intenționat dezvoltatorii.
Noul acord încearcă să abordeze această problemă, impunând mai multe niveluri de monitorizare decât bazându-se pe un singur proces de siguranță internă.
Evaluarea externă ar putea deveni deosebit de importantă deoarece întreprinderile eliberează agenți AI din ce în ce mai autonomi.
Ce se întâmplă în continuare?
Întrebarea imediată este modul în care societățile participante vor traduce acordul în garanții operaționale.
Documentul stabilește principii, dar eficacitatea acestor principii va depinde de punerea în aplicare, inclusiv de modul în care sunt selectați evaluatorii independenți, de standardele pe care le aplică și de modul în care întreprinderile răspund atunci când sunt descoperite riscurile.
O altă întrebare este transparenţa.
Publicul se poate aștepta din ce în ce mai mult ca întreprinderile să explice modul în care modelele avansate au fost evaluate înainte de lansare și ce garanții funcționează după implementare.
Deocamdată, acordul reprezintă un angajament coordonat semnificativ care implică mai multe companii care construiesc cele mai avansate sisteme de inteligenţă artificială din lume.
Dacă aceste garanții voluntare vor deveni în cele din urmă norme obligatorii va depinde de deciziile viitoare ale parlamentarilor, ale autorităților de reglementare și ale societăților în sine.
Ceea ce este deja clar este că siguranța AI a trecut de la o dezbatere tehnologică specializată la o întrebare centrală pentru guverne, întreprinderi și sute de milioane de oameni care folosesc zilnic inteligența artificială.