Unele dintre cele mai mari denumiri ale inteligenţei artificiale au fost de acord cu un nou cadru care vizează menţinerea sub control a sistemelor AI care avansează rapid, marcând un moment important în dezbaterea privind modul în care ar trebui guvernată tehnologia.
Preşedintele Donald Trump a anunţat în 29 septembrie că directorii companiilor IA au semnat un acord privind standardele de siguranţă şi supravegherea dezvoltării inteligenţei artificiale.
Companiile reprezentate au inclus [Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com), [OpenAI](https://openai.com/?utm source=chatgpt.com), [Anthropic](https://www.antropic.com/?utm source=chatgpt.com), [Nvidia](https://www.novidia.com/?utm source=chatgpt.com) și [xAI](https://x.ai/?utm source=chatgpt.com).
Acordul vine pe măsură ce industria AI se confruntă cu un control din ce în ce mai amplu asupra faptului că sistemele din ce în ce mai autonome pot fi dezvoltate în condiții de siguranță în timp ce companiile concurează pentru a elibera modele mai capabile.
Potrivit Associated Press, acordul voluntar include angajamente care implică controale interne puternice, evaluări independente și supraveghere la nivelul consiliului de administrație.
Dezvoltarea ar putea modela următoarea etapă a dezbaterii globale privind IA, în special pentru că Statele Unite au favorizat până în prezent o abordare orientată comparativ către inovare, în timp ce Europa s-a îndreptat către o reglementare mai extinsă.
Companiile AI sunt de acord să se auto-polueze
Ideea centrală care stă la baza acordului este aceea că societățile AI își vor asuma o responsabilitate mai mare pentru evaluarea riscurilor create de propriile sisteme.
Acordul solicită proceduri interne de siguranță, precum și evaluări externe menite să ofere un control suplimentar al modelelor AI din ce în ce mai puternice.
Trump a descris acordul ca fiind mai degrabă obligatoriu din punct de vedere moral decât un mandat de reglementare convențional.
Reuters a raportat că administraţia intenţionează, de asemenea, să înfiinţeze un comitet de 10 membri pentru a supraveghea evoluţiile din industria AI. Detalii despre comisie, inclusiv autoritatea sa potenţială şi calitatea de membru, nu au fost încă finalizate.
Preşedintele Casei Mike Johnson a confirmat separat că directorii industriei AI au semnat un acord privind standardele tehnologice în timpul reuniunii Casei Albe.
Pentru Silicon Valley, abordarea voluntară ar putea oferi o alternativă la o legislație federală mai restrictivă.
Cu toate acestea, pentru critici, întrebarea este dacă întreprinderile care dezvoltă tehnologia se pot reglementa în mod eficient în timp ce concurează simultan pentru clienți, investiții și lider tehnologic.
Google, Meta și alți lideri AI se alătură discuțiilor
Mai multe dintre cele mai influente figuri din tehnologie au participat la discuții.
Sundar Pichai și Mark Zuckerberg s-au numărat printre directorii implicați, în timp ce companiile din centrul boom-ului Al generativ au fost, de asemenea, reprezentate.
Acordul ajunge la un moment neobişnuit de sensibil pentru industrie.
Modelele AI devin capabile să îndeplinească sarcini din ce în ce mai complexe, cu o supraveghere umană mai puţin directă. Apariţia rapidă a agenţilor AI, sisteme capabile să efectueze secvenţe de acţiuni în loc să răspundă la întrebări, a intensificat preocupările legate de securitate şi control.
Cercetătorii din laboratoarele de conducere AI au avertizat public, de asemenea, cu privire la viteza de dezvoltare.
La 29 septembrie, Reuters a informat că cercetătorii actuali și foști de la OpenAI și Google DeepMind au stârnit îngrijorări cu privire la companiile care urmăresc sisteme capabile să își îmbunătățească propriile capacități, în timp ce măsurile de siguranță se luptă să țină pasul.
Aceste preocupări variază de la perturbări ale locurilor de muncă și amenințări la adresa securității cibernetice la scenarii mult mai severe care implică sisteme AI care se comportă în moduri în care dezvoltatorii lor nu au intenționat.
OpenAI a întrerupt un model pentru problemele legate de siguranţă
Un detaliu de la adunarea Casei Albe arată cât de serios tratează unele laboratoare problema.
OpenAI CEO Sam Altman a declarat compania sa a oprit lansarea unui model din cauza preocupărilor de siguranță, potrivit Associated Press.
Dezvăluirea are loc pe măsură ce societățile AI testează din ce în ce mai mult modele avansate înainte de implementarea publică pentru a determina dacă acestea ar putea fi utilizate în mod abuziv sau dacă s-ar putea comporta neașteptat.
În același timp, industria se confruntă cu presiuni comerciale enorme pentru a se mișca rapid.
OpenAI, Google, Antropic, Meta și alte companii cheltuie foarte mult pe infrastructura de calcul și concurează pentru a construi sisteme AI din ce în ce mai capabile.
Acest lucru creează un echilibru dificil între viteza tehnologică și siguranță.
Nvidia lansează tehnologia concepută pentru a opri agenţii AI necinstiţi
Noul acord urmează, de asemenea, unui anunţ major de securitate AI din Nvidia.
La 28 septembrie, Nvidia a introdus Platforma de siguranță a agentului deschis, un sistem de securitate menit să împiedice agenții AI autonomi să efectueze acțiuni neautorizate.
Platforma include tehnologie care verifică ceea ce un agent AI este permis să facă și o altă componentă capabilă de monitorizarea activității suspecte și de comportament potențial periculos.
Peste 100 de organizații folosesc deja tehnologia, potrivit Associated Press.
CEO-ul Nvidia Jensen Huang a susţinut că siguranţa AI poate fi abordată parţial ca o provocare tehnică, cu protecţii software mai puternice oferind limite în jurul sistemelor din ce în ce mai autonome.
Washingtonul cântăreşte o abordare diferită faţă de Europa
Dezbaterea evidențiază, de asemenea, o diferență tot mai mare între abordările americane și europene în materie de inteligență artificială.
Administraţia Trump a subliniat în mod repetat menţinerea conducerii tehnologice a SUA şi evitarea restricţiilor pe care le consideră ca ar putea încetini inovarea.
Planul de acţiune al Casei Albe descrie conducerea inteligenţei artificiale ca pe o prioritate a securităţii naţionale şi susţine că Statele Unite trebuie să rămână înaintea concurenţilor mondiali.
Autoritățile europene de reglementare au adoptat o abordare mai intervenționistă.
În aceeași zi cu întâlnirea Casei Albe AI, Google a contestat comenzile de reglementare ale Uniunii Europene care îi impuneau să ofere un acces mai mare la anumite servicii pentru dezvoltatorii AI și motoarele de căutare concurente.
Google susține că cerințele ar putea expune informații sensibile ale utilizatorilor, în timp ce Comisia Europeană susține că sunt incluse garanții corespunzătoare privind confidențialitatea.
Disputa demonstrează modul în care guvernele se luptă să echilibreze concurența, confidențialitatea, inovarea și securitatea, deoarece AI devine integrată în întreaga economie globală.
Următoarea bătălie asupra regulamentului AI
Acordul voluntar nu soluţionează problema mai amplă a necesităţii unei reglementări federale obligatorii privind AI.
În schimb, acesta stabilește un cadru sprijinit de industrie într-un moment în care parlamentarii, cercetătorii și companiile tehnologice dezbat cât de rapidă ar trebui să evolueze supravegherea guvernamentală.
Miza crește pe măsură ce AI trece dincolo de chatboti și în agenții autonomi capabili să interacționeze cu sistemele informatice, să scrie software, să efectueze cercetări și să efectueze sarcini digitale complicate.
Deocamdată, Washingtonul acordă industriei tehnologice o responsabilitate semnificativă pentru stabilirea unor garanții în jurul propriilor produse.
Dacă angajamentele voluntare se dovedesc suficiente poate deveni una dintre chestiunile de politică tehnologică definitorii din anii următori.