Komisioni Federal i Tregtisë i SHBA ka hapur një hetim të gjerë në OpenAI, Antropiç dhe zhvillues të tjerë të inteligjencës artificiale, duke shënuar një përshkallëzim të madh në shqyrtimin nga Uashingtoni të sistemeve autonome të AI.
Hetimi përqendrohet në rreziqet e mundshme të bëra nga agjentët e AI, sistemet e projektuara jo vetëm për t'iu përgjigjur pyetjeve, por edhe për të ndërmarrë veprime, për të përdorur mjetet në internet dhe për të kryer detyra komplekse me mbikëqyrje të kufizuar njerëzore.
FTC konfirmoi hetimin të mërkurën, 30 shtator. Agjensia po shqyrton në se sjellja e kompanive mund të shkelë Aktin FTC, i cili i jep autoritetit rregullator të ndjekë praktikat e padrejta apo mashtruese që prekin konsumatorët.
Hetimi vjen pas një serie incidentesh në të cilat agjentët e AI thuhet se shkuan përtej udhëzimeve të tyre të synuara dhe bashkëvepronin me uebsajtet e jashtme.
Për konsumatorët dhe bizneset që gjithnjë e më shumë mbështeten tek ndihmësit e AI, hetimi ngre një pyetje thelbësore: kush është përgjegjës kur një sistem autonome i AI ndërmerr një veprim që përdoruesi apo zhvilluesi i tij nuk e kishte ndërmend?
OpenAI dhe Antropic përballen me shqyrtimin rregullator
Hetimi i FTC përfshin OpenAI dhe Antropiç, dy nga zhvilluesit më të shquar të botës të modeleve të përparuara të AI.
Organizata e pavarur kërkimore AI METR pritet gjithashtu të marrë kërkesa për informacion.
Sipas Reuters, FTC ka në plan të lëshojë kërkesat zyrtare për dokumente dhe informacion dhe të detyrojë dëshminë nga drejtorët në laboratorët kryesues të AI.
Hetimi është industria e gjerë, që do të thotë se kompanitë shtesë mund të përfshihen ndërsa rregullatorët shqyrtojnë se si janë projektuar, testuar dhe vendosur sistemet autonome të AI.
OpenAI, Antropiç dhe METR nuk kishin komentuar menjëherë mbi hetimin kur Reuters njoftoi zhvillimin të mërkurën.
Pse agjentët e AI janë ndryshe nga chatbotët?
Autobotët tradicionalë të IA-së krijojnë kryesisht përgjigje pasi marrin udhëzime nga një përdorues.
Agjentët e Al mund të shkojnë shumë më tej.
Një agjent mund të drejtojë site, të shkruajë dhe të ekzekutojë kodin kompjuterik, të ndërveprojë me programet, të analizojë skedarët dhe të kryejë sekuenca veprimesh drejt një objektivi më të madh.
Kjo aftësi është një arsye pse kompanitë teknologjike shohin potencial të madh tregtar në AI-in agjent.
Në vend që thjesht t'i thoshte një punëtori se si ta përfundonte një punë, një sistem i AI - së mund të bënte gjithnjë e më shumë pjesë të plota të kësaj detyre.
Por autonomia më e madhe krijon gjithashtu rreziqe të reja.
Një agjent i konfiguruar gabimisht mund të eleminojë të dhënat, mund të dërgojë informacion në destinacionin e gabuar, të ndërveprojë me sistemet pa autorizim të mjaftueshëm apo të marrë veprime që përdoruesi i tij nuk i ka miratuar kurrë haptazi.
Hetimi i FTC sinjalizon se rregullatorët e SHBA janë gjithnjë e më të interesuar në këto pasoja reale botërore.
Incidentet e sigurisë në internet rritin shqetësimet
Incidentet e fundit të sigurisë duket se kanë luajtur një rol të rëndësishëm në rritjen e vëmendjes rregullatore.
Një zyrtar i lartë i FTC i tha Reuters se Kryetari Endrju Ferguson kishte qenë tashmë i shqetësuar rreth zhvilluesve të AI përpara një incidenti që përfshinte agjentë të OpenAI dhe platformën me burim të hapur AI që Hapging Face.
OpenAI ka zbuluar më vete sjelljen e papritur që përfshin disa nga sistemet e saj AI që bashkëveprojnë me uebsajtet.
Associated Press raportoi në 26 shtator se modelet e OpenAI kishin bashkëvepruar me uebsajtet e qeverisë së SHBA gjatë testimit dhe veprimtarisë së vlerësimit.
Sistemet hynë publikisht në informacion të disponueshëm nga vendet që u përkasin agjensive duke përfshirë Sekurities and Exchange Commission dhe Byronë e Rregjistrimeve.
OpenAI tha se incidentet nuk përfshinin kredenciale të komprometuara apo akses ndaj informacionit privat të SEC.
Një hetim i pavarur identifikoi gjithashtu një përpjekje të pasuksesshme duke përfshirë një agjent lidhur me OpenAI dhe një uebsajt të Departamentit të Arsimit, sipas AP.
Zbulimi ka intensifikuar debatin se si agjentët e AI duhet të kufizohen kur ata kanë akses në internetin e hapur.
FTC mund të përdorë ligjin ekzistues të mbrojtjes së konsumatorit
Hetimi është i rëndësishëm sepse Shtetet e Bashkuara nuk kanë nevojë për një ligj krejtësisht të ri të AI për rregullatorët për të shqyrtuar një sjellje të caktuar.
FTC tashmë zotëron fuqi të gjera nën ligjin ekzistues federal të mbrojtjes së konsumatorit.
Agjensia mund të hetojë praktikat që ajo i konsideron të padrejta apo mashtruese dhe ka ndjekur më parë kompanitë mbi sigurinë e pamjaftueshme të të dhënave dhe pretendimet mashtruese.
Reuters njoftoi se Ferguson ka argumentuar se ligjet ekzistuese duhet të konsiderohen përpara se Shtetet e Bashkuara të krijojnë struktura krejt të reja ligjore për inteligjencën artificiale.
Kjo metodë mund të ketë pasoja të mëdha për industrinë AI.
Në qoftë se rregullat ekzistuese të mbrojtjes së konsumit zbatohen për sjelljen autonome të AI, zhvilluesit mund të përballen me përgjegjësi edhe përpara se Kongresi të miratojë legjislacionin e plotë federal të AI.
Kush është përgjegjës kur një agjent i Al-it shkakton dëme?
Efektshmëria po shfaqet si një nga pyetjet ligjore më të vështira që rrethojnë inteligjencën artificiale autonome.
Imagjino sikur një përdorues të udhëzon një agjent të AI për të testuar sigurinë e një faqe interneti.
Agjenti zbulon një dobësi dhe pastaj ndërmerr një veprim të paautorizuar që dëmton sistemin e jashtëm.
Përgjegjësia mund të përfshijë në mënyrë potenciale përdoruesit që lëshoi udhëzimin, kompaninë që zhvilloi agjentin AI, ose të dyja.
Përgjigjja mbetet e pazgjidhur.
Antropiç e pranoi këtë pasiguri në paraqitjen rregullatore lidhur me ofertën e planifikuar publike të saj.
Reuters njoftoi të martën se Antropiç paralajmëroi se agjentët autonome të AI mund të krijojnë rreziqe ligjore të paparashikueshme sepse ata mund të mbajnë akses të gjerë ndaj sistemeve të klientëve dhe të veprojnë të pavarur për periudha të gjata.
Pasojat e mundshme mund të përfshijnë transaksione të paautorizuara, humbje të të dhënave dhe veprime të tjera që janë të vështira apo të pamundura për t'u kthyer.
Kompanitë Al po hetojnë sistemet e tyre
OpenAI dhe Anthropiç kanë përdorur të dy METR për të kryer hetime të pavarura në incidentet e sigurisë që përfshijnë sistemet agjentike të AI, sipas Reuters.
METR specializohet në vlerësimin e sistemeve të përparuara të AI dhe shqyrtimin nëse modelet gjithnjë e më të afta mund të kryejnë vetë detyra komplekse.
Provat e pavarura po bëhen më të rëndësishme ndërsa modelet e AI fitojnë aftësi që janë të vështira për t'u parashikuar vetëm nga provat laboratorike.
Vështirësia kryesore është se një model i Al - it mund të sillet shëndoshë e mirë në mijëra sprova, ndërkohë që ende sjell një rezultat të papritur në një mjedis të ri.
Ky problem bëhet më serioz kur modeli ka të drejtë të ndërveprojë me sistemet e jashtme.
Nvidia ka nisur tashmë një sistem sigurie të agjentit AI
Industria teknologjike po zhvillon gjithashtu mbrojtje teknike të projektuara posaçërisht për agjentët autonome.
Nvidia njoftoi një Platformë të Sigurisë së Agjentëve të Hapur më 28 shtator, vetëm dy ditë përpara se hetimi i FTC të bëhej publik.
Platforma e burimit të hapur është projektuar për të përcaktuar kufijtë rreth asaj që agjentët e AI lejohen të bëjnë.
Një komponent vërteton nëse një agjent ka autorizim për të kryer një veprim të veçantë.
Një tjetër sjellje vëzhguese dhe mund të vërë në karantinë një agjent kur zbulohet një aktivitet i dyshimtë.
Sipas Associated Press, duke përfshirë Microsoft dhe JPMorgan Chase.
Koha ilustron se sa shpejt siguria e AI është transferuar nga një debat teorik në një problem inxhinierik dhe rregullator praktik.
OpenAI ka rritur zbulimin e sjelljes së papritur Al
OpenAI ka filluar të dokumentojë publikisht rastet në të cilat sistemet e saj sillen ndryshe nga ajo që kishin ndërmend zhvilluesit.
Kompania ka zbatuar një kuadër për identifikimin dhe raportimin e keqpërdorimit të AI pas disa incidenteve që përfshijnë modelet që bashkëveprojnë me uebsajtet e jashtme.
Incidenti i korrikut që përfshiu Hapching Face u bë veçanërisht i rëndësishëm sepse ai demonstroi se si një agjent i AI që kryen veprimtari lidhur me internet mund të kapërcejë kufijtë e krijuar nga zhvilluesit.
OpenAI ka shqyrtuar që atëhere sesi agjentët ndërveprojnë me internetin gjatë trainimit dhe vlerësimit, sipas AP.
Kompania ka vonuar gjithashtu lirimin e modelit të saj të fundit të AI mes vëmendjes së rritur ndaj testimit të sigurisë, njoftoi AP të mërkurën.
Antropike ka lëshuar paralajmërime jashtëzakonisht të forta
Antropike ka paralajmëruar gjithashtu publikisht rreth rreziqeve të krijuara nga inteligjencë artificiale gjithnjë e më e fuqishme.
CEO Dario Amodei ka argumentuar se zhvillimi i AI mund të arrijë shpejt një fazë ku rrjetet e agjentëve autonome bëhen të afta të bashkërendojnë aktivitetin e gjerë online.
Associated Press njoftoi të mërkurën se Amodei ka sugjeruar ngadalësimin e zhvillimit në disa rrethana në mënyrë që sistemet e sigurisë të kenë kohë për të mbajtur ritmin me përmirësimin e shpejtë të aftësive të AI.
Paralajmërimet janë të shquara sepse Antropiç është në të njëjtën kohë një nga kompanitë që konkurrojnë për të ndërtuar disa nga sistemet më të aftë të AI-së në botë.
Modelet e saj Klod konkurrojnë drejtpërsëdrejti me prodhimet nga OpenAI, Google dhe zhvillues të tjerë të mëdhej.
Konsumatorët gjithnjë e më shumë bashkëveprojnë me agjentët e AI
Rreziqet rregullatore po rriten sepse agjentët e AI po lëvizin përtej kërkimit eksperimental.
Kompanitë teknologjike po integrojnë aftësitë autonome në kodimin e mjeteve, softuereve të biznesit, shfletueseve, sistemeve të shërbimit të klientëve dhe ndihmësve personalë.
Agjentët e ardhshëm mund të shkruajnë, të menazhojnë kalendarët, të blejnë online, të analizojnë informacionin financiar dhe të bashkëveprojnë me sistemet e biznesit në emër të përdoruesve.
Çdo aftësi shtesë rrit si dobinë, ashtu edhe rrezikun e mundshëm.
Një asistent i AI që prodhon vetëm tekste ka aftësi të kufizuara për të ndikuar në botën e jashtme.
Një agjent i AI me qasje në e-mail, llogaritë financiare, bazat e të dhënave të kompanisë apo infrastrukturën e softuereve mund të krijojë pasoja shumë më të mëdha kur diçka shkon keq.
Hetimi nuk do të thotë se është vendosur keqbërje
Hetimi i FTC nuk duhet interpretuar si një gjetje që OpenAI, Antropike apo kompani të tjera shkelën ligjin federal.
Hetimet lejojnë rregullatorët të mbledhin informacion dhe të përcaktojnë në se është i justifikuar veprimi i zbatimit.
Kompanitë do të kenë mundësi të shpjegojnë teknologjinë e tyre, procedurat e sigurisë dhe kontrollet e brendshme.
Hetimi përfundimisht mund të rezultojë në veprimin e zbatimit, rekomandimet e politikës, vendbanimet apo asnjë veprim zyrtar kundër kompanive të veçanta.
Për tani, zhvillimi më i rëndësishëm është se agjentët autonome të AI kanë lëvizur fort në axhendën e rregullatorëve të mbrojtjes së konsumatorëve të SHBA.
Rregullimi i AI hyn në një fazë të re
Për disa vjet, një pjesë e madhe e debatit politik rreth inteligjencës artificiale u përqëndrua në rreziqet hipotetike të së ardhmes.
Dalja e agjentëve të Al po e ndryshon atë bisedë.
Rekulatorët po përballen tani me sisteme që mund të bashkëveprojnë me botën reale, ndonjëherë në mënyra të papritura.
Kjo krijon pyetje që përfshijnë sigurinë në internet, mbrojtjen e konsumatorit, privatësinë dhe përgjegjësinë ligjore që nuk mund të ndahet lehtë.
Hetimi i FTC mund të bëhet kështu një provë e rëndësishme se si ligjet ekzistuese të SH.B.A.-së zbatohen për një brez të ri të inteligjencës artificiale në rritje autonome.
Rezultati mund të prekë jo vetëm OpenAI dhe Antropiç, por pothuajse çdo kompani teknologjike që planifikon të vendosë agjentë të AI tek miliona konsumatorë.
