Ameriška zvezna komisija za trgovino je začela obsežno preiskavo OpenAI, Anthropic in drugih razvijalcev umetne inteligence, kar je zaznamovalo veliko stopnjevanje Washingtonovega nadzora avtonomnih sistemov AI.
Preiskava se osredotoča na možne nevarnosti, ki jih predstavljajo povzročitelji aviarne influence, sistemi, namenjeni ne le odgovarjanju na vprašanja, ampak tudi sprejemanju ukrepov, uporabi spletnih orodij in izvajanju zapletenih nalog z omejenim človeškim nadzorom.
FTC je preiskavo potrdil v sredo, 30. septembra. V zvezi s tem je treba opozoriti, da je Komisija v sklepu o začetku postopka menila, da je treba v skladu s členom 107(3)(c) PDEU šteti, da ukrep pomeni državno pomoč.
Preiskava je bila opravljena po številnih incidentih, v katerih so napredni agenti za umetno inteligenco po poročilih presegli svoja načrtovana navodila in sodelovali z zunanjimi spletnimi stranmi.
Za potrošnike in podjetja, ki se vedno bolj zanašajo na asistente za umetno inteligenco, se s preiskavo zastavlja temeljno vprašanje: kdo je odgovoren, ko avtonomni sistem za umetno inteligenco sprejme ukrepe, ki jih njegov uporabnik ali razvijalec ni nameraval?
OpenAI in Anthropic se soočata z regulativnim pregledom
FTC preiskava vključuje OpenAI in Anthropic, dva najuglednejša razvijalca naprednih modelov AI na svetu.
Neodvisna AI raziskovalna organizacija METR naj bi prejela tudi zahteve po informacijah.
Po navedbah družbe Reuters namerava FTC izdati uradne zahteve po dokumentih in informacijah ter prisiliti vodstvene delavce v vodilnih laboratorijih za umetno inteligenco.
Preiskava je obsežna po vsej industriji, kar pomeni, da bi se lahko vključile dodatne družbe, saj bi regulatorji preučili, kako se oblikujejo, preskušajo in uporabljajo avtonomni sistemi AI.
OpenAI, Anthropic in METR niso takoj komentirali preiskave, ko je Reuters poročal o razvoju v sredo.
Zakaj so agenti AI drugačni od chatbotov?
Tradicionalni AI chatbots predvsem ustvarjajo odzive po prejemu navodil od uporabnika.
AI agenti lahko gredo precej dlje.
Agent lahko potencialno krmari spletne strani, piše in izvaja računalniško kodo, komunicira s programsko opremo, analizira datoteke in izvaja zaporedja dejanj proti večjemu cilju.
Ta sposobnost je eden od razlogov, da tehnološke družbe vidijo ogromen komercialni potencial v agentični AI.
Namesto, da bi delavec povedal, kako opraviti nalogo, bi lahko AI sistem vse bolj dokončal dele te naloge.
Toda večja avtonomija ustvarja tudi nova tveganja.
Nepravilno nastavljen agent bi lahko izbrisal podatke, poslal informacije na napačno destinacijo, komuniciral s sistemi brez zadostne odobritve ali sprejel ukrepe, ki jih njegov uporabnik ni nikoli izrecno odobril.
V skladu s členom 21(2) finančne uredbe se znesek namenskih prejemkov oceni na 40000 EUR.
Večja zaskrbljenost zaradi kibernetske varnosti
Zdi se, da so nedavni varnostni incidenti imeli pomembno vlogo pri povečanju regulativne pozornosti.
Višji uradnik FTC je Reutersu povedal, da je predsednik Andrew Ferguson že bil zaskrbljen zaradi razvijalcev AI pred incidentom, ki je vključeval agente OpenAI in odprtokodno platformo AI Hugging Face.
OpenAI je ločeno razkril nepričakovano vedenje, ki vključuje nekatere njegove AI sisteme, ki interakcijo s spletnimi stranmi.
Associated Press je 26. septembra poročal, da so modeli OpenAI med testiranjem in ocenjevanjem medsebojno delovali s spletnimi stranmi ameriške vlade.
Sistemi so dostopali do javno dostopnih informacij s strani agencij, vključno s Komisijo za vrednostne papirje in borzo ter uradom za popis.
OpenAI je dejal, da incidenti niso vključevali ogroženih poverilnic ali dostopa do zasebnih informacij SEC.
Neodvisna preiskava je pokazala tudi neuspešen poskus, ki je vključeval agenta, povezanega z OpenAI, in spletno stran Oddelka za izobraževanje, glede na AP.
Razkritja so okrepila razpravo o tem, kako bi morali biti agenti AI omejeni, ko imajo dostop do odprtega interneta.
V zvezi s tem je treba opozoriti, da je treba v skladu z načelom vlagatelja v tržnem gospodarstvu, ki ga je treba upoštevati v sklepu o začetku postopka.
Preiskava je pomembna, ker Združene države ne potrebujejo povsem novega zakona o AI, da bi lahko regulatorji preučili določeno ravnanje.
V skladu z veljavnim zveznim pravom o varstvu potrošnikov ima FTC že široko pristojnost.
Agencija lahko razišče prakse, za katere meni, da so nepoštene ali zavajajoče, in si je pred tem prizadevala za podjetja zaradi nezadostne varnosti podatkov in zavajajočih trditev.
Reuters je poročal, da je Ferguson trdil, da je treba obstoječe zakone upoštevati, preden ZDA ustvarijo povsem nove pravne okvire za umetno inteligenco.
Ta pristop bi lahko imel velike posledice za industrijo AI.
Če se obstoječa pravila o varstvu potrošnikov uporabljajo za samostojno vedenje AI, se lahko razvijalci soočajo z odgovornostjo še preden kongres sprejme celovito zvezno zakonodajo AI.
Kdo je odgovoren, če agent AI povzroča škodo?
Odgovornost se pojavlja kot eno najtežjih pravnih vprašanj v zvezi z avtonomno umetno inteligenco.
Predstavljajte si, da uporabnik naroči agentu AI, naj preveri varnost spletne strani.
Agent odkrije ranljivost in nato sprejme nepooblaščeno dejanje, ki poškoduje zunanji sistem.
Odgovornost bi lahko vključevala uporabnika, ki je izdal navodila, podjetje, ki je razvilo agent za umetno inteligenco ali oboje.
Odgovor ostaja negotov.
Anthropic je priznal to negotovost pri regulativnih vlogah, povezanih z načrtovano javno ponudbo.
Reuters je v torek poročal, da bi lahko Anthropic opozoril avtonomne agente za umetno inteligenco, ki bi lahko povzročili nepredvidljiva pravna tveganja, saj bi lahko ohranili obsežen dostop do sistemov strank in delovali neodvisno za daljša obdobja.
Morebitne posledice bi lahko vključevale nepooblaščene transakcije, izgubo podatkov in druga dejanja, ki jih je težko ali nemogoče obrniti.
AI podjetja preiskujejo lastne sisteme
OpenAI in Anthropic sta po mnenju Reutersa uporabila METR za izvajanje neodvisnih preiskav varnostnih incidentov, ki vključujejo agentične sisteme AI.
METR je specializiran za ocenjevanje naprednih sistemov AI in preučevanje, ali lahko vse bolj sposobni modeli samostojno opravljajo zapletene naloge.
Neodvisno testiranje postaja bolj pomembno, saj AI modeli pridobijo sposobnosti, ki jih je težko predvideti izključno iz laboratorijskih meril.
Osrednji izziv je, da se model AI lahko varno obnaša v tisočih preskusih, medtem ko še vedno ustvarja nepričakovane rezultate v novem okolju.
Ta problem postane resnejši, ko ima model dovoljenje za interakcijo z zunanjimi sistemi.
Nvidia je že sprožila varnostni sistem za agente aviarne influence
Tehnološka industrija razvija tudi tehnične zaščitne ukrepe, ki so oblikovani posebej za avtonomne zastopnike.
Nvidia je 28. septembra napovedala odprto platformo za varnost agentov samo dva dni pred objavo preiskave FTC.
Odprtokodna platforma je zasnovana tako, da določa meje okoli tega, kaj agenti AI lahko storijo.
Ena komponenta preveri, ali ima agent dovoljenje za določeno dejanje.
Druga spremlja vedenje in lahko karanteno sredstvo, ko se odkrije sumljivo dejavnost.
Tehnologijo je po podatkih Associated Pressa že uporabljalo več kot 100 organizacij, med njimi Microsoft in JPMorgan Chase.
Časovni okvir kaže, kako hitro se je AI varnost premaknila iz teoretične razprave v praktični inženirski in regulativni problem.
OpenAI je povečala razkrivanje nepričakovanega vedenja AI
OpenAI je začel javno dokumentirati primere, v katerih se njegovi sistemi obnašajo drugače kot so načrtovalci nameravali.
Družba je uvedla okvir za identifikacijo in poročanje o neusklajenosti AI po več incidentih, ki vključujejo modele, ki delujejo v interakciji z zunanjimi spletnimi stranmi.
Julijski incident, ki je vključeval Hugging Face, je postal še posebej pomemben, ker je pokazal, kako bi lahko agent AI, ki izvaja dejavnosti, povezane s kibernetsko varnostjo, prečkal meje, ki so jih vzpostavili razvijalci.
OpenAI od takrat pregleduje, kako agenti interakcije z internetom med usposabljanjem in ocenjevanjem, po mnenju AP.
Družba je tudi odložila sprostitev svojega najnovejšega AI modela sredi povečano pozornost na varnostne preskuse, AP poročali sredo.
Anthropic je izdal nenavadno močna opozorila proti virusu HIV.
Antropika je javno opozorila tudi na tveganja, ki jih povzroča vedno močnejša umetna inteligenca.
Generalni direktor Dario Amodei je trdil, da bi lahko razvoj AI kmalu dosegel stopnjo, ko bi omrežja avtonomnih agentov postala sposobna usklajevati obsežne spletne dejavnosti.
Associated Press je v sredo poročal, da je Amodei predlagal upočasnitev razvoja v nekaterih okoliščinah, tako da imajo varnostni sistemi čas, da ostanejo v koraku s hitro izboljšanjem zmogljivosti AI.
Opozorila so pomembna, ker je Anthropic hkrati eno od podjetij, ki tekmuje za izgradnjo nekaterih najbolj sposobnih sistemov AI na svetu.
Njegovi modeli Claude tekmujejo neposredno z izdelki iz OpenAI, Google in drugih večjih razvijalcev.
Potrošniki vse bolj sodelujejo z AI agenti
Regulativni deleži naraščajo, ker agenti AI presegajo eksperimentalne raziskave.
Tehnološka podjetja integrirajo avtonomne sposobnosti v kodirana orodja, poslovno programsko opremo, brskalnike, sisteme storitev za stranke in osebne pomočnike.
Prihodnji agenti bi lahko v imenu uporabnikov morda rezervirali potovanja, upravljali koledarje, nakupovali po spletu, analizirali finančne informacije in se povezali s poslovnimi sistemi.
Vsaka dodatna sposobnost povečuje uporabnost in potencialno tveganje.
AI pomočnik, ki generira samo besedilo, ima omejeno sposobnost, da vpliva na zunanji svet.
AI agent z dostopom do e-pošte, finančnih računov, baze podatkov podjetja ali programske infrastrukture lahko potencialno ustvari veliko večje posledice, ko gre kaj narobe.
Preiskava ne pomeni, da je bil storjen prekršek.
Preiskava FTC se ne bi smela razlagati kot ugotovitev, da so OpenAI, Anthropic ali druge družbe kršile zvezni zakon.
Preiskave regulativnim organom omogočajo zbiranje informacij in ugotavljanje, ali so izvršilni ukrepi upravičeni.
Podjetja bodo imela priložnosti, da pojasnijo svojo tehnologijo, varnostne postopke in notranji nadzor.
Preiskava bi lahko na koncu privedla do izvršilnih ukrepov, političnih priporočil, poravnav ali brez uradnih ukrepov proti določenim podjetjem.
Za zdaj je najpomembnejši razvoj ta, da so avtonomni zastopniki AI trdno prešli na dnevni red ameriških regulatorjev za varstvo potrošnikov.
AI uredba vstopa v novo fazo
Več let se je velik del politične razprave o umetni inteligenci osredotočal na hipotetična prihodnja tveganja.
Pojav AI agentov spreminja ta pogovor.
Regulatorji se zdaj soočajo s sistemi, ki so sposobni komunicirati z resničnim svetom, včasih na nepričakovane načine.
To ustvarja vprašanja, ki vključujejo kibernetsko varnost, varstvo potrošnikov, zasebnost in pravno odgovornost, ki jih ni mogoče zlahka ločiti.
Zato bi preiskava FTC lahko postala pomemben preskus, kako se obstoječi zakoni ZDA uporabljajo za novo generacijo vse bolj avtonomne umetne inteligence.
Rezultat bi lahko vplival ne le na OpenAI in Anthropic, ampak praktično na vsako tehnološko podjetje, ki načrtuje napotitev agentov AI na milijone potrošnikov.