Nekatera največja imena v umetni inteligenci so se strinjala z novim okvirom, katerega cilj je ohraniti hitro rastoči sistem aviarne influence pod nadzorom, kar je pomemben trenutek v razpravi o tem, kako naj se tehnologija upravlja.
Predsednik Donald Trump je 29. septembra objavil, da so direktorji vodilnih podjetij za umetno inteligenco podpisali sporazum o varnostnih standardih in nadzoru razvoja umetne inteligence.
Zastopane družbe so vključevale [Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com), [OpenAI] (https://openai.com/?utm source=chatgpt.com), [Antropic] (https://www.antropic.com/?utm source=chatgpt.com), [Nvidia] (https://www.nvidia.com/?utm source=chatgpt.com) in [xAI] (https://x.ai/?utm source=chatgpt.com).
Sporazum prihaja, ko se industriji AI sooča vse večji nadzor nad tem, ali se lahko vse bolj avtonomni sistemi razvijajo varno, medtem ko podjetja tekmujejo za izdajo bolj sposobnih modelov.
Po mnenju Associated Pressa prostovoljni sporazum vključuje zaveze, ki vključujejo močan notranji nadzor, neodvisne preglede in nadzor na ravni odbora.
Razvoj bi lahko oblikoval naslednjo fazo svetovne razprave o AI, zlasti ker so Združene države do zdaj naklonjene sorazmerno usmerjenemu pristopu na področju inovacij, medtem ko se je Evropa usmerila k obsežnejši ureditvi.
AI podjetja se strinjajo, da se sami policisti
Osrednja zamisel sporazuma je, da bodo družbe za umetno inteligenco prevzele večjo odgovornost za ocenjevanje tveganj, ki jih ustvarjajo njihovi lastni sistemi.
Sporazum zahteva notranje varnostne postopke in zunanje preglede, ki naj bi zagotovili dodaten nadzor nad vse močnejšimi modeli AI.
Trump je sporazum opisal kot moralno zavezujoč in ne kot konvencionalen regulativni mandat.
Reuters je poročal, da uprava razmišlja tudi o ustanovitvi odbora desetih članov za nadzor razvoja v industriji AI. Podrobnosti o odboru, vključno z njegovo potencialno avtoriteto in članstvom, še niso dokončane.
Predsednik hiše Mike Johnson je ločeno potrdil, da so direktorji AI industrije podpisali dogovor o tehnoloških standardih na sestanku v Beli hiši.
Za Silicijevo dolino bi prostovoljni pristop lahko ponudil alternativo bolj omejevalni zvezni zakonodaji.
Za kritike pa je vprašanje, ali se podjetja, ki razvijajo tehnologijo, lahko učinkovito regulirajo, hkrati pa tekmujejo za stranke, naložbe in tehnološko vodstvo.
Googlov, Meta in drugi vodje AI se pridružijo pogovorom
V razpravah je sodelovalo več najvplivnejših osebnosti v tehnologiji.
Med vpletenimi sta bila Sundar Pichai in Mark Zuckerberg, zastopana pa so bila tudi podjetja v središču generativnega AI buma.
Sporazum prihaja v nenavadno občutljivem trenutku za industrijo.
AI modeli postajajo sposobni opravljati vse bolj zapletene naloge z manj neposrednim človeškim nadzorom. Hiter pojav povzročiteljev aviarne influence, sistemov, ki lahko izvajajo zaporedja dejanj in ne zgolj odgovarjajo na vprašanja, je okrepil zaskrbljenost glede varnosti in nadzora.
Tudi raziskovalci iz vodilnih laboratorijev za umetno inteligenco so javno opozorili na hitrost razvoja.
Reuters je 29. septembra poročal, da sta sedanja in nekdanja raziskovalca OpenAI in Google DeepMind izrazila zaskrbljenost nad podjetji, ki si prizadevajo za sisteme, ki bi lahko izboljšali svoje sposobnosti, medtem ko se varnostni ukrepi trudijo ohraniti korak.
Ti pomisleki segajo od motenj na delovnem mestu in groženj kibernetske varnosti do veliko hujših scenarijev, ki vključujejo sisteme aviarne influence, in sicer na načine, ki jih njihovi razvijalci niso nameravali.
OpenAI je ustavil model zaradi varnostnih težav
Ena podrobnost srečanja Bele hiše je pokazala, kako resno nekateri laboratoriji obravnavajo problem.
OpenAI direktor Sam Altman je dejal, da je njegovo podjetje ustavilo izdajo modela zaradi varnostnih pomislekov, po mnenju Associated Press.
Razkritje prihaja kot AI podjetja vedno bolj preizkušajo napredne modele pred javno uporabo, da bi ugotovili, ali jih je mogoče zlorabiti ali se obnašati nepričakovano.
Hkrati se industrija sooča z ogromnim komercialnim pritiskom, da bi hitro ukrepala.
OpenAI, Google, Anthropic, Meta in druga podjetja veliko porabijo za računalniško infrastrukturo in tekmujejo za izgradnjo vedno bolj sposobnih sistemov AI.
To ustvarja težko ravnovesje med tehnološko hitrostjo in varnostjo.
Nvidia lansira tehnologijo, zasnovano tako, da ustavi lažne agente AI.
Novi sporazum sledi tudi veliki varnostni napovedi AI iz Nvidie.
28. septembra je Nvidia uvedla svojo platformo Open Agent Safety Platform, varnostni sistem, namenjen preprečevanju avtonomnih agentov AI pred nepooblaščenimi dejanji.
Platforma vključuje tehnologijo, ki preverja, kaj je agentu AI dovoljeno storiti in še eno komponento, ki je sposobna spremljati sumljivo dejavnost in kvarantizirati potencialno nevarno vedenje.
Po podatkih Associated Pressa tehnologija že uporablja več kot 100 organizacij.
Nvidia CEO Jensen Huang je trdil, da se lahko AI varnost obrne delno kot inženirski izziv, z močnejšimi zaščito programske opreme, ki zagotavlja meje okoli vse bolj avtonomnih sistemov.
Washington ima drugačen pristop od Evrope
Razprava poudarja tudi vse večjo razliko med ameriškimi in evropskimi pristopi k umetni inteligenci.
Administracija Trump je večkrat poudarila ohranjanje ameriškega tehnološkega vodstva in izogibanje omejitvam, za katere meni, da lahko upočasnijo inovacije.
Akcijski načrt AI Bele hiše opisuje vodstvo na področju umetne inteligence kot prednostno nalogo nacionalne varnosti in trdi, da morajo ZDA ostati pred svetovnimi tekmeci.
Evropski regulatorji so sprejeli bolj intervencionistični pristop.
Istega dne, ko se je sestal AI v Beli hiši, je Google izpodbijal regulativne ukaze Evropske unije, ki so zahtevali, da se zagotovi večji dostop do nekaterih storitev za razvijalce AI in konkurenčne iskalnike.
Google trdi, da bi zahteve lahko razkrile občutljive informacije za uporabnike, medtem ko Evropska komisija meni, da so vključeni ustrezni zaščitni ukrepi za zasebnost.
Spor kaže, kako si vlade prizadevajo uravnotežiti konkurenco, zasebnost, inovacije in varnost, ko se AI vgradi v svetovno gospodarstvo.
Naslednja bitka za ureditev AI
Prostovoljni sporazum ne rešuje večjega vprašanja, ali bo sčasoma potrebna zavezujoča zvezna uredba o AI.
Namesto tega vzpostavlja okvir, ki ga podpira industrija v času, ko zakonodajalci, raziskovalci in tehnološka podjetja razpravljajo o tem, kako hitro bi se moral razviti vladni nadzor.
Vložki se povečujejo, ko se AI premika onkraj chatbotov in v avtonomne agente, ki so sposobni interakcije z računalniškimi sistemi, pisanje programske opreme, izvajanje raziskav in izvajanje zapletenih digitalnih nalog.
Za zdaj Washington daje tehnološki industriji pomembno odgovornost za vzpostavitev zaščitnih ukrepov okoli svojih izdelkov.
Ali so prostovoljne zaveze zadostne, lahko postane eno od ključnih vprašanj tehnološke politike v prihodnjih letih.