Sporazum, imenovan Skupna zaveza o obmejnih odgovornostih, je bil napovedan 29. septembra po srečanju Bele hiše s predsednikom Donaldom Trumpom in vodilnimi vodilnimi tehnološkimi direktorji.
Dokument so podpisali izvršni direktorji, ki so po mnenju Reutersa zastopali Google.
UOL Notícias +1
Za razliko od zvezne uredbe je sporazum prostovoljen. Uprava ga je opisala kot zavezo za vzpostavitev močnejših zaščitnih ukrepov znotraj podjetij, ki razvijajo vse bolj sposobne modele umetne inteligence.
Razvoj poteka tako, da vlade, tehnološka podjetja in raziskovalci še naprej razpravljajo o tem, kako hitro napredovati na področju inovacij bi bilo treba nadzorovati brez preprečevanja inovacij.
Kar so AI podjetja privolila v to.
Sporazum vzpostavlja štiri širše ravni varnostnih kontrol.
Od sodelujočih podjetij se pričakuje, da bodo vzdrževale notranje sisteme, ki spremljajo zmogljivosti in vedenje njihovih modelov AI tako med usposabljanjem kot uvajanjem.
Navedeni nadzor je namenjen opredelitvi morebitnih tveganj, ki vključujejo področja, kot so kibernetska varnost, biološke grožnje in kemične grožnje.
Sporazum izrecno poziva k zaščitnim ukrepom, katerih namen je preprečiti nenameren dostop modelov AI ali poseganje v tehnične sisteme.
UOL Notícias
Podjetja naj bi tudi vzdrževala notranje ekipe, odgovorne za preverjanje, ali sistemi za spremljanje in odkrivanje delujejo, kot je predvideno.
Ločena raven nadzora bi nastala zunaj samih podjetij.
Neodvisne ocene AI so del dogovora
Ena najpomembnejših določb poziva sodelujoče družbe, da sodelujejo z zunanjimi revizorji ali ocenjevalci.
Te neodvisne ocene bi preučile, ali sistemi spremljanja in nadzora za družbe delujejo, kot je bilo predvideno.
Sporazum tudi poziva podjetja, naj ustanovijo neodvisne odbore upravnega odbora, ki bodo prejeli informacije od notranjih ekip in zunanjih ocenjevalcev.
UOL Notícias +1
Od sodelujočih podjetij se pričakuje, da se bodo redno sestajala za razvoj standardov in najboljših praks za izboljšanje varnosti njihovih sistemov.
Dokument tudi priznava, da bi lahko nekateri od teh ukrepov sčasoma postali del formalnih zakonov ali predpisov.
UOL Notícias
Za zdaj pa zaveze niso pravno zavezujoča zvezna pravila.
Zakaj je sporazum pomemben?
Sporazum prihaja v ključnem trenutku za industrijo umetne inteligence.
AI sistemi se vse bolj premikajo preko odgovarjanja na vprašanja in generiranja besedila, slik ali računalniške kode.
Podjetja razvijajo AI agente, ki so sposobni izvajati daljša zaporedja dejanj, uporabljati programska orodja in opravljati naloge z manj neposrednim človeškim nadzorom.
Ta širitev je povečala pozornost na to, kako podjetja testirajo močne modele, preden jih sprostijo.
Novi sporazum poskuša ustvariti skupni okvir med glavnimi razvijalci AI, hkrati pa posamezna podjetja puščajo odgovorna za izvajanje številnih kontrol.
Associated Press je poročal, da sporazum vključuje notranje zaščitne ukrepe, neodvisne zunanje preglede in nadzorne mehanizme v sodelujočih družbah.
AP News
Največja AI podjetja so bila v Washingtonu.
Zbiranje Bele hiše je združilo veliko najvplivnejših osebnosti v svetovni tehnologiji.
Po poročilih z dogodka so se udeležili tudi vodilnih, ki so bili povezani z Meta, Nvidi, Anthropic, OpenAI, Google, Microsoft, Amazon in X.
AP News +1
Njihova udeležba ponazarja, kako tesno postaja politika AI povezana z največjimi tehnološkimi podjetji v ZDA.
Vključena podjetja veliko vlagajo v modele AI, računalniško infrastrukturo, čipe in podatkovne centre.
Obenem vlade po vsem svetu poskušajo ugotoviti, katera varovala bi se morala uporabljati, ko bodo ti sistemi postali bolj sposobni.
Amerika.gov tudi izstrelitve
Sporazum o varnosti AI ni bil edina pomembna informacija iz Washingtona.
Bela hiša je tudi začela Ameriko.gov, nov digitalni prehod, namenjen Američanom enotno mesto za dostop do informacij in storitev zvezne vlade.
Po mnenju Bele hiše lahko uporabniki komunicirajo s storitvijo z običajnim jezikom in prejemajo odgovore, ne da bi morali krmariti na številnih spletnih straneh posameznih zveznih agencij.
Bela hiša
Uprava pravi, da je platforma zasnovana tako, da omogoča ljudem, da zaključijo določene vladne transakcije neposredno, ko so na voljo dovoljenja in tehnična infrastruktura.
Bela hiša pravi tudi, da je namen zaščite zasebnosti vključiti v storitev.
Bela hiša
Uvedba predstavlja še en primer generativne aviarne influence, ki prehaja iz poskusnih aplikacij v javne storitve, ki jih uporabljajo navadni državljani.
Uredba AI ostaja pomembna razprava
Prostovoljna narava sporazuma bo verjetno ostala pomemben del širše razprave o ureditvi AI.
Podporniki standardov, ki jih vodi industrija, trdijo, da se umetna inteligenca razvija tako hitro, da bi si toga ureditev lahko prizadevala slediti tehnološkemu napredku.
Kritiki prostovoljnih sistemov trdijo, da bi se morala podjetja, ki razvijajo močne modele AI, soočiti z izvršljivimi zunanjimi standardi, namesto da se zanašajo predvsem na notranji nadzor.
Novi sporazum vključuje neodvisno ocenjevanje, vendar podjetja ostajajo precej odgovorna za izvajanje svojih varnostnih sistemov.
Sporazum sam pušča odprto možnost, da se njegova načela sčasoma lahko vključijo v zakonodajo ali formalno ureditev.
UOL Notícias
To pomeni, da lahko objava 29. septembra predstavlja zgodnji okvir in ne končno obliko nadzora nad ameriškim AI.
Evropa gre po drugi poti
Združene države Amerike ne razvijajo politike trajnostnega razvoja ločeno.
Evropa si je prizadevala za bolj regulativni pristop prek pravil Evropske unije za umetno inteligenco in širše digitalne zakonodaje.
Nasprotje je ustvarilo pomembno mednarodno politično vprašanje: ali naj se napredne AI ureja predvsem z zakonodajo, industrijskimi zavezami, neodvisno revizijo ali kombinacijo vseh treh.
Tehnološka podjetja, ki delujejo na svetovni ravni, bodo morda morala upoštevati različne regulativne sisteme, odvisno od tega, kje se ponujajo njihovi izdelki.
Zato so odločitve v Washingtonu in Bruslju še posebej pomembne za podjetja, ki razvijajo modele, ki jih uporablja na stotine milijonov ljudi.
Zaskrbljenost glede varnosti invazivnih tujerodnih vrst narašča z zmožnostjo
Sporazum je sklenjen tudi, ko več vodilnih podjetij AI javno razpravlja o tveganjih, povezanih z vse bolj sposobnimi sistemi.
Razvijalci preizkušajo modele vedenja, ki vključuje kibernetsko varnost, samostojno odločanje, biološke informacije in sposobnost delovanja zunanjih programskih orodij.
Te sposobnosti lahko ustvarijo uporabne aplikacije, vendar pa tudi postavljajo vprašanja o tem, kaj se zgodi, ko se sistemi obnašajo drugače kot so načrtovalci nameravali.
Novi sporazum poskuša obravnavati to vprašanje tako, da zahteva več ravni spremljanja, namesto da se zanaša na enoten notranji varnostni postopek.
Zunanja evalvacija bi lahko postala še posebej pomembna, saj podjetja izdajajo vse bolj avtonomne agente za umetno inteligenco.
Kaj se bo zgodilo potem?
Takojšnje vprašanje je, kako bodo udeležena podjetja prenesla sporazum v operativne zaščitne ukrepe.
Dokument določa načela, vendar bo učinkovitost teh načel odvisna od izvajanja, vključno z izbiro neodvisnih ocenjevalcev, standardi, ki jih uporabljajo, in odzivom podjetij ob odkritju tveganj.
Drugo vprašanje je preglednost.
Javnost lahko vedno bolj pričakuje, da bodo podjetja pojasnila, kako so bili pred izdajo ocenjeni napredni modeli in katera varovala delujejo po uvedbi.
Za zdaj sporazum predstavlja pomembno usklajeno zavezo, ki vključuje več podjetij, ki gradijo najnaprednejše sisteme umetne inteligence na svetu.
Ali bodo ti prostovoljni zaščitni ukrepi sčasoma postali obvezna pravila, bo odvisno od prihodnjih odločitev zakonodajalcev, regulatorjev in podjetij samih.
Kar je že jasno, je, da se je varnost AI iz razprave o strokovni tehnologiji premaknila v osrednje vprašanje za vlade, podjetja in na stotine milijonov ljudi, ki vsak dan uporabljajo umetno inteligenco.