Sopimus, jota kutsuttiin rajavastuuta koskevaksi yhteiseksi sitoumukseksi, julkistettiin 29. syyskuuta Valkoisen talon kokouksen jälkeen, johon osallistui presidentti Donald Trump ja teknologiajohtajat.
Asiakirjan allekirjoittivat johtajat, jotka edustavat Google
UOL Notícias +1
Toisin kuin liittovaltion asetus, sopimus on vapaaehtoinen. Hallinto kuvaili sitä sitoumukseksi, jonka tarkoituksena on vahvistaa suojatoimia yrityksissä, jotka kehittävät yhä kyvykkäämpiä tekoälymalleja.
Kehitys tapahtuu, kun hallitukset, teknologiayritykset ja tutkijat jatkavat keskustelua siitä, kuinka nopeasti tekoälyn etenemistä on valvottava ilman, että innovaatiota ehkäistään.
Mitä tekoäly-yritykset suostuivat tekemään?
Sopimuksessa vahvistetaan neljä laajaa turvavalvontatasoa.
Osallistuvien yritysten odotetaan ylläpitävän sisäisiä järjestelmiä, jotka seuraavat tekoälymalliensa ominaisuuksia ja käyttäytymistä sekä koulutuksen että käyttöönoton aikana.
Näiden tarkastusten tarkoituksena on tunnistaa mahdolliset riskit, joihin liittyy esimerkiksi kyberturvallisuutta, biologisia uhkia ja kemiallisia uhkia.
Sopimuksessa vaaditaan erityisesti suojatoimia, joiden tarkoituksena on estää tekoälymallien käyttö tai puuttuminen teknisiin järjestelmiin tahattomasti.
UOL Notícias
Yritysten odotetaan myös ylläpitävän sisäisiä ryhmiä, jotka vastaavat siitä, toimivatko seuranta- ja havaitsemisjärjestelmät tarkoitetulla tavalla.
Erillinen valvonta tulisi yritysten ulkopuolelta.
Riippumattomat tekoälyn arvioinnit ovat osa sopimusta
Yksi tärkeimmistä säännöksistä kehottaa osallistuvia yrityksiä työskentelemään ulkopuolisten tilintarkastajien tai arvioijien kanssa.
Näissä riippumattomissa arvioinneissa tarkasteltaisiin, toimivatko yritysten tekoälyn seuranta- ja valvontajärjestelmät tarkoitetulla tavalla.
Sopimuksessa kehotetaan myös yrityksiä perustamaan riippumattomia hallituskomiteoita, jotka saisivat tietoja sekä sisäisiltä tiimeiltä että ulkopuolisilta arvioijilta.
UOL Notícias +1
Osallistuvien yritysten odotetaan kokoontuvan säännöllisesti kehittämään standardeja ja parhaita käytäntöjä järjestelmiensä turvallisuuden parantamiseksi.
Asiakirjassa tunnustetaan myös, että joistakin näistä toimenpiteistä voi lopulta tulla osa virallisia lakeja tai asetuksia.
UOL Notícias
Tällä hetkellä sitoumukset eivät kuitenkaan ole oikeudellisesti sitovia liittovaltion sääntöjä.
Miksi sopimuksella on merkitystä?
Sopimus on ratkaiseva tekoälyteollisuuden kannalta.
Tekoälyjärjestelmät eivät enää vastaa kysymyksiin ja tuottavat teksti-, kuva- tai tietokonekoodia.
Yritykset kehittävät tekoälyagentteja, jotka pystyvät toteuttamaan pidempiä toimintajaksoja, käyttämään ohjelmistotyökaluja ja suorittamaan tehtäviä vähemmän suoralla ihmisvalvonnalla.
Laajentaminen on lisännyt huomiota siihen, miten yritykset testaavat tehokkaita malleja ennen niiden vapauttamista.
Uudella sopimuksella pyritään luomaan yhteiset puitteet tärkeimpien tekoälyn kehittäjien välille samalla kun yksittäiset yritykset vastaavat monien tarkastusten toteuttamisesta.
Associated Press raportoi, että sopimukseen sisältyy sisäisiä suojatoimia, riippumattomia ulkoisia tarkastuksia ja valvontamekanismeja osallistuvissa yrityksissä.
AP-uutiset
Suurimmat tekoälyyritykset olivat Washingtonissa
Valkoisen talon kokoontuminen toi yhteen monia maailman teknologian vaikutusvaltaisimpia henkilöitä.
Toimeenpanoon osallistui johtajia liittyvät Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon ja X mukaan raportit tapahtumasta.
AP News +1
Heidän osallistumisensa osoittaa, kuinka tiiviisti tekoälypolitiikka liittyy Yhdysvaltojen suurimpiin teknologiayrityksiin.
Yritykset investoivat voimakkaasti tekoälyn malleihin, tietotekniikkainfrastruktuuriin, siruihin ja datakeskuksiin.
Samaan aikaan hallitukset eri puolilla maailmaa yrittävät määrittää, mitä suojatoimia olisi sovellettava, kun nämä järjestelmät ovat entistä kyvykkäämpiä.
Amerikka.gov myös käynnistää
Tekoälyn turvallisuussopimus ei ollut ainoa tärkeä teknologiailmoitus Washingtonista.
Valkoinen talo käynnisti myös Amerikan.govin, uuden digitaalisen portin, jonka tarkoituksena on antaa amerikkalaisille yksi paikka päästä käsiksi liittovaltion tietoihin ja palveluihin.
Valkoisen talon mukaan käyttäjät voivat kommunikoida palvelun kanssa tavallisella kielellä ja saada vastauksia tarvitsematta navigoida useita yksittäisten liittovaltion virastojen sivustoja.
Valkoinen talo
Hallinto sanoo alustan on suunniteltu lopulta antaa ihmisille mahdollisuus suorittaa tiettyjä valtion liiketoimia suoraan, kun valtuutus ja tekninen infrastruktuuri ovat saatavilla.
Valkoisen talon mukaan yksityisyyden suoja on tarkoitus sisällyttää palveluun.
Valkoinen talo
Käynnistys on toinen esimerkki siitä, että teoreettisista sovelluksista siirrytään tavallisten kansalaisten käyttämiin julkisiin palveluihin.
Tekoälyasetus on edelleen tärkeä keskustelu
Sopimuksen vapaaehtoinen luonne on todennäköisesti edelleen tärkeä osa tekoälyä koskevasta asetuksesta käytävää laajempaa keskustelua.
Teollisuuden johtavien standardien kannattajat väittävät, että tekoäly kehittyy niin nopeasti, että jäykkä sääntely voi taistella pysyäkseen tekniikan kehityksen tasalla.
Vapaaehtoisten järjestelmien kritiikissä todetaan, että tehokkaita tekoälymalleja kehittävien yritysten on pikemminkin noudatettava täytäntöönpanokelpoisia ulkoisia standardeja kuin turvauduttava ensisijaisesti sisäiseen valvontaan.
Uusi sopimus sisältää riippumattoman arvioinnin, mutta yrityksillä on huomattava vastuu omien turvallisuusjärjestelmiensä täytäntöönpanosta.
Itse sopimuksessa jätetään avoimeksi mahdollisuus, että sen periaatteet voidaan lopulta sisällyttää lainsäädäntöön tai viralliseen sääntelyyn.
UOL Notícias
Tämä tarkoittaa sitä, että syyskuun 29. päivän ilmoitus voi edustaa varhaista kehystä eikä amerikkalaisen tekoälyvalvonnan lopullista muotoa.
Eurooppa on menossa eri suuntaan
Yhdysvallat ei kehitä tekoälypolitiikkaa erikseen.
Eurooppa on noudattanut enemmän sääntelyä Euroopan unionin tekoälysääntöjen ja laajemman digitaalilainsäädännön avulla.
Vastakohtana on ollut merkittävä kansainvälinen poliittinen kysymys: pitäisikö edistyneitä tekoälyjä hallita ensisijaisesti lainsäädännöllä, teollisuuden sitoumuksilla, riippumattomalla tilintarkastuksella vai jollakin kaikkien kolmen yhdistelmällä.
Maailmanlaajuisesti toimivien teknologiayritysten on viime kädessä noudatettava erilaisia sääntelyjärjestelmiä riippuen siitä, missä tuotteita tarjotaan.
Tämä tekee Washingtonissa ja Brysselissä tehtävistä päätöksistä erityisen tärkeitä yrityksille, jotka kehittävät satojen miljoonien ihmisten käyttämiä malleja.
Tekoälyn turvallisuuteen liittyvät ongelmat kasvavat kykyjen myötä
Sopimus syntyy myös siksi, että useat johtavat tekoälyyritykset keskustelevat julkisesti riskeistä, jotka liittyvät yhä toimintakykyisempiin järjestelmiin.
Kehittäjät testaavat käyttäytymismalleja, joihin liittyy kyberturvallisuus, itsenäinen päätöksenteko, biologinen tieto ja kyky käyttää ulkoisia ohjelmistotyökaluja.
Nämä ominaisuudet voivat luoda hyödyllisiä sovelluksia, mutta ne herättävät myös kysymyksiä siitä, mitä tapahtuu, kun järjestelmät käyttäytyvät eri tavalla kuin mitä kehittäjät tarkoittivat.
Uudessa sopimuksessa pyritään käsittelemään tätä kysymystä vaatimalla useita seurantatasoja eikä turvautumalla yhteen sisäiseen turvallisuusprosessiin.
Ulkoisesta arvioinnista voisi tulla erityisen tärkeää, kun yritykset vapauttavat yhä itsenäisempiä tekoälyn tekijöitä.
Mitä seuraavaksi tapahtuu?
Välittömänä kysymyksenä on, miten osallistuvat yritykset muuttavat sopimuksen operatiivisiksi suojatoimiksi.
Asiakirjassa vahvistetaan periaatteet, mutta näiden periaatteiden tehokkuus riippuu täytäntöönpanosta, myös siitä, miten riippumattomat arvioijat valitaan, mitä standardeja ne soveltavat ja miten yritykset reagoivat, kun riskejä havaitaan.
Toinen kysymys on avoimuus.
Kansalaiset saattavat yhä useammin odottaa, että yritykset selvittävät, miten edistyneitä malleja on arvioitu ennen julkaisua ja mitä suojatoimia on käytössä käyttöönoton jälkeen.
Tällä hetkellä sopimus on merkittävä koordinoitu sitoumus, johon osallistuu useita yrityksiä, jotka rakentavat maailman kehittyneimpiä tekoälyjärjestelmiä.
Se, tuleeko näistä vapaaehtoisista suojatoimista lopulta pakollisia sääntöjä, riippuu lainsäätäjien, sääntelyviranomaisten ja yritysten itsensä tulevista päätöksistä.
Jo nyt on selvää, että tekoälyn turvallisuus on siirtynyt erikoisteknologiakeskustelusta keskeiseen kysymykseen hallituksille, yrityksille ja sadoille miljoonille tekoälyä käyttäville ihmisille päivittäin.