Jotkut tekoälyn suurimmista nimistä ovat sopineet uudesta kehyksestä, jonka tavoitteena on pitää nopeasti etenevä tekoälyjärjestelmä hallinnassa, mikä merkitsee merkittävää hetkeä keskustelussa siitä, miten teknologiaa pitäisi hallita.
Presidentti Donald Trump ilmoitti 29. syyskuuta, että johtavien tekoälyyhtiöiden johtajat olivat allekirjoittaneet sopimuksen, joka kattaa turvallisuusstandardit ja tekoälyn kehittämisen valvonnan.
Edustettuihin yrityksiin kuuluivat [Google](https://www.google.com/?utm source=chatgpt.com), [Meta](https://www.meta.com/?utm source=chatgpt.com), [OpenAI](https://openai.com/?utm source=chatgpt.com), [Anthropic](https://www.anthropic.com/?utm source=chatgpt.com), [Nvidia](https://www.nvidia.com/?utm source=chatgpt.com] ja [xAI](https://xai/utm source=chatgptgpt.com).
Sopimus tulee, kun tekoälyteollisuus joutuu yhä enemmän tutkimaan, voidaanko yhä itsenäisempiä järjestelmiä kehittää turvallisesti samalla kun yritykset kilpailevat entistä kykenevämpien mallien vapauttamisesta.
Associated Pressin mukaan vapaaehtoinen sopimus sisältää sitoumuksia, joihin liittyy vahvaa sisäistä valvontaa, riippumattomia tarkastuksia ja valvontaa hallituksen tasolla.
Kehitys voisi muotoilla maailmanlaajuisen tekoälyä koskevan keskustelun seuraavaa vaihetta, erityisesti koska Yhdysvallat on tähän mennessä kannattanut suhteellisen innovatiivista lähestymistapaa samalla kun Eurooppa on siirtynyt laajempaan sääntelyyn.
Tekoälyyhtiöt suostuvat itse poliisiin
Sopimuksen keskeisenä ajatuksena on, että tekoälyyritykset ottavat suuremman vastuun omien järjestelmiensä aiheuttamien riskien arvioinnista.
Sopimuksessa vaaditaan sisäisiä turvallisuusmenettelyjä sekä ulkoisia arviointeja, joiden tarkoituksena on lisätä tekoälymallien tehokkuutta.
Trump kuvaili sopimusta moraalisesti sitovaksi eikä tavanomaiseksi sääntelytoimeksi.
Reuters ilmoitti, että hallinto harkitsee myös 10 jäsenkomitean perustamista valvomaan tekoälyteollisuuden kehitystä. Komiteaa koskevia yksityiskohtia, mukaan lukien sen mahdollinen toimivalta ja jäsenyys, ei ole vielä viimeistelty.
Talon puhemies Mike Johnson vahvisti erikseen, että tekoälyteollisuuden johtajat - olivat allekirjoittaneet sopimuksen teknologiastandardeista Valkoisen talon kokouksessa.
Piilaakson osalta vapaaehtoinen lähestymistapa voisi tarjota vaihtoehdon rajoittavammalle liittovaltion lainsäädännölle.
Kriitikoiden kannalta kysymys on kuitenkin siitä, voivatko teknologian kehittäjät tehokkaasti säännellä itseään ja kilpailla samalla asiakkaista, investoinneista ja teknologisesta johtoasemasta.
Google, Meta ja muut tekoälyn johtajat liittyvät neuvotteluihin
Useat teknologian vaikutusvaltaisimmista henkilöistä osallistuivat keskusteluihin.
Sundar Pichai ja Mark Zuckerberg olivat mukana johtotehtävissä, kun taas yritykset keskelle generatiivinen tekoäly boom olivat myös edustettuina.
Sopimus on alan kannalta poikkeuksellisen herkkä.
Tekoälymallit kykenevät yhä monimutkaisempiin tehtäviin vähemmän suorassa ihmisvalvonnassa. Tekoälyagenttien nopea ilmaantuminen, järjestelmät, jotka pystyvät toteuttamaan toimia eikä pelkästään vastaamaan kysymyksiin, on lisännyt huolia turvallisuudesta ja valvonnasta.
Myös johtavien tekoälylaboratorioiden tutkijat ovat julkisesti varoittaneet kehityksen nopeudesta.
Reuters ilmoitti 29. syyskuuta, että OpenAI:n ja Google DeepMindin nykyiset ja entiset tutkijat olivat herättäneet huolta yrityksistä, jotka pyrkivät kehittämään omia kykyjään, kun taas turvallisuustoimenpiteet kamppailevat pysyä vauhdissa.
Nämä huolenaiheet ulottuvat työn keskeytymisestä ja kyberturvallisuuteen liittyvistä uhkista paljon vakavampiin skenaarioihin, joissa tekoälyjärjestelmät toimivat tavalla, jolla niiden kehittäjät eivät halunneet.
OpenAI pysäytti mallin turvallisuuteen liittyvistä huolenaiheista
Yksi yksityiskohta Valkoisesta talosta osoitti, kuinka vakavasti eräät laboratoriot käsittelevät ongelmaa.
OpenAI toimitusjohtaja Sam Altman sanoi, että hänen yrityksensä oli pysäyttänyt mallin vapauttamisen turvallisuusongelmien vuoksi, mukaan Associated Press.
Tietojen julkistamisen myötä tekoälyn yritykset testaavat yhä enemmän kehittyneitä malleja ennen julkista käyttöönottoa selvittääkseen, voidaanko niitä käyttää väärin tai käyttäytyä odottamattomasti.
Samaan aikaan alalla on valtavia kaupallisia paineita edetä nopeasti.
OpenAI, Google, Anthropic, Meta ja muut yritykset käyttävät paljon tietotekniikkainfrastruktuuriin ja kilpailevat yhä toimintakykyisempien tekoälyjärjestelmien rakentamisesta.
Tämä luo vaikean tasapainon teknisen nopeuden ja turvallisuuden välille.
Nvidia käynnistää teknologian, joka on suunniteltu pysäyttämään roistomaiset tekoälyagentit
Uusi sopimus noudattaa myös Nvidialta saatua merkittävää tekoälyn turvallisuusilmoitusta.
Syyskuun 28. päivänä Nvidia esitteli avoimen agentin turvallisuusalustansa, turvajärjestelmän, jonka tarkoituksena on estää riippumattomia tekoälyagentteja suorittamasta luvattomia toimia.
Alusta sisältää teknologiaa, joka varmistaa, mitä tekoälyagentti saa tehdä, ja toisen komponentin, joka pystyy seuraamaan epäilyttävää toimintaa ja kvalinoimaan mahdollisesti vaarallista käyttäytymistä.
Associated Pressin mukaan yli 100 organisaatiota käyttää jo teknologiaa.
Nvidia toimitusjohtaja Jensen Huang on väittänyt, että tekoälyn turvallisuutta voidaan lähestyä osittain teknisenä haasteena, jossa ohjelmistosuojat ovat vahvempia ja tarjoavat rajoja yhä itsenäisempien järjestelmien ympärille.
Washington suhtautuu eri tavalla kuin Eurooppa
Keskustelussa korostetaan myös amerikkalaisten ja eurooppalaisten keinoälyä koskevien lähestymistapojen kasvavaa eroa.
Trumpin hallinto on toistuvasti korostanut Yhdysvaltojen teknologisen johtajuuden säilyttämistä ja rajoitusten välttämistä, joiden se uskoo hidastavan innovointia.
Valkoisen talon tekoälyä koskevassa toimintasuunnitelmassa kuvataan tekoälyn johtajuutta kansallisen turvallisuuden painopisteeksi ja todetaan, että Yhdysvaltojen on pysyttävä maailman kilpailijoiden edellä.
Eurooppalaiset sääntelyviranomaiset ovat omaksuneet aktiivisemman lähestymistavan.
Samana päivänä kuin Valkoisen talon tekoälyn kokouksessa Google haastoi Euroopan unionin sääntelymääräykset, joissa sen edellytetään tarjoavan tiettyjä palveluja tekoälyn kehittäjille ja kilpaileville hakukoneille.
Googlen mukaan vaatimukset voivat paljastaa arkaluonteisia käyttäjätietoja, kun taas Euroopan komissio katsoo, että niihin sisältyy asianmukaiset yksityisyyden suojatoimet.
Kiista osoittaa, miten hallitukset kamppailevat kilpailun, yksityisyyden, innovaatioiden ja turvallisuuden tasapainottamiseksi, kun tekoäly sisällytetään maailmanlaajuiseen talouteen.
Seuraava taistelu tekoälyn sääntelystä
Vapaaehtoisessa sopimuksessa ei ratkaista suurempaa kysymystä siitä, tarvitaanko sitovaa tekoälyä koskevaa asetusta.
Sen sijaan siinä luodaan alan tukemat puitteet aikana, jolloin lainsäätäjät, tutkijat ja teknologiayritykset keskustelevat siitä, miten nopeasti julkisen valvonnan pitäisi kehittyä.
Panokset kasvavat, kun tekoäly siirtyy chatbotteja pidemmälle ja autonomisiin tekijöihin, jotka pystyvät vuorovaikutukseen tietokonejärjestelmien kanssa, kirjoittamaan ohjelmistoja, tekemään tutkimusta ja suorittamaan monimutkaisia digitaalisia tehtäviä.
Tällä hetkellä Washington antaa teknologiateollisuudelle merkittävän vastuun turvatoimien luomisesta omien tuotteidensa ympärille.
Vapaaehtoisten sitoumusten riittävyydestä voi tulla yksi tulevien vuosien keskeisistä teknologiapoliittisista kysymyksistä.