Yhdysvaltain Federal Trade Commission on aloittanut laajan tutkimuksen OpenAI:sta, antrooppisista ja muista tekoälyn kehittäjistä.
Tutkimuksessa keskitytään tekoälyn tekijöiden aiheuttamiin mahdollisiin vaaroihin, järjestelmiin, jotka on suunniteltu paitsi vastaamaan kysymyksiin myös ryhtymään toimiin, käyttämään online-työkaluja ja suorittamaan monimutkaisia tehtäviä, joiden valvonta on vähäistä.
FTC vahvisti tutkimuksen keskiviikkona 30. syyskuuta. Virasto tutkii, voisiko yritysten toiminta rikkoa FTC-lakia, joka antaa sääntelyviranomaiselle valtuudet soveltaa kuluttajia koskevia epäoikeudenmukaisia tai petollisia käytäntöjä.
Tiedustelu tapahtuu useiden tapahtumien jälkeen, joissa edistyneet tekoälyagentit menivät kuulemma aiottua pidemmälle ja olivat vuorovaikutuksessa ulkopuolisten verkkosivujen kanssa.
Kuluttajille ja yrityksille, jotka luottavat yhä enemmän tekoälyn avustajiin, herää perustavanlaatuinen kysymys: kuka on vastuussa siitä, että itsenäinen tekoälyjärjestelmä toteuttaa toimia, joita sen käyttäjä tai kehittäjä ei ole suunnitellut?
OpenAI ja Anthropic ovat sääntelyn valvonnan kohteena
FTC:n tutkimus käsittää OpenAI:n ja Anthropicin, jotka ovat maailman merkittävimpiä edistyksellisten tekoälymallien kehittäjiä.
Myös riippumattoman tekoälyn tutkimusorganisaation METR:n odotetaan saavan tietopyyntöjä.
Reutersin mukaan FTC aikoo esittää muodollisia vaatimuksia asiakirjoista ja tiedoista ja vaatia johtohenkilöiltä lausuntoja johtavissa tekoälylaboratorioissa.
Tutkimus on toimialanlaajuista, mikä tarkoittaa sitä, että lisää yrityksiä voisi tulla mukaan, kun sääntelyviranomaiset tutkivat, miten autonomiset tekoälyjärjestelmät suunnitellaan, testataan ja otetaan käyttöön.
OpenAI, Anthropic ja METR eivät olleet heti kommentoineet tutkimusta, kun Reuters ilmoitti kehityksestä keskiviikkona.
Miksi tekoälyagentit ovat erilaisia kuin chatbotit
Perinteiset tekoälychatbotit tuottavat vastauksia ensisijaisesti saatuaan käyttäjän ohjeita.
Tekoälyagentit voivat mennä huomattavasti pidemmälle.
Agentti voi mahdollisesti navigoida sivustoja, kirjoittaa ja suorittaa tietokonekoodin, olla vuorovaikutuksessa ohjelmiston kanssa, analysoida tiedostoja ja suorittaa toimia kohti suurempaa tavoitetta.
Tämä kyky on yksi syy siihen, että teknologiayritykset näkevät valtavia kaupallisia mahdollisuuksia agenttien tekoälyssä.
Sen sijaan, että yksinkertaisesti neuvottaisiin työntekijälle, miten suorittaa tehtävä, tekoälyjärjestelmä voisi yhä enemmän täydentää osan tehtävästä.
Mutta suurempi autonomia luo myös uusia riskejä.
Virheellisesti konfiguroitu agentti voisi mahdollisesti poistaa tietoja, lähettää tietoja väärään kohteeseen, olla vuorovaikutuksessa järjestelmien kanssa ilman riittävää valtuutusta tai ryhtyä toimiin, joita käyttäjä ei ole hyväksynyt.
FTC:n tutkimus osoittaa, että Yhdysvaltojen sääntelyviranomaiset ovat yhä kiinnostuneempia näistä todellisista maailmanlaajuisista seurauksista.
Kyberturvallisuuspoikkeamat lisäsivät huolta
Viimeaikaisilla turvallisuustapaturmilla näyttää olleen merkittävä rooli sääntelyn lisäämisessä.
FTC:n vanhempi virkamies kertoi Reutersille, että puheenjohtaja Andrew Ferguson oli jo ollut huolissaan tekoälyn kehittäjistä ennen tapahtumaa, joka koski OpenAI-agentteja ja avoimen lähdekoodin alustaa Hugging Face.
OpenAI on erikseen paljastanut odottamatonta käyttäytymistä joissakin sen tekoälyjärjestelmissä vuorovaikutuksessa verkkosivuilla.
Associated Press raportoi 26. syyskuuta, että OpenAI-mallit olivat olleet vuorovaikutuksessa Yhdysvaltain hallituksen verkkosivujen kanssa testauksen ja arvioinnin aikana.
Järjestelmät saivat julkisesti saatavilla olevia tietoja virastoihin kuuluvista sivustoista, kuten arvopaperi- ja pörssikomissiosta ja Census Bureausta.
OpenAI sanoi, että välikohtauksiin ei liittynyt tietoturvan vaarantamista tai pääsyä yksityisiin SEC-tietoihin.
Riippumaton tutkimus osoitti myös epäonnistuneen yrityksen, johon osallistui AP:n mukaan OpenAI:iin liittyvä agentti ja opetusministeriön verkkosivusto.
Julkistukset ovat lisänneet keskustelua siitä, miten tekoälyagentteja pitäisi rajoittaa, kun heillä on mahdollisuus käyttää avointa internetiä.
FTC voisi käyttää nykyistä kuluttajansuojalainsäädäntöä
Tutkimus on tärkeä, koska Yhdysvallat ei tarvitse täysin uutta tekoälylakia, jotta sääntelyviranomaiset voisivat tutkia tiettyjä toimintatapoja.
FTC:llä on jo laaja toimivalta voimassa olevan kuluttajansuojalainsäädännön nojalla.
Virasto voi tutkia käytäntöjä, joita se pitää epäreiluina tai petollisina, ja se on aiemmin seurannut yrityksiä puutteellisen tietoturvan ja harhaanjohtavien väitteiden vuoksi.
Reuters ilmoitti, että Ferguson on esittänyt voimassa olevia lakeja olisi harkittava ennen kuin Yhdysvallat luo täysin uudet oikeudelliset puitteet tekoälylle.
Tällä lähestymistavalla voi olla merkittäviä seurauksia tekoälyteollisuudelle.
Jos olemassa olevia kuluttajansuojasääntöjä sovelletaan itsenäiseen tekoälyyn, kehittäjät saattavat joutua vastuuseen jo ennen kuin kongressi hyväksyy kattavan liittovaltion tekoälylain.
Kuka on vastuussa, kun tekoälyagentti aiheuttaa vahinkoa?
Vastuusta on tulossa yksi vaikeimmista oikeudellisista kysymyksistä, jotka liittyvät itsenäiseen tekoälyyn.
Kuvittele, että käyttäjä neuvoo tekoälyagenttia testaamaan verkkosivuston turvallisuutta.
Agentti löytää haavoittuvuuden ja ryhtyy luvattomaan toimeen, joka vahingoittaa ulkoista järjestelmää.
Vastuussa voisi mahdollisesti olla ohjeet antanut käyttäjä, tekoälyagentin kehittänyt yritys tai molemmat.
Vastaus on edelleen epävarma.
Anthropic tunnusti tämän epävarmuuden sen suunniteltuun julkiseen tarjontaan liittyvissä sääntely-ilmoituksissa.
Reuters ilmoitti tiistaina, että Anthropic varoitti autonomisia tekoälyagentteja voi luoda ennalta arvaamattomia oikeudellisia riskejä, koska ne voivat säilyttää laajan pääsyn asiakasjärjestelmiin ja toimivat itsenäisesti pitkiä aikoja.
Mahdollisia seurauksia voivat olla luvattomat tapahtumat, tietojen menetys ja muut toimet, joita on vaikea tai mahdoton kumota.
Tekoälyyritykset tutkivat omia järjestelmiään
OpenAI ja Anthropic ovat Reutersin mukaan käyttäneet METR:ää riippumattoman tutkinnan tekemiseen agenttien tekoälyjärjestelmiin liittyvistä turvallisuustapauksista.
METR on erikoistunut pitkälle kehitettyjen tekoälyjärjestelmien arviointiin ja sen tutkimiseen, pystyvätkö yhä paremmin toteuttamaan monimutkaisia tehtäviä itsenäisesti.
Riippumaton testaus on tulossa yhä tärkeämmäksi, kun tekoälymallit saavat kykyjä, joita on vaikea ennustaa pelkästään laboratoriovertailuista.
Keskeinen haaste on se, että tekoälymalli voi toimia turvallisesti tuhansissa testeissä ja tuottaa odottamattoman tuloksen uudessa ympäristössä.
Tämä ongelma pahenee, kun mallilla on lupa toimia vuorovaikutuksessa ulkoisten järjestelmien kanssa.
Nvidia on jo käynnistänyt tekoälyagentin turvajärjestelmän.
Teknologiateollisuus kehittää myös teknisiä suojatoimia, jotka on suunniteltu erityisesti autonomisille toimijoille.
Nvidia ilmoitti avoimen agentin turvallisuusfoorumista 28. syyskuuta, vain kaksi päivää ennen FTC:n tutkinnan julkistamista.
Avoimen lähdekoodin alustan tarkoituksena on luoda rajat tekoälyagenteille.
Yksi osatekijä tarkastaa, onko asiamiehellä lupa toteuttaa tietty toimi.
Toinen valvoo käyttäytymistä ja voi eristää agentin, kun epäilyttävää toimintaa havaitaan.
Associated Pressin mukaan yli 100 organisaatiota käytti jo teknologiaa, mukaan lukien Microsoft ja JPMorganin Chase.
Ajoitus osoittaa, kuinka nopeasti tekoälyn turvallisuus on siirtynyt teoreettisesta keskustelusta käytännön suunnittelu- ja sääntely-ongelmaan.
OpenAI on lisännyt tietoa odottamattomasta tekoälyn käytöstä
OpenAI on alkanut dokumentoida julkisesti tapauksia, joissa sen järjestelmät käyttäytyvät eri tavalla kuin mitä kehittäjät tarkoittivat.
Yhtiö on ottanut käyttöön kehyksen tekoälyn virheellisyyden tunnistamiseksi ja raportoimiseksi useiden välikohtausten jälkeen, joissa mallit ovat vuorovaikutuksessa ulkoisten verkkosivustojen kanssa.
Heinäkuun Hugging Face -tapahtumasta tuli erityisen merkittävä, koska se osoitti, miten tekoälyagentti, joka harjoittaa kyberturvallisuuteen liittyvää toimintaa, voisi ylittää kehittäjien asettamat rajat.
OpenAI on sittemmin tarkastellut, miten agentit vuorovaikutuksessa internetin kanssa koulutuksen ja arvioinnin aikana, mukaan AP.
Yhtiö on myös viivyttänyt uusimman tekoälymallinsa vapauttamista turvallisuustestaukseen kiinnitettyä huomiota, jonka AP raportoi keskiviikkona.
Antropic on antanut epätavallisen vahvoja tekoälyvaroituksia
Antropic on myös julkisesti varoittanut yhä voimakkaamman tekoälyn aiheuttamista riskeistä.
Toimitusjohtaja Dario Amodei on väittänyt, että tekoälyn kehittäminen voi pian saavuttaa vaiheen, jossa riippumattomien toimijoiden verkostot pystyvät koordinoimaan laajaa verkkotoimintaa.
Associated Press raportoi keskiviikkona, että Amodei on ehdottanut hidastaa kehitystä joissakin olosuhteissa niin, että turvallisuusjärjestelmät on aikaa pysyä nopeasti parantaa tekoälyn valmiuksia.
Varoitukset ovat merkittäviä, koska Anthropic on samanaikaisesti yksi yrityksistä, jotka kilpailevat rakentaakseen joitakin maailman kyvykkäimmistä tekoälyjärjestelmistä.
Sen Claude-mallit kilpailevat suoraan OpenAI:n, Googlen ja muiden merkittävien kehittäjien tuotteiden kanssa.
Kuluttajat ovat yhä enemmän vuorovaikutuksessa tekoälyyn vaikuttavien aineiden kanssa.
Lainsäädännölliset panokset kasvavat, koska tekoälyn tekijät ovat ylittämässä kokeellista tutkimusta.
Teknologiayritykset integroivat autonomisia valmiuksia koodaustyökaluihin, liikeohjelmistoihin, selaimiin, asiakaspalvelujärjestelmiin ja henkilökohtaisiin avustajiin.
Tulevaisuuden agentit voisivat mahdollisesti varata matkat, hallita kalenterit, ostoksia verkossa, analysoida taloudellisia tietoja ja vuorovaikutuksessa liiketoimintajärjestelmien käyttäjien puolesta.
Jokainen lisäkapasiteetti lisää sekä hyödyllisyyttä että mahdollista riskiä.
Tekoälyassistentilla, joka tuottaa vain tekstiä, on rajallinen kyky vaikuttaa ulkomaailmaan.
Tekoälyagentti, jolla on pääsy sähköpostiin, tileihin, yrityksen tietokantoihin tai ohjelmistoinfrastruktuuriin, voi aiheuttaa paljon suurempia seurauksia, kun jokin menee pieleen.
Tutkimus ei tarkoita, että on todettu väärinkäytöksiä.
FTC:n tutkintaa ei pitäisi tulkita päätelmäksi siitä, että OpenAI, Anthropic tai muut yritykset rikkoivat liittovaltion lakia.
Tutkimukset antavat sääntelyviranomaisille mahdollisuuden kerätä tietoja ja määrittää, ovatko täytäntöönpanotoimet perusteltuja.
Yrityksillä on mahdollisuus selittää teknologiaansa, turvallisuusmenettelyjään ja sisäistä valvontaaan.
Tutkimus voi johtaa lopulta täytäntöönpanotoimiin, toimintasuosituksiin, sovintoihin tai muodollisiin toimiin tiettyjä yrityksiä vastaan.
Toistaiseksi tärkein kehitysaskel on se, että riippumattomat tekoälyn tekijät ovat siirtyneet tiukasti Yhdysvaltojen kuluttajansuojaviranomaisten asialistalle.
Tekoälyasetus siirtyy uuteen vaiheeseen
Tekoälyä koskevassa poliittisessa keskustelussa keskityttiin useiden vuosien ajan hypoteettisiin tulevaisuuden riskeihin.
Al-agenttien ilmaantuminen muuttaa keskustelua.
Sääntelyviranomaiset kohtaavat nyt järjestelmiä, jotka voivat toimia vuorovaikutuksessa reaalimaailman kanssa, toisinaan odottamattomin tavoin.
Tämä luo kyberturvallisuuteen, kuluttajansuojaan, yksityisyyteen ja oikeudelliseen vastuuseen liittyviä kysymyksiä, joita ei ole helppo erottaa toisistaan.
FTC:n tutkimuksesta voisi näin ollen tulla tärkeä testi sille, miten Yhdysvaltojen nykyisiä lakeja sovelletaan uuteen, yhä itsenäisempään tekoälyn sukupolveen.
Tulos voi vaikuttaa OpenAI:n ja Anthropicin lisäksi lähes kaikkiin teknologiayrityksiin, jotka suunnittelevat tekoälyagentteja miljoonille kuluttajille.