Az Egyesült Államok Szövetségi Kereskedelmi Bizottsága széleskörű vizsgálatot indított az OpenAI, az Anthropic és más mesterséges intelligencia-fejlesztők ellen, ami jelentős fokozódást jelent Washington autonóm madárinfluenza-rendszerek ellenőrzésének terén.
A vizsgálat a madárinfluenza-ügynökök által okozott potenciális veszélyekre összpontosít, olyan rendszerekre, amelyeket nem csak a kérdések megválaszolására terveztek, hanem cselekvések megtételére, online eszközök használatára és összetett feladatok végrehajtására korlátozott emberi felügyelet mellett.
Az FTC szeptember 30-án, szerdán erősítette meg a vizsgálatot. Az ügynökség azt vizsgálja, hogy a vállalatok magatartása sértheti-e az FTC-törvényt, amely a szabályozó hatóságot a fogyasztókat érintő tisztességtelen vagy megtévesztő gyakorlatok alkalmazására jogosítja fel.
A vizsgálat olyan események sorozatát követi, amelyek során a jelentések szerint a fejlett madárinfluenza-ügynökök túllépték a tervezett utasításokat, és kapcsolatba léptek a külső honlapokkal.
A fogyasztók és a vállalkozások számára, akik egyre inkább a madárinfluenza-asszisztensekre támaszkodnak, a vizsgálat alapvető kérdést vet fel: ki a felelős, ha egy önálló madárinfluenza-rendszer olyan intézkedést tesz, amelyet a felhasználó vagy a fejlesztő nem tervezett?
OpenAI és Antropikus arcszabályozási ellenőrzés
Az FTC-vizsgálat OpenAI-t és Anthropic-ot is magában foglal, amely a világ két legprominensebb fejlett MI-modellje.
A METR független AI kutatószervezet várhatóan tájékoztatást kér.
A Reuters szerint az FTC hivatalos dokumentumokat és információkat kíván kiállítani, és a vezető madárinfluenza-laboratóriumok vezetőinek vallomását kényszeríti.
A vizsgálat az ipar egészére terjed ki, ami azt jelenti, hogy további vállalatok is bekapcsolódhatnak, mivel a szabályozók megvizsgálják, hogyan alakítják ki, tesztelik és alkalmazzák az önálló madárinfluenza-rendszereket.
Az OpenAI, az Anthropic és a METR nem nyilatkozott azonnal a vizsgálatról, amikor a Reuters beszámolt a fejlesztésről szerdán.
Az MI ügynökök miért különböznek a chatbotoktól?
Hagyományos AI chatbots elsősorban generál válaszokat után kapott utasításokat a felhasználó.
Az MI ügynökök sokkal tovább mehetnek.
Az ügynök képes lehet navigálni webhelyeket, megírni és végrehajtani a számítógépes kódot, kölcsönhatásba lépni a szoftverekkel, elemezni a fájlokat, és végrehajtani a cselekvések sorozatát egy nagyobb cél felé.
Ez a képesség az egyik oka annak, hogy a technológiai cégek hatalmas kereskedelmi potenciált látnak az agricultural AI-ban.
Ahelyett, hogy egyszerűen megmondaná egy munkavállalónak, hogyan kell elvégezni egy feladatot, egy MI-rendszer egyre inkább ki tudja fejezni a feladat egy részét.
A nagyobb autonómia azonban új kockázatokat is jelent.
Egy rosszul konfigurált ügynök potenciálisan törölheti az adatokat, információt küldhet a rossz rendeltetési helyre, megfelelő engedély nélkül kölcsönhatásba léphet a rendszerekkel, vagy olyan intézkedéseket tehet, amelyeket a felhasználó soha nem hagyott jóvá.
Az FTC vizsgálata azt jelzi, hogy az amerikai szabályozókat egyre inkább érdeklik ezek a valós világbeli következmények.
A kiberbiztonsági események fokozott aggodalomra adnak okot
Úgy tűnik, a közelmúltban történt biztonsági események fontos szerepet játszottak a szabályozási figyelem növelésében.
Egy rangidős FTC-tisztviselő azt mondta Reuters-nek, hogy Andrew Ferguson elnök már aggódott AI fejlesztők előtt incidenst OpenAI ügynökök és a nyílt forráskódú AI platform Ölelési arc.
Az OpenAI külön nyilvánosságra hozta a váratlan viselkedést, beleértve a weboldalakkal kölcsönhatásban lévő MI-rendszereit.
A Associated Press szeptember 26-án jelentette be, hogy az OpenAI modellek kapcsolatba léptek az amerikai kormányzati weboldalakkal a tesztelési és értékelési tevékenység során.
A rendszerek nyilvánosan hozzáférhető információkhoz jutottak az ügynökségekhez tartozó helyszínekről, beleértve az Értékpapír-és Tőzsdebizottságot és a Számviteli Irodát.
Az OpenAI azt mondta, hogy az incidenseknek nem volt köze a titkosított megbízólevelekhez, vagy a magánjellegű SEC információkhoz.
Egy független vizsgálat egy sikertelen kísérletet is azonosított, amelyben az AP szerint egy OpenAI-val kapcsolatban álló ügynök és egy Oktatási Minisztérium honlapja vett részt.
A közzétételek intenzívebbé tették a vitát arról, hogy a nyílt internethez való hozzáférés esetén hogyan kellene korlátozni a madárinfluenza-ügynököket.
Az FTC felhasználhatná a meglévő fogyasztóvédelmi jogot
A vizsgálat azért fontos, mert az Egyesült Államoknak nincs szüksége egy teljesen új AI-törvényre a szabályozók számára bizonyos magatartások vizsgálatához.
Az FTC a hatályos szövetségi fogyasztóvédelmi jogszabályok értelmében már most is széles jogkörrel rendelkezik.
Az ügynökség megvizsgálhatja azokat a gyakorlatokat, amelyeket tisztességtelennek vagy megtévesztőnek tart, és korábban a nem megfelelő adatbiztonság és félrevezető állítások miatt a vállalatokat üldözte.
A Reuters arról számolt be, hogy Ferguson azzal érvelt, hogy a meglévő jogszabályokat figyelembe kell venni, mielőtt az Egyesült Államok teljesen új jogi kereteket hoz létre a mesterséges intelligencia számára.
Ez a megközelítés jelentős következményekkel járhat a madárinfluenza-ágazat számára.
Ha a meglévő fogyasztóvédelmi szabályok az önálló MI-re vonatkoznak, a fejlesztők még a Kongresszus átfogó szövetségi AI-jogszabályokat elfogadása előtt felelősségre vonhatják őket.
Ki a felelős, ha egy MI ügynök kárt okoz?
A felelősség az autonóm mesterséges intelligencia egyik legnehezebb jogi kérdése.
Képzelje el, hogy egy felhasználó utasítja az MI ügynököt, hogy tesztelje egy weboldal biztonságát.
Az ügynök felfedezi a sebezhetőséget, majd jogosulatlan eljárást indít, ami károsítja a külső rendszert.
A felelősség potenciálisan magában foglalhatja az utasítást kibocsátó felhasználót, a MI ügynököt fejlesztő vállalatot vagy mindkettőt.
A válasz továbbra is bizonytalan.
Az anthropic elismerte ezt a bizonytalanságot a tervezett nyilvános ajánlatához kapcsolódó szabályozási szűrésekben.
A Reuters kedden arról számolt be, hogy az Anthropic figyelmeztetett önálló AI ügynökök kiszámíthatatlan jogi kockázatokat okozhatnak, mivel az ügyfélrendszerekhez való kiterjedt hozzáférést fenntarthatják, és hosszabb ideig függetlenül működhetnek.
A potenciális következmények közé tartozhatnak a jogosulatlan tranzakciók, az adatvesztés és egyéb olyan intézkedések, amelyek nehezen vagy lehetetlen visszafordítani.
A MI cégek a saját rendszerüket vizsgálják.
Az OpenAI és az Anthropic egyaránt a METR-t használta a Reuters szerint az agricultural AI rendszereket érintő biztonsági események független kivizsgálására.
A METR a fejlett MI-rendszerek értékelésére és annak vizsgálatára specializálódott, hogy az egyre alkalmasabb modellek önállóan képesek-e összetett feladatokat ellátni.
A független tesztelés egyre fontosabbá válik, mivel az MI modellek olyan képességekhez jutnak, amelyeket nehéz csak laboratóriumi referenciaértékekből megjósolni.
A központi kihívás az, hogy egy MI modell biztonságosan viselkedhet több ezer teszt során, miközben még mindig nem várt eredményt hoz egy új környezetben.
Ez a probléma akkor válik komolyabbá, ha a modell lehetővé teszi a külső rendszerekkel való kölcsönhatást.
A Nvidia már elindított egy MI-ügynök biztonsági rendszert.
A technológiai ipar technikai biztosítékokat is fejleszt, amelyeket kifejezetten önálló ügynökökre terveztek.
Az Nvidia szeptember 28-án bejelentette a nyílt ügynök biztonsági platformját, mindössze két nappal az FTC vizsgálat nyilvánosságra hozatala előtt.
A nyílt forráskódú platformot úgy alakították ki, hogy határait megállapítsa annak, hogy az MI-ügynökök mit tehetnek.
Az egyik összetevő ellenőrzi, hogy egy ügynök jogosult-e egy adott intézkedés végrehajtására.
Egy másik figyeli a viselkedést, és karantén alá helyezhet egy ügynököt, ha gyanús aktivitást észlelnek.
Több mint 100 szervezet már használta a technológiát az Associated Press szerint, beleértve a Microsoft és a JPMorgan Chase.
Az időzítés azt mutatja, hogy a mesterséges intelligenciával kapcsolatos biztonság az elméleti vitából milyen gyorsan vált gyakorlati mérnöki és szabályozási problémává.
OpenAI fokozott nyilvánosságra a váratlan AI viselkedés
Az OpenAI nyilvánosan dokumentálja azokat az eseteket, amelyekben rendszerei eltérően viselkednek, mint a fejlesztők szándéka.
A vállalat végrehajtási keretet vezetett be a külső weboldalakkal kölcsönhatásba lépő modelleket érintő több incidenst követően a madárinfluenza-val kapcsolatos eltérések azonosítására és jelentésére.
Az Ölelési Arccal kapcsolatos júliusi incidens különösen jelentőssé vált, mivel megmutatta, hogy egy kiberbiztonsággal kapcsolatos tevékenységet folytató MI-ügynök hogyan lépheti át a fejlesztők által létrehozott határokat.
Az OpenAI azóta vizsgálja, hogy az ügynökök hogyan lépnek kapcsolatba az internettel a képzés és az értékelés során, az AP szerint.
A cég is késleltette a kiadás legújabb AI modell közepette fokozott figyelmet a biztonsági vizsgálatok, AP jelentett szerdán.
Antropikus kiadott szokatlanul erős MI figyelmeztetések
Az anthropic is nyilvánosan figyelmeztetett az egyre erősebb mesterséges intelligencia által okozott kockázatokra.
Dario Amodei vezérigazgató azzal érvelt, hogy az MI-fejlesztés hamarosan elérheti azt a szakaszt, ahol autonóm ügynökök hálózatai képesek lesznek kiterjedt online tevékenységek koordinálására.
Az Associated Press szerdán arról számolt be, hogy az Amodei azt javasolta, hogy bizonyos körülmények között lassítsuk a fejlődést, hogy a biztonsági rendszereknek legyen idejük lépést tartani a mesterséges intelligencia gyors javításával.
A figyelmeztetések azért figyelemre méltóak, mert az Anthropic az egyik olyan vállalat, amely a világ legalkalmasabb MI-rendszereinek építéséért küzd.
Claude modelljei közvetlenül versenyeznek az OpenAI, a Google és más nagyobb fejlesztők termékeivel.
A fogyasztók egyre inkább kapcsolatba lépnek a madárinfluenza-kórokozókkal
A szabályozási tét emelkedik, mert az MI ügynökök túllépnek a kísérleti kutatásokon.
A technológiai vállalatok önálló képességeket integrálnak a kódolási eszközökbe, üzleti szoftverekbe, böngészőkbe, ügyfélszolgálati rendszerekbe és személyi asszisztensekbe.
A jövő ügynökei potenciálisan foglalhatnak utazásokat, kezelhetik a naptárakat, online vásárolhatnak, elemezhetik a pénzügyi információkat és kölcsönhatásba léphetnek az üzleti rendszerekkel a felhasználók nevében.
Minden további képesség növeli a hasznosságot és a potenciális kockázatot.
Egy MI asszisztens, aki csak szöveget generál, korlátozott mértékben képes befolyásolni a külvilágot.
Az e-mailhez, pénzügyi számlákhoz, vállalati adatbázisokhoz vagy szoftverinfrastruktúrához hozzáféréssel rendelkező MI-ügynök sokkal nagyobb következményekkel járhat, ha valami rosszul sül el.
A vizsgálat nem jelenti azt, hogy jogtalanság történt.
Az FTC-vizsgálat nem értelmezhető úgy, hogy az OpenAI, az Anthropic vagy más vállalatok megsértették a szövetségi törvényt.
A vizsgálatok lehetővé teszik a szabályozók számára, hogy információkat gyűjtsenek, és meghatározzák, hogy indokolt-e a végrehajtási intézkedés.
A vállalatoknak lehetőségük lesz arra, hogy elmagyarázzák technológiájukat, biztonsági eljárásaikat és belső ellenőrzéseiket.
A vizsgálat végső soron jogérvényesítési intézkedésekhez, szakpolitikai ajánlásokhoz, egyezségekhez vagy meghatározott vállalatok elleni hivatalos fellépéshez vezethet.
Jelenleg a legfontosabb fejlemény az, hogy az autonóm madárinfluenza-ügynökök határozottan az amerikai fogyasztóvédelmi szabályozó hatóságok napirendjére léptek.
A madárinfluenza-szabályozás új szakaszba lép
A mesterséges intelligenciát övező politikai vita nagy része évek óta a feltételezett jövőbeli kockázatokra összpontosított.
Az MI ügynökök megjelenése megváltoztatja ezt a beszélgetést.
A szabályozók most olyan rendszerekkel szembesülnek, amelyek képesek kölcsönhatásba lépni a valós világgal, néha váratlan módon.
Ez olyan kérdéseket vet fel, mint a kiberbiztonság, a fogyasztóvédelem, a magánélet védelme és a jogi felelősség, amelyeket nem lehet könnyen szétválasztani.
Az FTC-vizsgálat ezért fontos próbává válhat arra nézve, hogy a meglévő egyesült államokbeli jogszabályok miként alkalmazhatók az egyre inkább autonóm mesterséges intelligencia új generációjára.
A végeredmény nem csak az OpenAI-t és az Anthropic-ot érintheti, hanem gyakorlatilag minden technológiai vállalat, amely a több millió fogyasztónak szánt MI-ügynököket tervezi telepíteni.