A megállapodást, az úgynevezett közös kötelezettségvállalást a határigazgatással kapcsolatban, szeptember 29-én jelentették be a Fehér Ház ülését követően Donald Trump elnök és vezető technológiai vezetők részvételével.
A dokumentumot a Reuters szerint a Google, a Meta, az OpenAI, a Nvidia, az Anthropic és az X.
UOL Notícias + 1
A szövetségi szabályozástól eltérően a megállapodás önkéntes. Az adminisztráció azt a kötelezettségvállalást írta le, amelynek célja, hogy erősebb biztosítékokat alakítson ki az egyre alkalmasabb mesterséges intelligencia modelleket fejlesztő vállalatokon belül.
A fejlődés akkor következik be, amikor a kormányok, a technológiai vállalatok és a kutatók folytatják a vitát arról, hogy az innováció megelőzése nélkül milyen gyorsan kell ellenőrizni a madárinfluenza kialakulását.
Mit tettek az MI-társaságok?
A megállapodás négy széles biztonsági szintet határoz meg.
A részt vevő társaságoktól elvárják, hogy olyan belső rendszereket tartsanak fenn, amelyek mind a képzés, mind a kiképzés során figyelemmel kísérik a madárinfluenza-modelljük képességeit és viselkedését.
Ezek az ellenőrzések a kiberbiztonsággal, a biológiai fenyegetésekkel és a vegyi veszélyekkel kapcsolatos lehetséges kockázatok azonosítására szolgálnak.
A megállapodás kifejezetten olyan biztosítékokat ír elő, amelyek megakadályozzák, hogy a madárinfluenza-modellek nem kívánt módon férjenek hozzá a műszaki rendszerekhez, vagy zavarják azokat.
UOL Notícias
A társaságoktól azt is elvárják, hogy belső csapatokat tartsanak fenn, amelyek feladata annak ellenőrzése, hogy a megfigyelési és felderítő rendszerek a tervek szerint működnek-e.
A felügyelet külön szintje a vállalatokon kívülről érkezne.
A független madárinfluenza-értékelések az alku részét képezik.
Az egyik legfontosabb rendelkezés arra szólít fel, hogy a részt vevő vállalatok külső könyvvizsgálókkal vagy értékelőkkel működjenek együtt.
Ezek a független értékelések megvizsgálnák, hogy a vállalatok madárinfluenza-ellenőrzési és -ellenőrzési rendszere a tervek szerint működik-e.
A megállapodás arra is felszólítja a vállalatokat, hogy hozzanak létre független igazgatósági bizottságokat, amelyek a belső csoportoktól és a külső értékelőktől egyaránt tájékoztatást kapnának.
UOL Notícias + 1
A részt vevő vállalatok várhatóan rendszeresen találkoznak, hogy kidolgozzák rendszereik biztonságának javítását szolgáló szabványokat és bevált gyakorlatokat.
A dokumentum azt is elismeri, hogy ezen intézkedések némelyike végül hivatalos törvények vagy rendeletek részévé válhat.
UOL Notícias
Jelenleg azonban a kötelezettségvállalások jogilag nem kötelező szövetségi szabályok.
Miért számít a megállapodás?
Az egyezség a mesterséges hírszerző ipar számára döntő fontosságú pillanatban érkezik.
A MI rendszerek egyre inkább túlmutatnak a kérdésekre adott válaszokon, és szövegeket, képeket vagy számítógépes kódokat generálnak.
A vállalatok olyan MI-ügynököket fejlesztenek ki, amelyek képesek hosszabb cselekvéssorozatok végrehajtására, szoftvereszközöket használva és kevésbé közvetlen emberi felügyelet mellett elvégezni a feladatokat.
Ez a terjeszkedés növelte a figyelmet arra, hogy a vállalatok hogyan tesztelik az erős modelleket, mielőtt kiadják azokat.
Az új megállapodás arra törekszik, hogy közös keretet hozzon létre a fő madárinfluenza-fejlesztők között, miközben az egyes vállalatok felelősek számos ellenőrzés végrehajtásáért.
Az Associated Press arról számolt be, hogy a megállapodás belső biztosítékokat, független külső felülvizsgálatokat és felügyeleti mechanizmusokat tartalmaz a részt vevő vállalatokon belül.
AP Hírek
A legnagyobb MI cégek voltak Washingtonban
A Fehér Ház gyűlése összehozta a világ legbefolyásosabb figuráit.
A végrehajtók részt vettek a Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon és X-hez kapcsolódó vezetők, az esemény jelentései szerint.
AP News + 1
Részvételük azt mutatja, hogy a madárinfluenza-politika milyen szorosan kapcsolódik az Egyesült Államok legnagyobb technológiai vállalataihoz.
Az érintett vállalatok erősen beruháznak AI modellekbe, számítástechnikai infrastruktúrába, chipekbe és adatközpontokba.
Ugyanakkor a világ kormányai megpróbálják meghatározni, milyen biztosítékokat kell alkalmazni, mivel ezek a rendszerek egyre alkalmasabbak.
America.gov is indul
Az MI biztonsági megállapodás nem volt az egyetlen jelentős technológiai bejelentés Washingtonból.
A Fehér Ház elindította az America.gov-ot, egy új digitális átjárót, amelynek célja, hogy az amerikaiaknak egyetlen helyet biztosítson a szövetségi kormányzati információkhoz és szolgáltatásokhoz való hozzáféréshez.
A Fehér Ház szerint a felhasználók normál nyelven kommunikálhatnak a szolgáltatással és válaszokat kaphatnak anélkül, hogy számos szövetségi ügynökségi weboldalt kellene navigálniuk.
A Fehér Ház
Az adminisztráció szerint a platform végül lehetővé teszi az emberek számára, hogy közvetlenül teljesítsenek bizonyos kormányzati tranzakciókat, amikor az engedély és a technikai infrastruktúra rendelkezésre áll.
A Fehér Ház azt is mondja, hogy a magánélet védelmét be kell építeni a szolgálatba.
A Fehér Ház
A bevezetés egy másik példája annak, hogy a kísérleti alkalmazásokról az átlagpolgárok által használt közszolgáltatásokra kell áttérni.
A madárinfluenza-rendelet továbbra is jelentős vita marad
A megállapodás önkéntes jellege valószínűleg továbbra is fontos része lesz a madárinfluenza-szabályozásról folytatott szélesebb körű vitának.
Az ipar vezető szabványainak támogatói úgy érvelnek, hogy a mesterséges intelligencia olyan gyorsan fejlődik, hogy a merev szabályozás nehezen tud lépést tartani a technológiai fejlődéssel.
Az önkéntes rendszerek kritikusai azzal érvelnek, hogy a hatékony madárinfluenza-modelleket kidolgozó vállalatoknak végrehajtható külső normákkal kell szembenézniük, ahelyett, hogy elsősorban belső ellenőrzésekre támaszkodnának.
Az új megállapodás magában foglalja a független értékelést is, de a vállalatok továbbra is jelentős felelősséget vállalnak saját biztonsági rendszereik végrehajtásáért.
A megállapodás maga nyitva hagyja annak lehetőségét, hogy elveit végül beépítsék a jogszabályokba vagy a hivatalos szabályozásba.
UOL Notícias
Ez azt jelenti, hogy a szeptember 29-i bejelentés inkább korai keretet jelenthet, mint az amerikai MI felügyelet végleges formáját.
Európa más úton halad
Az Egyesült Államok nem önállóan alakítja ki a madárinfluenza-politikát.
Európa az Európai Unió mesterséges intelligenciára vonatkozó szabályain és szélesebb körű digitális jogszabályain keresztül hatékonyabb szabályozási megközelítést alkalmazott.
A kontraszt fontos nemzetközi politikai kérdést vetett fel: vajon a fejlett MI-t elsősorban jogszabályok, ipari kötelezettségvállalások, független könyvvizsgálat vagy mindhárom kombinációja révén kell-e szabályozni.
A globális szinten működő technológiai vállalatoknak végső soron meg kell felelniük a különböző szabályozási rendszereknek attól függően, hogy hol kínálják termékeiket.
Ez különösen fontossá teszi a washingtoni és brüsszeli döntéseket a több százmillió ember által használt modellek kidolgozása szempontjából.
A madárinfluenza-val kapcsolatos biztonsági aggályok fokozódnak a képességekkel
A megállapodás azért is megszületik, mert számos vezető madárinfluenza-gyártó vállalat nyilvánosan megvitatja az egyre alkalmasabb rendszerekkel kapcsolatos kockázatokat.
A fejlesztők tesztelik a kiberbiztonsággal, az önálló döntéshozatallal, a biológiai információkkal és a külső szoftvereszközök működtetésével kapcsolatos viselkedési modelleket.
Ezek a képességek hasznos alkalmazásokat hozhatnak létre, de kérdéseket is felvetnek azzal kapcsolatban, hogy mi történik, ha a rendszerek másképp viselkednek, mint amit a fejlesztők terveznek.
Az új megállapodás arra törekszik, hogy ezt a kérdést többrétegű nyomon követéssel kezelje, ahelyett, hogy egyetlen belső biztonsági folyamatra támaszkodna.
A külső értékelés különösen fontos lehet, mivel a vállalatok egyre önállóbbá váló madárinfluenza-ügynököket bocsátanak ki.
Mi történik ezután?
Az azonnali kérdés az, hogy a részt vevő vállalatok hogyan fogják a megállapodást operatív biztosítékokká alakítani.
A dokumentum alapelveket állapít meg, de ezen elvek hatékonysága a végrehajtástól függ, ideértve a független értékelők kiválasztásának módját, az általuk alkalmazott normákat és a vállalatok kockázatfeltárás során történő válaszát.
Egy másik kérdés az átláthatóság.
A nyilvánosság egyre inkább elvárja a vállalatoktól, hogy elmagyarázzák, hogyan értékelték a fejlett modelleket a kiadás előtt, és milyen biztosítékokat alkalmaznak a telepítés után.
Jelenleg a megállapodás jelentős, koordinált kötelezettségvállalást jelent, amelyben számos vállalat a világ legfejlettebb mesterséges intelligenciarendszereit építi.
Az, hogy ezek az önkéntes biztosítékok végül kötelező szabályokká válnak-e, a jogalkotók, a szabályozó hatóságok és maguk a vállalatok jövőbeli döntéseitől függ.
Ami már most is egyértelmű, hogy a mesterséges intelligenciát használó mesterséges intelligenciák biztonsága a speciális technológiai vitából központi kérdéssé vált a kormányok, vállalkozások és emberek százmilliói számára.