A mesterséges intelligencia legnagyobb nevei közül néhányan megállapodtak egy új keretben, amelynek célja a madárinfluenza-rendszerek gyors irányítása, ami jelentős pillanatot jelent a technológia irányításáról folytatott vitában.
Donald Trump elnök szeptember 29-én bejelentette, hogy a vezető MI-társaságok vezetői aláírták a biztonsági előírásokról és a mesterséges intelligencia fejlesztésének felügyeletéről szóló megállapodást.
A (z) [Google] (https: / / www.google.com /? utm _ source = chatgpt.com), [Meta] (https: / / www.meta.com /? utm _ source = chatgpt.com), [OpenAI] (https: / / openai.com /? utm _ source = chatgpt.com), [Anthropic] (https: / / www.anthropic.com /? utm _ source = chatgpt.com), [Nvidia] (https: / www.nvidia.com /? m _ chatt.com) és az Axpt.chatt.http: / http: /.
A megállapodás azért jön létre, mert a madárinfluenza-ágazat egyre nagyobb figyelemmel kíséri, hogy az egyre inkább autonóm rendszerek biztonságosan fejleszthetők-e, miközben a vállalatok versenyeznek a képességesebb modellek kibocsátásával.
Az Associated Press szerint az önkéntes megállapodás olyan kötelezettségvállalásokat tartalmaz, amelyek erős belső ellenőrzéseket, független felülvizsgálatokat és igazgatósági szintű felügyeletet foglalnak magukban.
A fejlesztés alakíthatná a globális madárinfluenza-vita következő szakaszát, különösen azért, mert az Egyesült Államok eddig egy viszonylag innovációra összpontosító megközelítést részesített előnyben, miközben Európa a szélesebb körű szabályozás felé mozdult el.
Az MI-cégek megállapodnak, hogy rendfenntartók lesznek.
A megállapodás középpontjában az áll, hogy a madárinfluenza-társaságok nagyobb felelősséget vállalnak a saját rendszereik által okozott kockázatok értékeléséért.
A megállapodás belső biztonsági eljárásokat és külső felülvizsgálatokat ír elő, amelyek célja az egyre erősebb madárinfluenza-modellek további vizsgálata.
Trump úgy írta le a megállapodást, mint morálisan kötelező erejű, nem pedig hagyományos szabályozási felhatalmazást.
A Reuters arról számolt be, hogy az adminisztráció mérlegeli egy 10 tagú bizottság létrehozását is, amely felügyeli a madárinfluenza-ágazat fejlődését. A bizottsággal kapcsolatos részleteket, beleértve potenciális hatáskörét és tagságát, még nem véglegesítették.
Mike Johnson házelnök külön megerősítette, hogy az AI ipari vezetők aláírtak egy megállapodást a technológiai szabványokról a Fehér Ház ülésén.
A Szilícium-völgy esetében az önkéntes megközelítés a szigorúbb szövetségi jogszabályok alternatíváját kínálhatja.
A kritikusok számára azonban az a kérdés, hogy a technológiát fejlesztő vállalatok képesek-e hatékonyan szabályozni magukat, miközben az ügyfelekért, a beruházásokért és a technológiai vezető szerepért versengenek.
Google, Meta és más MI vezetők csatlakoznak a beszélgetésekhez
A vitákban a technológia legbefolyásosabb szereplői is részt vettek.
Sundar Pichai és Mark Zuckerberg az érintett vezetők között voltak, míg a generatív AI boom központjában lévő cégeket szintén képviselték.
A megállapodás egy szokatlanul érzékeny pillanatban érkezik az ipar számára.
A madárinfluenza-modellek egyre összetettebb feladatokat tudnak végezni kevesebb közvetlen emberi felügyelet mellett. A madárinfluenza-kórokozók gyors megjelenése, a cselekvések sorozatainak végrehajtására képes rendszerek, nem pedig egyszerűen a kérdésekre válaszolnak, fokozta a biztonsággal és az ellenőrzéssel kapcsolatos aggodalmakat.
A vezető madárinfluenza-laboratóriumok kutatói szintén nyilvánosan figyelmeztettek a fejlődés sebességére.
A Reuters szeptember 29-én arról számolt be, hogy az OpenAI és a Google DeepMind jelenlegi és korábbi kutatói aggodalmukat fejezték ki a saját képességeik javítására képes rendszereket alkalmazó cégekkel kapcsolatban, miközben a biztonsági intézkedések igyekeztek lépést tartani.
Ezek az aggodalmak a munkahelyek megszakadásától és a kiberbiztonsági fenyegetésektől egészen a sokkal súlyosabb forgatókönyvekig terjednek, amelyek során a madárinfluenza-rendszerek úgy viselkednek, ahogy a fejlesztők nem akartak.
OpenAI megállított egy modellt a biztonsági aggályok miatt
A Fehér Ház egyik részlete illusztrálta, hogy egyes laboratóriumok milyen komolyan kezelik a problémát.
Az OpenAI vezérigazgatója, Sam Altman azt mondta, hogy a cége a biztonsági aggályok miatt szüneteltette egy modell kiadását az Associated Press szerint.
A nyilvánosságra hozatalra azért kerül sor, mert a mesterséges intelligenciával foglalkozó vállalatok egyre inkább tesztelik a fejlett modelleket a nyilvános bevezetés előtt annak megállapítása érdekében, hogy fel lehet-e használni őket, vagy váratlan módon viselkedni.
Ugyanakkor az iparra óriási kereskedelmi nyomás nehezedik, hogy gyorsan mozogjon.
Az OpenAI, a Google, az Anthropic, a Meta és más vállalatok jelentős összegeket költenek számítástechnikai infrastruktúrára, és versenyeznek az egyre inkább alkalmas MI-rendszerek kiépítéséért.
Ez nehéz egyensúlyt teremt a technológiai sebesség és a biztonság között.
Az Nvidia olyan technológiát indít, amely megállítja az MI ügynököket.
Az új megállapodás az MI biztonsági bejelentését is követi a Nvidia részéről.
Szeptember 28-án a Nvidia bevezette a Nyílt Ügynök Biztonsági Platformját, egy biztonsági rendszert, amelynek célja, hogy megakadályozza az autonóm MI ügynökök jogosulatlan cselekvéseit.
A platform olyan technológiát tartalmaz, amely ellenőrzi, hogy egy MI ügynök mit tehet, és egy másik komponenst, amely képes a gyanús tevékenység megfigyelésére és a potenciálisan veszélyes viselkedés karanténba helyezésére.
Az Associated Press szerint már több mint 100 szervezet használja a technológiát.
A Nvidia vezérigazgatója, Jensen Huang azzal érvelt, hogy az MI biztonságot részben műszaki kihívásként lehet megközelíteni, erősebb szoftvervédelemmel, amely egyre inkább autonóm rendszerek határait biztosítja.
Washington más megközelítést alkalmaz, mint Európa
A vita rávilágít a mesterséges intelligencia amerikai és európai megközelítései közötti növekvő különbségre is.
A Trump adminisztráció többször hangsúlyozta fenntartása az USA technológiai vezető és elkerülése korlátozások, hogy úgy gondolja, lassíthatja az innovációt.
A Fehér Ház AI cselekvési terve a mesterséges intelligenciában betöltött vezető szerepet nemzetbiztonsági prioritásként írja le, és azt állítja, hogy az Egyesült Államoknak a globális versenytársak előtt kell maradnia.
Az európai szabályozók inkább beavatkozó megközelítést alkalmaznak.
Ugyanazon a napon, mint a White House AI találkozó, a Google kétségbe vonta az Európai Unió szabályozási utasításait, amelyek megkövetelik tőle, hogy nagyobb hozzáférést biztosítson bizonyos szolgáltatásokhoz a madárinfluenza-fejlesztők és a versengő keresőmotorok számára.
A Google azzal érvel, hogy a követelmények érzékeny felhasználói információkat tárhatnak fel, míg az Európai Bizottság fenntartja, hogy megfelelő adatvédelmi biztosítékokat tartalmaznak.
A vita azt mutatja, hogy a kormányok hogyan küzdenek a verseny, a magánélet, az innováció és a biztonság egyensúlyáért, mivel a madárinfluenza beágyazódik a világgazdaságban.
A következő csata az MI szabályozás miatt
Az önkéntes megállapodás nem oldja meg azt a nagyobb kérdést, hogy szükség lesz-e a kötelező erejű szövetségi madárinfluenza-szabályozásra.
Ehelyett egy olyan, az ipar által támogatott keretet hoz létre, amikor a jogalkotók, a kutatók és a technológiai vállalatok megvitatják, hogy milyen gyorsan fejlődjön a kormányzati felügyelet.
A tét növekszik, ahogy a MI túllép a chatbotokon, és olyan önálló ügynökökké válik, amelyek képesek együttműködni a számítógépes rendszerekkel, szoftvereket írni, kutatást végezni és bonyolult digitális feladatokat végezni.
Jelenleg Washington jelentős felelősséget vállal a technológiai iparért a saját termékeivel kapcsolatos biztosítékok létrehozásáért.
Az, hogy az önkéntes kötelezettségvállalások elégségesek-e, az elkövetkező évek egyik meghatározó technológiai politikai kérdésévé válhat.