Disa nga emrat më të mëdhenj në inteligjencën artificiale kanë rënë dakord për një kuadër të ri që ka për qëllim mbajtjen nën kontroll të sistemeve të AI, duke shënuar një moment të rëndësishëm në debatin se si duhet qeverisur teknologjia.
Presidenti Donald Trump njoftoi më 29 shtator se drejtuesit nga kompanitë kryesore të AI kishin nënshkruar një marrëveshje që mbulonte standardet e sigurisë dhe mbikqyrjen e zhvillimit të inteligjencës artificiale.
Kompanitë e përfaqësuara përfshinin [Google] https://w.w.google.com/?utm source=chatgpt.com), [Mata]://w.meta.com/.com/?utm source=chatpt.com), [Hapa]://chapt.com.com]://uepen.com/? [Nutm source=chaurce=chaptt.com) [Athrop vetes/www.com.://wwwwwwwww.nthpt.com.com.woth.
Marrëveshja vjen ndërsa industria e AI përballet me një kontroll në rritje rreth asaj në se mund të zhvillohen pa rrezik sistemet autonome ndërsa kompanitë konkurrojnë për të lëshuar modele më të afta.
Sipas Associated Press, marrëveshja vullnetare përfshin angazhime që përfshijnë kontrolle të forta të brendshme, shqyrtime të pavarura dhe mbikqyrje në nivel bordi.
Zhvillimi mund t'i japë formë fazës tjetër të debatit botëror të AI, veçanërisht sepse Shtetet e Bashkuara deri tani kanë favorizuar një metodë relativisht të përqëndruar novacionet ndërsa Evropa ka lëvizur drejt një rregullimi më të gjerë.
Kompanitë e AI bien dakord për vetë policinë
Ideja qendrore pas marrëveshjes është se kompanitë e AI do të marrin përgjegjësi më të madhe për vlerësimin e rreziqeve të krijuara nga sistemet e tyre.
Marrëveshja bën thirrje për procedura të brendshme të sigurisë si dhe rishikime të jashtme të parashikuara për të siguruar kontroll shtesë të modeleve gjithnjë e më të fuqishme të AI.
Trump e përshkroi marrëveshjen si detyruese morale dhe jo si një mandat rregullues tradicional.
Reuters raportoi se administrata po konsideron gjithashtu ngritjen e një komiteti prej 10 anëtarësh për të mbikqyrur zhvillimet anembanë industrisë së AI. Detajet rreth komitetit, duke përfshirë autoritetin e mundshëm dhe anëtarësimin e tij, nuk janë finalizuar ende.
Kryetari i dhomës Majk Xhonson konfirmoi më vete se drejtuesit e industrisë së AI kishin nënshkruar një marrëveshje lidhur me standardet teknologjike gjatë takimit të Shtëpisë së Bardhë.
Për Silicon Valley, qasja vullnetare mund të ofrojë një alternativë ndaj legjislacionit federal më kufizues.
Për kritikët, megjithatë, çështja është nëse kompanitë që zhvillojnë teknologjinë mund të rregullojnë veten efektivisht ndërsa konkurrojnë njëkohësisht për klientët, investimet dhe udhëheqjen teknologjike.
Google, Meta dhe udhëheqës të tjerë të AI bashkohen me bisedimet
Në diskutime morën pjesë disa nga figurat më me ndikim në teknologji.
Sundar Piçai dhe Mark Zuckerberg qenë midis drejtuesve të përfshirë, ndërsa u përfaqësuan gjithashtu kompanitë në qendër të bumit gjenrativ AI.
Marrëveshja arrin në një moment jashtëzakonisht të ndjeshëm për industrinë.
Modelet e AI po bëhen të afta të kryejnë detyra gjithnjë e më komplekse me më pak mbikëqyrje të drejtpërdrejtë njerëzore. Dalja e shpejtë e agjentëve të AI, sistemet e afta të kryejnë sekuenca veprimesh në vend që thjesht t'u përgjigjen pyetjeve, ka intensifikuar shqetësimet rreth sigurisë dhe kontrollit.
Kërkuesit nga laboratorët kryesues të AI kanë paralajmëruar gjithashtu publikisht rreth shpejtësisë së zhvillimit.
Reuters raportoi më 29 shtator se kërkuesit e tanishëm dhe të mëparshëm nga OpenAI dhe Google DeepMind kishin ngritur shqetësime rreth kompanive që ndjekin sisteme të afta për të përmirësuar aftësitë e tyre ndërsa masat e sigurisë përpiqen të mbajnë ritmin.
Këto shqetësime variojnë nga ndërprerja e punës dhe kërcënimet e sigurisë në internet deri në skenarë shumë më të ashpër që përfshijnë sistemet e AI që sillen në mënyra që zhvilluesit e tyre nuk kishin për qëllim.
OpenAI ndaloi një model mbi shqetësimet e sigurisë
Një detaj nga mbledhja e Shtëpisë së Bardhë ilustroi se sa seriozisht po e trajtojnë problemin disa laboratorë.
CEO i OpenAI, Sam Altman tha se kompania e tij kishte ndaluar lëshimin e një modeli për shkak të shqetësimeve të sigurisë, sipas Associated Press.
Zbulimi vjen ndërsa kompanitë e AI provojnë gjithnjë e më shumë modele të përparuara përpara vendosjes publike për të përcaktuar nëse mund të keqpërdoren apo të sillen papritur.
Në të njëjtën kohë, industria ndeshet me presion të madh tregtar për të lëvizur shpejt.
OpenAI, Google, Antropic, Meta dhe kompani të tjera po shpenzojnë shumë në infrastrukturën kompjuterike dhe po konkurrojnë për të ndërtuar sisteme gjithnjë e më të afta AI.
Kjo krijon një ekuilibër të vështirë midis shpejtësisë teknologjike dhe sigurisë.
Nvidia nis teknologjinë e projektuar për të ndaluar agjentët mashtrues AI
Marrëveshja e re pason gjithashtu një njoftim të madh të sigurisë së AI nga Nvidia.
Më 28 shtator Nvidia prezantoi Platformën e saj të Sigurisë të Agjentit të Hapur, një sistem sigurie që synonte të pengonte agjentët autonome të AI nga kryerja e veprimeve të paautorizuara.
Platforma përfshin teknologjinë që vërteton atë që një agjent i AI lejohet të bëjë dhe një komponent tjetër i aftë për të mbikqyrur veprimtarinë e dyshimtë dhe për të nxjerrë në pah sjelljen potencialisht të rrezikshme.
Sipas Associated Press, tashmë më shumë se 100 organizata po përdorin teknologjinë.
CEO i Nvidia Xhensen Huang ka argumentuar se siguria e AI mund të trajtohet pjesërisht si një sfidë inxhinierike, me mbrojtje më të forta të programeve kompjuterike që sigurojnë kufij rreth sistemeve gjithnjë e më autonome.
Uashingtoni peshon një metodë tjetër nga Evropa
Debati thekson gjithashtu një dallim në rritje midis qasjeve amerikane dhe evropiane ndaj inteligjencës artificiale.
Administrata e Trump ka theksuar në mënyrë të përsëritur mbajtjen e udhëheqjes teknologjike të SHBA dhe shmangien e kufizimeve që ajo beson se mund të ngadalësojnë novacionin.
Plani i Veprimit Al i Shtëpisë së Bardhë e përshkruan udhëheqjen në inteligjencën artificiale si një përparësi kombëtare të sigurisë dhe argumenton se Shtetet e Bashkuara duhet të mbeten përpara konkurrentëve globalë.
Rregullatorët evropianë kanë ndërmarrë një metodë më intervenuese.
Në të njëjtën ditë me takimin e Shtëpisë së Bardhë AI, Google sfidoi urdhërat rregullatore të Bashkimit Evropian që i kërkonin atij për të ofruar më shumë mundësi për disa shërbime për zhvilluesit e AI dhe motorët konkurrues të kërkimit.
Google argumenton se kërkesat mund të nxjerrin në pah informacionin e ndjeshëm të përdoruesve, ndërsa Komisioni Europian pohon se janë përfshirë masat e duhura të ruajtjes së konfidencialitetit.
Mosmarrëveshja demonstron se si qeveritë po luftojnë për të balancuar konkurrencën, privatësinë, novacionin dhe sigurinë ndërsa AI bëhet e ngulitur anembanë ekonomisë globale.
Beteja tjetër mbi rregullimin e AI
Marrëveshja vullnetare nuk e zgjidh çështjen më të madhe në se do të kërkohet përfundimisht rregulli i detyrueshëm federal i AI.
Në vend të kësaj, ajo krijon një kuadër të mbështetur në një kohë kur ligjebërësit, studjuesit dhe kompanitë teknologjike po debatojnë se sa shpejt duhet të zhvillohet mbikqyrja e qeverisë.
Interesat janë duke u rritur ndërsa IA lëviz përtej chatboteve dhe në agjentë autonome të aftë për të bashkëvepruar me sistemet kompjuterike, duke shkruar programe, duke kryer kërkime dhe duke kryer detyra të ndërlikuara dixhitale.
Për tani, Uashingtoni po i jep industrisë së teknologjisë përgjegjësi të rëndësishme për vendosjen e masave mbrojtëse rreth prodhimeve të veta.
Nëse angazhimet vullnetare provohen të mjaftueshme mund të bëhen një nga çështjet e politikave të teknologjisë të viteve të ardhshme.
