Anlaşma, Frontier Responsibiliteleri ile Ortak Komünite olarak adlandırılan anlaşma 29 Eylül'de Başkan Donald Trump ve lider teknoloji yöneticileri içeren bir Beyaz Saray toplantısının ardından duyuruldu.
Belge, Google.'ı temsil eden yöneticiler tarafından imzalandı, MetaAI, OpenAI, Nvidia., Anthropic. ve X., Reuters'e göre.
UOL Notícias +1
Federal bir düzenlemenin aksine, anlaşma gönüllüdür. Yönetim bunu, giderek yetenekli yapay zeka modellerini geliştiren şirketlerde daha güçlü korumalar kurmayı amaçlayan bir taahhüt olarak tanımladı.
Geliştirme hükümetler, teknoloji şirketleri ve araştırmacılar, AI'nın inovasyonu önlemeden ne kadar hızlı bir şekilde ilerlediğini tartışıyorlar.
AI şirketleri ne yapmayı kabul etti
Anlaşma dört geniş güvenlik kontrol katmanı oluşturuyor.
Katılımcı şirketlerin hem eğitim hem de dağıtım sırasında AI modellerinin yeteneklerini ve davranışlarını izlemesi bekleniyor.
Bu kontroller, siber tehditler ve kimyasal tehditler gibi alanları içeren potansiyel riskleri tanımlamak için tasarlanmıştır.
Anlaşma, AI modellerinin istenmeyen şekillerde teknik sistemlerle erişimini veya müdahale etmesini engellemek için tasarlanmış korumaları çağrısında bulunuyor.
UOL Notícias
Şirketler ayrıca izleme ve algılama sistemlerinin amaçlandığı şekilde çalıştığını kontrol etmekten sorumlu iç takımları korumaları bekleniyor.
Farklı bir gözetim seviyesi şirketlerin dışında gelirdi.
Bağımsız AI değerlendirmeleri anlaşmanın bir parçasıdır
Katılımcı şirketlerin dış denetçiler veya tahliyecilerle çalışması için en önemli hükümlerden biri.
Bu bağımsız değerlendirmeler, şirketlerin AI izleme ve kontrol sistemlerinin amaçlandığı şekilde çalıştığını inceleyecek.
Anlaşma ayrıca şirketler için hem iç takımlardan hem de dış evlerden bilgi alacak bağımsız yönetim komitelerini kurmak için çağrıda bulunuyor.
UOL Notícias +1
Katılımcı şirketlerin, sistemlerinin güvenliğini artırmak için düzenli olarak standartları ve en iyi uygulamaları geliştirmeleri bekleniyor.
Belge aynı zamanda bu önlemlerin bazılarının sonunda resmi yasalar veya düzenlemelerin bir parçası olabileceğini de kabul eder.
UOL Notícias
Ancak şimdilik, taahhütler yasal olarak federal kuralları bağlayıcı değildir.
Anlaşma neden önemlidir
Anlaşma yapay zeka endüstrisi için önemli bir anda geliyor.
AI sistemleri, soruları cevaplamanın ve metin, görüntüler veya bilgisayar kodunun ötesine giderek daha fazla ilerliyor.
Şirketler artık eylemlerin sıralarını taşıyabilen AI ajanlarını geliştiriyorlar, yazılım araçlarını kullanıyor ve daha az doğrudan insan gözetimi ile görevleri tamamlıyorlar.
Bu genişleme, şirketlerin onları serbest bırakmadan önce güçlü modelleri nasıl test ettiğine dikkat çekti.
Yeni anlaşma, birçok kontrol uygulamaktan sorumlu bireysel şirketler bırakarak büyük AI geliştiricileri arasında paylaşılan bir çerçeve yaratmaya çalışır.
Associated Press, anlaşmanın, katılımcı şirketlerde içsel korumalar, bağımsız dış incelemeler ve gözetim mekanizmaları içerdiğini bildirdi.
AP News
En büyük AI şirketleri Washington'daydı
Beyaz Saray toplantısı, küresel teknolojideki en etkili figürlerin çoğunu bir araya getirdi.
Meta, Nvidia, Anthropic, OpenAI, Google, Microsoft, Amazon ve X'e bağlı liderler içeriyordu.
AP News
Katılımları, ABD'deki en büyük teknoloji şirketleri ile nasıl yakın bir AI politikasının nasıl bağlantılı olduğunu göstermektedir.
Katılan şirketler AI modellerine, bilişim altyapısına, çiplere ve veri merkezlerine ağır yatırım yapıyorlar.
Aynı zamanda, dünyadaki hükümetler bu sistemler olarak hangi korumaların daha yetenekli hale geldiğini belirlemeye çalışıyor.
Amerika.gov da başlatıyor
AI güvenlik anlaşması Washington'dan gelen tek büyük teknoloji duyurusu değildi.
Beyaz Saray da Amerika.gov'u başlattı, Amerikalılara federal hükümet bilgi ve hizmetlerine erişmek için tek bir yer vermeyi amaçladı.
Beyaz Saray'a göre, kullanıcılar sıradan dili kullanarak servisle iletişim kurabilir ve sayısız bireysel federal ajans web sitesine bakmadan cevap alabilir.
Beyaz Saray
Yönetim, platformun sonunda insanların izin ve teknik altyapının mevcut olduğunda belirli hükümet işlemlerini tamamlamalarına izin vermek için tasarlandığını söylüyor.
Beyaz Saray ayrıca mahremiyet korumalarının hizmete dahil edilmesi amaçlanmıştır.
Beyaz Saray
Tanıtım, normal vatandaşlar tarafından kullanılan kamu hizmetlerine deneysel uygulamalardan hareket eden jeneratif AI'nın başka bir örneğini temsil eder.
AI yönetmeliği önemli bir tartışma olarak kalır
Anlaşmanın gönüllü doğası, AI yönetmeliği üzerindeki daha geniş tartışmanın önemli bir parçası olması muhtemeldir.
Endüstri destekçiler, yapay zekanın bu kadar hızlı bir şekilde geliştiğini iddia ediyor, katı düzenleme teknolojik gelişmelerle hıza devam etmek için mücadele edebilir.
Gönüllü sistemlerin eleştirileri, güçlü AI modellerini geliştiren şirketlerin öncelikle iç kontrollere güvenmek yerine uygulanabilir dış standartlarla yüzleşmesi gerektiğini savunuyor.
Yeni anlaşma bağımsız değerlendirme içerir, ancak şirketler kendi güvenlik sistemlerini uygulamak için önemli sorumluluğu korur.
Anlaşmanın kendisi, ilkelerinin sonunda mevzuata veya resmi düzenlemelere dahil edilebilebileceğine açık bırakıyor.
UOL Notícias
Bu, 29 Eylül'ün Amerikan AI gözetiminin son şekli yerine erken bir çerçeveyi temsil edebileceği anlamına geliyor.
Avrupa farklı bir yol alıyor
Amerika Birleşik Devletleri, izolasyonda AI politikası geliştirmemektedir.
Avrupa, Avrupa Birliği'nin yapay zeka kuralları ve daha geniş dijital mevzuatı aracılığıyla daha düzenleyici bir yaklaşım takip etti.
Aksine önemli bir uluslararası politika sorusu yarattı: gelişmiş AI’nın öncelikle mevzuat, endüstri taahhütleri, bağımsız denetim veya tüm üçünün bir kombinasyonu ile yönetilmelidir.
Küresel olarak çalışan teknoloji şirketleri, ürünlerinin teklif edildiği yere bağlı olarak farklı düzenleyici sistemlere uymaları gerekebilir.
Bu, Washington ve Brüksel'deki kararlar, yüzlerce milyon insan tarafından kullanılan modeller için özellikle önemlidir.
AI güvenlik endişeleri kapasite ile büyüyor
Anlaşma aynı zamanda birçok lider AI şirketi, giderek yetenekli sistemlerle ilişkili riskleri tartışmaktadır.
Geliştiriciler siber güvenlik, otonom karar verme, biyolojik bilgiler ve dış yazılım aletlerini çalıştırma yeteneği ile ilgili modeller test ediyor.
Bu yetenekler yararlı uygulamalar yaratabilir, ancak aynı zamanda sistemlerin hangi geliştiricilerin istediğinden farklı davrandığı konusunda sorular da yükseltirler.
Yeni anlaşma bu konuyu tek bir iç güvenlik sürecine güvenmek yerine birden fazla izleme katmanını talep ederek ele almaya çalışır.
Dış değerlendirme, şirketler giderek daha bağımsız AI ajanlarını serbest bırakmakla özellikle önemli olabilir.
Bir sonraki neler oluyor
Acil soru, katılımcı şirketlerin anlaşmayı operasyonel güvencelere nasıl çevireceğidir.
Belge ilkeleri oluşturur, ancak bu ilkelerin etkinliği, bağımsız evaluatörlerin nasıl seçileceği, hangi standartların uygulanması ve şirketlerin risklerin ne zaman tespit edildiğine bağlı olacaktır.
Başka bir soru şeffafdır.
Halk, şirketlerin serbest bırakılmadan önce gelişmiş modelleri nasıl değerlendirildiğini ve dağıtımdan sonra hangi korumaların çalıştığını açıklamaya giderek daha fazla bekleyebilir.
Şimdilik, anlaşma, dünyanın en gelişmiş yapay zeka sistemlerini inşa eden birçok şirket içeren önemli bir koordineli taahhütü temsil ediyor.
Bu gönüllü korumaların sonunda zorunlu kurallar kanun yapıcılar, düzenleyiciler ve şirketler tarafından gelecekteki kararlara bağlı olacaktır.
Zaten açık olan şey, AI güvenliği, hükümetler, işletmeler ve her gün yapay zeka kullanan milyonlarca insan için merkezi bir soru haline geldi.
