Yapay zekadaki en büyük isimlerin bazıları, hızlı bir şekilde kontrol altında AI sistemlerini sürdürmeyi amaçlayan yeni bir çerçeveye karar verdi, teknolojinin nasıl yönetileceği konusunda tartışmada önemli bir anı işaretlemeyi başardı.
Başkan Donald Trump, 29 Eylül'de lider AI şirketlerinden yöneticilerin yapay zeka gelişimini kapsayan bir güvenlik standartlarını ve gözetimi imzaladıklarını açıkladı.
Şirketler [Google] (https://www.google.com/?utm source=chatgpt.com), [Meta] (https://www.anthropic.com/?utm source=chatgpt.com), [Openai.com/?
Anlaşma, AI endüstrisi, giderek daha bağımsız sistemlerin daha yetenekli modelleri serbest bırakmak için güvenli bir şekilde geliştirilebileceği konusunda endişe verici yüzler olarak geliyor.
Associated Press'e göre, gönüllü anlaşma güçlü iç kontroller, bağımsız incelemeler ve yönetim kurulu seviyesindeki gözetimleri içeren taahhütler içerir.
Geliştirme, küresel AI tartışmanın bir sonraki aşamasını şekillendirebilir, özellikle de Amerika Birleşik Devletleri, Avrupa'nın daha geniş bir düzenlemeye doğru hareket ettiği zaman karşılaştırmalı bir yenilik odaklı bir yaklaşıma çok fazla destek vermiştir.
AI şirketleri polise kendileri katılıyor
Anlaşmanın arkasındaki merkezi fikir, AI şirketlerinin kendi sistemleri tarafından yaratılan riskleri değerlendirmek için daha fazla sorumluluk alacak olmasıdır.
İç güvenlik prosedürleri için de daha güçlü AI modellerinin ek incelemelerini sağlamak için tasarlanmış dış incelemeler için çağrılar.
Trump anlaşmayı geleneksel bir düzenleyici görev yerine ahlaki olarak bağlayıcı olarak tanımladı.
Reuters, yönetimin AI endüstrisindeki gelişmeleri denetlemek için 10 üye komitesi oluşturmayı da düşündüğünü bildirdi. Potansiyel otoritesi ve üyeliği de dahil olmak üzere komite hakkında ayrıntılar henüz sonlanmadı.
Ev Başkanı Mike Johnson, AI endüstri yöneticilerinin Beyaz Saray toplantısı sırasında teknoloji standartlarına uygun bir şekilde imzalandığını doğruladı.
Silikon Vadisi için gönüllü yaklaşım daha kısıtlayıcı federal mevzuata alternatif sunabilir.
Bununla birlikte, eleştirmenler için, soru, teknoloji geliştiren şirketlerin kendilerini aynı anda müşteriler, yatırım ve teknolojik liderlik için rekabet ederken etkin bir şekilde düzenleyebilir.
Google, Meta ve diğer AI liderleri görüşmelere katılıyor
Teknolojideki en etkili rakamlardan birkaçı tartışmalara katıldı.
Sundar Pichai ve Mark Zuckerberg, jeneratif AI patlamasının merkezinde şirketler de temsil edildi.
Anlaşma endüstri için alışılmadık derecede hassas bir anda geliyor.
AI modelleri giderek daha karmaşık görevleri daha az doğrudan insan gözetimi ile gerçekleştirebiliyor. AI ajanlarının hızlı ortaya çıkışı, sadece sorulara cevap vermek yerine eylemlerin sıralarını taşıma yeteneğine sahip sistemler, güvenlik ve kontrol konusunda endişeler yarattı.
Lider AI laboratuvarlarından araştırmacılar da gelişim hızı konusunda açıkça uyarıda bulundular.
Reuters 29 Eylül'de, OpenAI ve Google DeepMind'in mevcut ve eski araştırmacıların, güvenlik önlemlerinin hızını korumak için mücadele ederken kendi yeteneklerini geliştirmeye yönelik sistemleri takip eden şirketler hakkında endişelerini dile getirdi.
Bu endişeler, iş kesintilerinden ve siber tehditlerden, AI sistemlerinin geliştiricilerinin niyet etmediği şekillerde davrandığı çok daha ciddi senaryolara yol açıyor.
OpenAI güvenlik endişeleri üzerinde bir model durakladı
Beyaz Saray toplantısından bir detay, bazı laboratuvarların sorunu nasıl ciddi şekilde tedavi ettiğini göstermiştir.
OpenAI CEO Sam Altman, şirketin güvenlik endişeleri nedeniyle bir modelin serbest bırakılmasını söyledi, Associated Press'e göre.
Açıklama AI şirketleri, kötüye kullanılması veya beklenmedik bir şekilde davranılabileceğini belirlemek için kamu dağıtımlarından daha ileri modelleri test ediyor.
Aynı zamanda, endüstri hızla hareket etmek için muazzam ticari baskı ile karşı karşıya.
OpenAI, Google, Anthropic, Meta ve diğer şirketler bilgisayar altyapısı üzerinde ağır harcıyor ve giderek yetenekli AI sistemleri inşa etmek için yarışıyor.
Bu, teknolojik hız ve güvenlik arasında zor bir denge yaratır.
Nvidia rogue AI ajanlarını durdurmak için tasarlanmış teknolojiyi başlattı
Yeni anlaşma da Nvidia'dan büyük bir AI güvenlik duyurusını takip ediyor.
28 Eylül'de Nvidia Open Agent Safety Platform'unu tanıttı, özerk AI ajanlarının yetkisiz eylemleri gerçekleştirmelerini engellemek için tasarlanmış bir güvenlik sistemi.
Platform, bir AI ajanının ne yapmasına izin verildiğini ve şüpheli aktivite izleme yeteneğine sahip başka bir bileşeninin ve potansiyel olarak tehlikeli davranışlara sahip olduğunu kanıtlamaktadır.
100'den fazla kuruluş zaten teknolojiyi kullanıyor, Associated Press'e göre.
Nvidia CEO Jensen Huang, AI güvenliğinin kısmen bir mühendislik meydan okuması olarak yaklaştığını iddia etti, daha güçlü yazılım korumaları giderek artan otonom sistemlerde sınırları sağlıyor.
Washington, Avrupa'dan farklı bir yaklaşıma işaret ediyor
Tartışma ayrıca Amerikan ve Avrupa arasındaki geniş bir fark yapay zekaya da işaret ediyor.
Trump yönetimi ABD teknolojik liderliğini defalarca vurguladı ve inandığı kısıtlamalardan kaçındı.
Beyaz Saray AI Action Planı, yapay zekadaki liderliği ulusal güvenlik önceliği olarak tanımlıyor ve Amerika Birleşik Devletleri'nin küresel rakiplerin önünde kalması gerektiğini savunuyor.
Avrupa düzenleyicileri daha müdahaleci bir yaklaşım aldı.
Aynı gün Beyaz Saray AI toplantısı olarak, Google, AI geliştiricileri ve rakip arama motorları için belirli hizmetlere daha fazla erişim sağlamasını gerektiren Avrupa Birliği düzenleyici siparişlerine meydan okudu.
Google, gereksinimlerin hassas kullanıcı bilgilerini açığa çıkarabileceğini iddia ediyor, Avrupa Komisyonu uygun mahremiyet korumalarının dahil edildiğini koruyor.
Anlaşmazlık, hükümetlerin rekabet, mahremiyet, inovasyon ve güvenlik konusunda nasıl mücadele ettiğini gösteriyor.
Bir sonraki AI düzenleme üzerindeki savaş
Gönüllü anlaşma, federal AI yönetmeliğinin sonunda gerekli olup olmayacağının daha büyük sorusunu çözmez.
Bunun yerine, bir endüstri kanun yapıcılar, araştırmacılar ve teknoloji şirketleri hızla hükümet gözetiminin nasıl gelişeceğini tartışıyorlar.
Riskler, AI sohbetbotların ötesine geçiyor ve bilgisayar sistemleri ile etkileşime girebilen, yazılım yazabiliyor, araştırma yürütüyor ve karmaşık dijital görevleri gerçekleştiriyor.
Şimdilik Washington, kendi ürünlerinin etrafındaki korumaları sağlamak için teknoloji endüstrisine önemli bir sorumluluk veriyor.
Gönüllü taahhütlerin yeterli kanıtlanması, önümüzdeki yıllarda belirleyici teknoloji politika sorularından biri olabilir.
