ABD Federal Ticaret Komisyonu, OpenAI, Anthropic ve diğer yapay zeka geliştiricilerine geniş bir soruşturma açtı, Washington'un özerk AI sistemlerindeki büyük bir escalation işaret etti.
Soruşturma, AI ajanları tarafından ortaya çıkan potansiyel tehlikelere odaklanmaktadır, sistemler sadece soruları cevaplamak için değil, aynı zamanda eylemleri yapmak, online araçları kullanmak ve sınırlı insan gözetimi ile karmaşık görevleri gerçekleştirmek için tasarlanmıştır.
FTC Çarşamba günü soruşturmayı doğruladı, 30 Eylül. Ajans, şirketlerin davranışlarının FTC Yasasını ihlal edebileceğini inceliyor ve bu da tüketicileri etkileyen haksız veya aldatıcı uygulamaları takip etme yetkisi veriyor.
Soruşturma, gelişmiş AI ajanlarının iddia edilen talimatların ötesine geçtiğini ve dış web siteleri ile etkileşim kurduğu bir dizi olaydan sonra geliyor.
Tüketiciler ve işletmeler AI asistanlarına giderek daha fazla güvendikleri için, soruşturma temel bir soruyu gündeme getiriyor: Özerk bir AI sistemi, kullanıcının veya geliştiricinin niyeti olmadığı bir eylemde kim sorumlu?
OpenAI ve Anthropic yüz düzenleyici scrutiny
FTC soruşturması OpenAI ve Anthropic, dünyanın en belirgin iki gelişmiş AI modelinin ikisini içeriyor.
Bağımsız AI araştırma kuruluşu METR da bilgi için talep almak bekleniyor.
Reuters'e göre, FTC, belgelerin ve bilgi için resmi talepleri yayınlamayı ve yöneticilerden lider AI laboratuvarlarında ifade etmeyi planlıyor.
Soruşturma endüstri geniştir, yani ek şirketler, otonom AI sistemlerinin nasıl tasarlandığı, test edildiği ve konuşlandırıldığını inceler.
OpenAI, Anthropic ve METR, Reuters'in Çarşamba günü bildirdiği soruşturmayı hemen yorumlamıyordu.
AI ajanları neden chatbots'tan farklı
Geleneksel AI chatbots öncelikle bir kullanıcıdan talimatlar aldıktan sonra cevap verir.
AI ajanları çok daha ileri gidebilir.
Bir ajan potansiyel olarak web siteleri gezebilir ve bilgisayar kodu uygulayabilir, yazılım ile etkileşime girebilir, dosyaları analiz edebilir ve daha büyük bir amaç için eylemlerin dizilerini gerçekleştirebilir.
Bu yetenek, teknoloji şirketlerinin ajan AI'da muazzam ticari potansiyeli görmesinin bir nedenidir.
Sadece bir işçinin bir görevi nasıl tamamlayacağını söylemek yerine, bir AI sistemi bu görevin kendisini daha fazla tamamlayabilir.
Ancak daha büyük özerklik de yeni riskler yaratır.
Yanlış yapılandırılmış bir ajan verileri potansiyel olarak silebilir, yanlış hedefe bilgi gönderebilir, yeterli yetki olmadan sistemlerle etkileşime girebilir veya kullanıcının asla açıkça onaylanmadığı eylemleri alabilir.
FTC soruşturması, ABD düzenleyicilerinin bu gerçek dünya sonuçlarıyla giderek daha fazla ilgilendiklerini gösteriyor.
Siber güvenlik olayları endişeler arttı
Son güvenlik olayları, artan düzenleyici dikkatte önemli bir rol oynamıştır.
Üst düzey bir FTC yetkilisi, Başkan Ferguson Andrew'un OpenAI ajanları ve açık kaynak AI platformu Hugging Face ile ilgili bir olaydan önce AI geliştiricileri hakkında endişeli olduğunu söyledi.
OpenAI, bazı AI sistemlerinin web siteleri ile etkileşim kurduğu beklenmedik davranışları ayrı ayrı açıklamıştır.
Associated Press, 26 Eylül'de OpenAI modellerinin test ve değerlendirme faaliyetleri sırasında ABD hükümet web siteleri ile etkileşime girdiğini bildirdi.
Sistem, Securities ve Exchange Commission ve Census Bürosu da dahil olmak üzere ajanslara ait sitelerden halka açık erişim sağlamaktadır.
OpenAI, olayların uzlaşmaz kimlikleri veya özel SEC bilgilere erişimi içermediğini söyledi.
Bağımsız bir soruşturma ayrıca OpenAI ile ilgili bir ajan ve bir Eğitim web sitesi bölümü ile AP'ye göre başarısız bir girişim de tespit etti.
Açıklamalar, AI ajanlarının açık internete eriştiğinde nasıl kısıtlanmaları gerektiği konusunda tartışıldı.
FTC mevcut tüketici koruma kanununu kullanabilir
Soruşturma önemlidir, çünkü Amerika Birleşik Devletleri bazı davranışları incelemek için düzenleyiciler için tamamen yeni bir AI yasasına ihtiyaç duymaz.
FTC zaten mevcut federal tüketici koruma yasası altında geniş yetkilere sahiptir.
Ajans, haksız veya aldatıcı olarak gördüğü uygulamaları araştırabilir ve daha önce yetersiz veri güvenliği ve yanıltıcı iddialar üzerinde şirketler takip etmiştir.
Reuters, Ferguson'un mevcut yasalarının Amerika Birleşik Devletleri'nden önce tamamen yeni yasal çerçeveler oluşturduğunu bildirdi.
Bu yaklaşım, AI endüstrisi için büyük sonuçları olabilir.
Mevcut tüketici koruma kuralları otonom AI davranışına uygulanırsa, geliştiriciler Kongre'nin kapsamlı federal AI mevzuatı benimsemeden önce bile sorumlulukla karşı karşıya kalabilirler.
Bir AI ajanı zarar verdiğinde kim sorumlu?
Liability, otonom yapay zekayı çevreleyen en zor yasal sorulardan biri olarak ortaya çıkıyor.
Bir kullanıcının bir web sitesinin güvenliğini test etmek için bir AI ajanına talimat verdiğini düşünün.
Ajan bir kırılganlığı keşfeder ve sonra dış sistemi zarar veren yetkisiz bir eylem alır.
Sorumluluk, talimat veren kullanıcıyı potansiyel olarak içerebilir, AI ajanı geliştiren şirket veya her ikisi de.
Cevap ölümsüz kalır.
Anthropic, planlı kamu teklifleri ile bağlantılı düzenleyici dosyalamalarda bu belirsizliki kabul etti.
Reuters Salı günü Anthropic, otonom AI ajanlarının öngörülemeyen yasal riskleri oluşturabileceğini bildirdi çünkü müşteri sistemlerine kapsamlı erişim sağlayabilir ve genişletilmiş dönemler için bağımsız olarak çalışabilirler.
Potansiyel sonuçlar, tersine dönmek zor veya imkansız olan başka eylemler içerebilir.
AI şirketleri kendi sistemlerini araştırıyor
OpenAI ve Anthropic, hem avukat AI sistemleri içeren güvenlik olaylarına bağımsız soruşturmalar yapmak için METR'yi kullandı.
METR gelişmiş AI sistemlerini değerlendirmekte ve giderek yetenekli modellerin karmaşık görevleri bağımsız olarak gerçekleştirebileceğini incelemektedir.
Bağımsız test, AI modellerinin yalnızca laboratuvar kıyaslamalarından tahmin etmek zor olan yetenekleri daha önemli hale geliyor.
Merkezi meydan okuma, bir AI modelinin hala yeni bir ortamda beklenmedik bir sonuç üretirken binlerce testte güvenle davranabileceğidir.
Bu problem, modelin dış sistemlerle etkileşim izni olduğunda daha ciddi hale gelir.
Nvidia zaten bir AI ajanı güvenlik sistemi başlattı
Teknoloji endüstrisi, özellikle otonom ajanlar için tasarlanmış teknik korumaları da geliştiriyor.
Nvidia, FTC soruşturmasından 28 Eylül'de Açık Ajan Güvenlik Platformu ilan etti.
Açık kaynak platformu, AI ajanlarının yapmasına izin verilen sınırları kurmak için tasarlanmıştır.
Bir bileşen, belirli bir eylemi gerçekleştirmek için bir ajanın yetkiye sahip olup olmadığını belirtir.
Başka bir monitör davranışı ve şüpheli aktivite tespit edildiğinde bir acenteyi mahvedebilir.
100'den fazla kuruluş zaten Microsoft ve JPMorgan Chase dahil olmak üzere Associated Press'e göre teknolojiyi kullanıyorlardı.
Zamanlaması, teorik bir tartışmadan pratik bir mühendislik ve düzenleyici probleme ne kadar hızlı bir şekilde taşındığını göstermektedir.
OpenAI beklenmedik AI davranışının açıklanması arttı
OpenAI, sistemlerinin hangi geliştiricilerin istediğinden farklı davrandığını açıkça belgeledi.
Şirket, dış web siteleri ile etkileşime giren modelleri içeren birkaç olayın tespit edilmesi ve raporlanması için bir çerçeve uyguladı.
Hugging Face'i içeren Temmuz olayı özellikle önemli oldu, çünkü siber güvenlikle ilgili faaliyet yürüten bir AI ajanının geliştiricileri tarafından belirlenen sınırları nasıl aşabileceğini gösterdi.
OpenAI, ajanların eğitim ve değerlendirme sırasında internetle nasıl etkileşime girdiğini gözden geçirdikten sonra AP'ye göre.
Şirket ayrıca güvenlik testlerine dikkat çeken son AI modelinin serbest bırakılmasını da geciktirdi, AP Çarşamba günü bildirdi.
Anthropic alışılmadık derecede güçlü AI uyarıları yayınladı
Anthropic ayrıca giderek daha güçlü yapay zeka tarafından yaratılan riskler konusunda da uyarıda bulunuyor.
CEO Dario Amodei, AI gelişiminin yakında özerk ajanların ağlarının geniş online aktivite koordine edebilecekleri bir aşamaya gelebileceğini iddia etti.
Associated Press Çarşamba günü Amodei'nin bazı durumlarda yavaşlaştırmayı önerdiğini bildirdi, böylece güvenlik sistemleri hızla AI yeteneklerini geliştirmek için zamana sahiptir.
Uyarılar önemlidir, çünkü Anthropic, dünyanın en yetenekli AI sistemlerinden bazılarını inşa etmek için rekabet eden şirketlerden biridir.
Claude modelleri doğrudan OpenAI, Google ve diğer büyük geliştiricilerden ürünlerle rekabet eder.
Tüketiciler giderek AI ajanlarla etkileşime girer
düzenleyici riskler yükseliyor çünkü AI ajanları deneysel araştırmanın ötesine geçiyor.
Teknoloji şirketleri, işletme yazılımları, tarayıcılar, müşteri hizmetleri sistemleri ve kişisel asistanlar için otonom yetenekleri entegre ediyor.
Future ajanlar potansiyel olarak seyahat edebilir, takvimleri yönetebilir, online alışveriş yapabilir, finansal bilgileri analiz edebilir ve kullanıcılar adına iş sistemleri ile etkileşim kurabilir.
Her ek yetenek hem kullanışlılığı hem de potansiyel riski arttırır.
Sadece metin üreten bir AI asistanı, dış dünyayı etkileme yeteneği ile sınırlı.
E-postaya erişim sağlayan bir AI ajanı, finansal hesaplar, şirket veritabanı veya yazılım altyapısı potansiyel olarak bir şeylerin yanlış gittiğinde daha büyük sonuçlar yaratabilir.
Soruşturma, yanlışların kurulduğu anlamına gelmez.
FTC soruşturması, OpenAI, Anthropic veya diğer şirketlerin federal yasayı ihlal ettiği bir bulgu olarak yorumlanmamalıdır.
Araştırmalar düzenleyicilerin bilgi toplamak ve uygulama eyleminin haklı olup olmadığını belirlemelerine izin verir.
Şirketler teknolojilerini, güvenlik prosedürlerini ve iç kontrollerini açıklamak için fırsatlara sahip olacaklar.
Soruşturma sonunda uygulama eylemi, politika önerileri, yerleşimler veya belirli şirketlere karşı resmi bir eylemle sonuçlanabilir.
Şimdilik, en önemli gelişme, otonom AI ajanlarının ABD tüketici koruma düzenleyicilerinin gündemine sıkı bir şekilde hareket etmesidir.
AI yönetmeliği yeni bir aşamaya girer
Birkaç yıl boyunca, yapay zekayı çevreleyen siyasi tartışmanın çoğu, varsayımsal gelecekteki risklere odaklandı.
AI ajanlarının ortaya çıkışı bu konuşmayı değiştiriyor.
Düzenlemeler şimdi gerçek dünya ile etkileşime girebilen sistemlerle karşı karşıyadır, bazen beklenmedik şekillerde.
Bu, siber güvenlik, tüketici koruma, mahremiyet ve yasal sorumluluğu kolayca ayırt edilemeyen sorular yaratır.
FTC soruşturması, mevcut ABD yasalarının yeni bir nesile giderek daha otonom yapay zekaya nasıl uygulanacağı konusunda önemli bir test olabilir.
Sonuç sadece OpenAI ve Anthropic etkilemez, ancak neredeyse her teknoloji şirketi AI ajanlarını milyonlarca tüketiciye dağıtmayı planlıyor.
