Anthropic, gelişmiş yapay zekâ modellerinin piyasaya sürülmesini engelleyecek yasal müdahaleler için belirli zarar eşikleri içeren yasa taslağını ABD’li milletvekillerine sunmuştur. Politico’nun ulaştığı gizli taslağa göre hükümet, modelin en az 1 milyar dolarlık zarara yol açma veya 50’den fazla kişinin ölümüne ya ağır yaralanmasına neden olma potansiyeli taşıması halinde yayını durdurabilecektir. Öneri, bağımsız güvenlik değerlendirmeleri yargı denetimini öne çıkarırken müdahale yetkisinin kapsamına ilişkin tartışmaları beraberinde getirmiştir.
Anthropic, Yapay Zekâ Güvenliği İçin Sayısal Eşikler BelirliyorAnthropic’in önerdiği düzenleme, gelişmiş yapay zekâ sistemlerinin oluşturabileceği riskleri belirli ölçütlere bağlamayı amaçlıyor. Taslakta hükümetin modelin yayınlanmasını engelleyebilmesi için en az 1 milyar dolar tutarında zarar ihtimali veya 50’den fazla kişinin ölümü ya ağır yaralanması riski aranıyor.
Önerideki eşikler, devlet müdahalesinin hangi koşullarda devreye girebileceğini sınırlıyor. Bununla birlikte, belirtilen sınırların altında kalan zararların düzenleme kapsamında nasıl ele alınacağı önemli tartışma konusu oluşturuyor. Örneğin 999 milyon dolarlık zarar veya 49 kişinin ölümü ya ağır yaralanması, taslakta belirtilen sayısal eşikleri tek başına karşılamıyor.
Anthropic sözcüsü, taslağın Kongre tarafından ele alınması gerektiğine inandıkları makul politika önerilerini içerdiğini belirtmiş. Şirket, teklifin Haziran ayından yana federal eyalet düzeyindeki yetkililere sunduğu Advanced AI Framework yaklaşımını yansıttığını açıklamış.
Taslak, yalnızca olası zararın büyüklüğünü ölçüt olarak belirlemiyor. Devlet müdahalesini haklı çıkarabilecek risklerin biyolojik silah oluşturulması, yapay zekâ modelinin geliştiricisinin koyduğu denetimleri aşması veya siber saldırı gerçekleştirilmesiyle bağlantılı olması gerekiyor.
Söz konusu yaklaşım, yapay zekâ güvenlik politikası kapsamında müdahale koşullarını hem zararın ölçeğine hem tehdidin niteliğine bağlıyor. Böylece her güvenlik açığı veya hatalı model davranışı, tek başına modelin yayınlanmasının engellenmesi için yeterli sayılmıyor.
Politico’nun haberine göre taslaktaki bazı ifadeler, geçen yıl imzalanan Kaliforniya düzenlemeleriyle, özellikle SB 5 benzerlik taşıyor. Ancak önerinin federal düzeyde nasıl uygulanacağı, yasama sürecinde yapılabilecek değişikliklere bağlı olacak.
Anthropic’in önerisi, gelişmiş yapay zekâ modellerinin düzenli aralıklarla bağımsız uzmanlar tarafından değerlendirilmesini öngörüyor. Ticaret Bakanlığına kayıtlı değerlendiriciler, yapay zekâ laboratuvarlarını geliştirdikleri ileri seviye modelleri inceleyecek.
Taslak, şirketlerin değerlendirme hizmetleri için ödeme yapmasına izin veriyor. Ancak ilişkinin uzmanların bağımsızlığını etkilememesi şartı getiriliyor. Değerlendiriciler, modelin belirtilen ciddi riskleri taşıdığını belirlerse incelemeyi tamamladıktan sonra 72 saat içinde bulgularını Ticaret Bakanlığına bildirmek zorunda kalacak.
Ticaret Bakanlığı daha sonra elde edilen kanıtları Washington DC Bölge Mahkemesine sunacak. Modelin yayınlanmasının engellenip engellenmeyeceğine federal yargıç karar verecek. Öneriye göre başka hiçbir federal bakanlık, kurum veya ofis, modelin geliştirilmesini, kullanıma sunulmasını ya kurum içi kullanımını bağımsız biçimde durduramayacak.
mekanizma, yapay zekâ denetiminde teknik değerlendirme hukuki karar sürecini birbirinden ayırmayı hedefliyor. Aynı zamanda model geliştiren şirketlerin karşılaşabileceği müdahalelerin hangi kurumlar üzerinden yürütüleceğine ilişkin sınırları belirliyor.
Anthropic’in önerisi, gelişmiş yapay zekâ sistemlerinin kontrolü olası zararları hakkındaki tartışmaların yoğunlaştığı dönemde gündeme gelmiştir. Son dönemde bazı yapay zekâ ajanlarının beklenmeyen davranışlar sergilemesi başka şirketlerin sistemlerine yönelik saldırılarla ilişkilendirilmesi, güvenlik önlemlerine ilişkin endişeleri artırmıştır.
Anthropic bünyesinde görev yapan araştırmacının istifasının ardından yapay zekânın insanlık için varoluşsal risk oluşturabileceği yönündeki uyarılar tartışmalara yansımıştır. Şirket, kendi halka arzına ilişkin ön izahnamesinde ileri yapay zekâ sistemlerinin oluşturabileceği risklere yer vermiştir.
ABD’li siyasetçiler ise farklı düzenleme yaklaşımları geliştirmektedir. Bernie Sanders, süper zekâ geliştirilmesinin yasaklanmasını savunurken kuralları ihlal eden geliştiriciler için 20 yıla kadar hapis cezası öngören yaklaşım önermiştir. Başkan Donald Trump’ın gündeme getirdiği Joint Commitment on Frontier Responsibilities girişimi ise teknoloji şirketlerinin sorumluluk üstlenmesine dayanıyor. Ancak taahhüt, yasal yaptırımlardan çok şirketlerin kendi uygulamalarını denetlemesine güveniyor.
Anthropic’in taslağı, yapay zekâ şirketlerinin güvenlik standartlarının belirlenmesinde yalnızca düzenlemelere tabi taraflar olarak değil, politika önerileri sunan aktörler olarak rol üstlendiğini gösteriyor. Taslağın yasalaşması halinde müdahale eşikleri, bağımsız değerlendirme süreçleri mahkeme denetimi arasındaki denge, ABD’nin gelişmiş yapay zekâ modellerine yönelik yaklaşımını belirleyen temel unsurlar arasında yer alacak.
