ABD Başkanı Donald Trump, teknoloji şirketlerinin yapay zekâ sistemleri için yeni kontrol mekanizmaları uygulamasını öngören anlaşmayı 29 Eylül’ kamuoyuna açıkladı. Trump Google, Anthropic, Meta, OpenAI, X NVIDIA yöneticilerinin imzaladığı belge; bağımsız denetim, yönetim kurulu gözetimi şirket içi güvenlik kontrolleri olmak üzere dört katmanlı yapı ortaya koydu. Şirketler, anlaşma kapsamında yapay zekâ sistemlerinin siber güvenlik, biyogüvenlik kimyasal tehditler gibi alanlardaki davranışlarını izlemeyi düzenli olarak ortak standartlar geliştirmeyi kabul.
Şirketler Yapay Zekâ Sistemleri İçin Bağımsız Denetim KuracakWashington’daki Beyaz Saray toplantısının ardından yayımlanan belge, şirketlerin yapay zekâ kontrol sistemlerini dışarıdan değerlendirecek bağımsız denetçilerle çalışmasını öngörüyor. Bağımsız değerlendiriciler, şirketlerin uyguladığı kontrol izleme mekanizmalarının tasarlandıkları şekilde çalışıp çalışmadığını inceleyecek.
Anlaşma, şirket yönetimlerinin yapay zekâ güvenliği üzerindeki sorumluluğunu ayrı katmanla ele alıyor. Yönetim kurullarının bağımsız komite belirlemesi komitenin şirket içindeki ekiplerden, dış denetçilerden yapay zekâ kontrol birimlerinden gelen raporları mesi isteniyor.
Şirketlerin kendi bünyelerinde oluşturacağı kontrol mekanizmaları, yapay zekâ modellerinin eğitim kullanım aşamalarındaki yeteneklerini güvenlik uyumunu izleyecek. Sistemler özellikle siber güvenlik, biyogüvenlik kimyasal tehditler açısından değerlendirilirken yapay zekânın teknik sistemlere izinsiz erişmesini veya beklenmeyen işlemler gerçekleştirmesini önlemeye yönelik kontroller uygulanacak.
Belge, şirketlerden kontrol, izleme tespit mekanizmalarının düzgün çalışmasını sağlayacak ayrı ekipler oluşturmasını istiyor. Böylece yapay zekâ güvenliği yalnızca model geliştirme ekiplerinin sorumluluğunda kalmayacak şirketlerin yönetim yapısına daha geniş biçimde dağıtılacak.
Trump’ın “ahlaki açıdan bağlayıcı” olarak tanımladığı belge, mevcut haliyle yeni federal yasa veya düzenleyici çerçeve niteliği taşımıyor. Reuters’ın aktardığına göre anlaşma, teknoloji şirketlerinin gönüllü olarak kabul ettiği AI standartlarını içeriyor.
Belgenin ilerleyen dönemde bazı uygulamaların yasalar veya düzenlemeler içine alınabileceğini belirtmesi, gönüllü güvenlik uygulamalarının gelecekte daha resmi kurallara dönüşebileceği ihtimalini ortaya koyuyor. Şirketler ise anlaşmanın mevcut aşamasında yapay zekâ kontrol denetim mekanizmalarını uygulama konusunda ortak taahhütte bulunuyor.
Belgeye Trump’ın yanı sıra Google, Anthropic, Meta, OpenAI, X NVIDIA yöneticileri imza. Beyaz Saray’daki toplantıya OpenAI’den Greg Brockman, Anthropic’ten Dario Amodei, Meta’dan Mark Zuckerberg, Google’dan Sundar Pichai NVIDIA’dan Jensen Huang katıldı.
Şirket yöneticileri, yapay zekâ sistemlerinin kontrolü için daha güçlü iç mekanizmalar oluşturulması konusunda ortak çalışma yürütmeyi kabul. Meta CEO’su Mark Zuckerberg şirketlerin yapay zekâ sistemleri için “güçlü iç kontroller” geliştireceğini belirtti.
Anlaşmaya katılan şirketler, yapay zekâ sistemlerinin güvenliğini artırmak amacıyla düzenli toplantılar gerçekleştirecek. Şirketler toplantılarda ortak standartlar iyi uygulamalar belirleyerek güvenlik yaklaşımlarını geliştirmeyi hedefliyor.
Anlaşmanın ortaya çıktığı dönem, yapay zekâ ajanlarının beklenmeyen davranışları güvenlik sistemlerini aşabilmesiyle ilgili tartışmaların yoğunlaştığı döneme denk geliyor. Reuters, OpenAI Anthropic’in daha önce yapay zekâ ajanlarının başka şirketlerin sistemlerine yönelik saldırılar gerçekleştirdiğini bildirdiğini aktardı.
Trump, teknoloji şirketleriyle yapılan anlaşmanın yanı sıra yapay zekâ güvenliğini izleyecek yaklaşık 10 kişilik komite oluşturulabileceğini açıkladı. Trump, söz konusu yapının yapay zekâ ekosisteminin güvenliğini mesini düşündüğünü söyledi ancak komitenin üyelerini henüz açıklamadı.
Trump yönetimi, aynı dönemde yapay zekâ politikaları konusunda yeni yetkili atamayı planlıyor. Yönetimin önceki adımları ise yapay zekâ kullanımını teşvik eden politikalarla güvenlik ulusal güvenlik kontrollerini birlikte yürütmeye odaklandı.
Anlaşmanın sonraki aşaması, gönüllü şirket taahhütlerinin nasıl uygulanacağı bağımsız denetim sonuçlarının hangi standartlarla değerlendirileceği üzerinden şekillenecek. Şirketlerin ortak standartlar oluşturma çalışmaları, ABD’ yapay zekâ güvenliğinin şirket içi politikalarla yoksa ilerleyen dönemde yasal düzenlemelerle daha ayrıntılı biçimde tanımlanacağı tartışmasına zemin hazırlıyor.
