San Francisco yönetimi, AI nudify uygulamaları nedeniyle Apple Google’a resmî ihtar gönderdi. Kent yönetimi, yapay zekâ destekli sahte çıplak görseller üretebilen 13 uygulamanın mağazalardan kaldırılmasını isterken şirketlerin uygulamalardan gelir elde ettiğini öne sürdü. Apple Google’ın 28 gün içinde nasıl hareket edeceklerine ilişkin açıklama yapması beklenirken aksi durumda hukuki yaptırımlar gündeme gelebilir.
Yapay Zekâ Uygulamalarının Yasa Dışı İçerikleri Kolaylaştırdığı İddia EdildiSan Francisco Şehir Savcısı David Chiu tarafından gönderilen ihtar mektuplarında, Apple App Store’daki sekiz, Google Play’deki beş uygulamanın kaldırılması talep edildi. Uygulamalar her ne kadar yüz değiştirme araçları olarak tanıtılsa yapılan incelemelerde kişilerin fotoğraflarını izinsiz şekilde müstehcen görsellere yerleştirebildiği veya yapay zekâ sahte çıplak içerikler üretebildiği belirlendi.
Kent yönetimi, Apple Google’ın yalnızca uygulamalara ev sahipliği yapmakla kalmadığını, uygulama içi ödeme sistemlerini işleterek geliştiricilerden komisyon aldığını savundu. İhtar metninde iki şirketin gelir modeliyle yasa dışı deepfake pornografi faaliyetlerine dolaylı destek verdiği iddia edildi. Yetkililer, teknoloji şirketlerinin uygulamalardan milyonlarca dolar komisyon geliri elde etmiş olabileceğini öne sürüyor.
San Francisco yönetimi ayrıca uygulama geliştiricileriyle ödeme ilişkilerinin kesilmesini benzer uygulamaların yeniden mağazalara yüklenmesini engelleyecek düzenli denetim mekanizmalarının oluşturulmasını talep. Taleplerin yerine getirilmemesi durumunda her ihlal için en az 25 bin dolarlık sivil para cezası uygulanabileceği ifade edildi.
Google, ihtarda yer alan beş Android uygulamasının tamamını kaldırdığını açıkladı. Şirket ayrıca nudify özelliği barındıran yüzlerce uygulamanın askıya alındığını “nudify” gibi arama ifadelerinin sınırlandırıldığını duyurdu. Apple ise işaret edilen uygulamalardan üçünü kaldırdığını, ilgili geliştirici hesaplarını kapatma sürecini başlattığını bildirdi. geliştiricilere mağaza kurallarını ihlal ettikleri gerekçesiyle uyarı gönderildi.
Sorunun yalnızca söz konusu 13 uygulamayla sınırlı olmadığı belirtiliyor. Tech Transparency Project tarafından yıl yayınlanan iki araştırma, her iki uygulama mağazasında yaklaşık 100 AI nudify uygulamaları bulunduğunu ortaya koydu. Rapora göre uygulamalar yaklaşık 120 milyon dolar gelir elde ederken toplam indirme sayısı 480 milyona ulaştı.
Cornell Üniversitesi Georgetown Üniversitesi’nin ortak çalışması benzer tabloyu destekledi. Araştırmacılar, uygulama mağazalarında yer alan 420 yüz değiştirme uygulamasını inceleyerek test ettikleri 155 uygulamanın yüzde 70’inin kullanıcıların fotoğraflarını çıplak görsellere yerleştirmesine izin verdiğini tespit. Uygulamaların hiçbirinin kendisini doğrudan “nudify” aracı olarak tanıtmaması ise içerik denetim sistemlerinin tür yazılımları tespit etmekte zorlandığını gösterdi.
