Yapay zeka teknolojilerinin gelişmesiyle birlikte deepfake içerikler, sosyal medya platformlarının karşı karşıya olduğu en büyük sorunlardan biri haline geldi. kişinin yüzünü veya görünüşünü kullanarak hiç söylemediği sözleri söylemiş ya yapmadığı eylemleri gerçekleştirmiş gibi gösteren videoların hazırlanabilmesi, özellikle içerik üreticileri açısından ciddi riskler oluşturuyor. 'un soruna karşı yeni çözüm üzerinde çalıştığı bildirildi. Şirket, ABD'deki içerik üreticilerinin kendi benzerliklerinin izinsiz kullanıldığı yapay zeka üretimi videoları bulmasına yardımcı olacak yeni aracı test ediyor. Özelliğin, kullanıcıların yüzlerinin yapay zeka tarafından oluşturulan içeriklerde kullanılıp kullanılmadığını daha kolay mesini amaçladığı belirtiliyor. 'un hamlesi, sosyal medya platformlarının deepfake içeriklere karşı daha doğrudan önlemler almaya başladığını gösteriyor.
'un yeni aracı yapay zeka tarafından oluşturulan videoları tarayacak'un test ettiği yeni yapay zeka destekli benzerlik tespit aracının, içerik üreticisinin yüzünü veya genel görünüşünü kullanmış olabilecek videoları platform genelinde araması bekleniyor. Kullanıcılar, araç tarafından tespit edilen gönderileri hesapları inceleyebilecek. Eğer videoda kişinin benzerliğinin izinsiz şekilde yapay zeka kullanılarak oluşturulduğu düşünülürse, ilgili içerik veya hesap 'a bildirilebilecek. Böylece içerik üreticileri, kendileriyle ilişkilendirilen yapay içerikleri manuel olarak aramak zorunda kalmadan daha geniş kapsamlı tarama yapabilecek. Sistemin özellikle kişinin yüzünü kullanan ancak gerçek kişiyle herhangi bağlantısı olmayan deepfake videoların tespit edilmesine yardımcı olması amaçlanıyor. Ancak 'un aracının ne kadar geniş içerik havuzunu tarayabildiği yapay zeka tarafından üretilen içerikleri hangi doğruluk oranıyla tespit ettiği henüz bilinmiyor. Özelliğin anda test aşamasında olması nedeniyle, nihai sürümde çalışma yönteminde kullanım koşullarında değişiklik yapılması mümkün.
Kullanıcıların kimliklerini doğrulaması gerekecekYeni aracın kullanılabilmesi için içerik üreticilerinin öncelikle kimliklerini doğrulaması gerekecek. süreçte gerçek zamanlı selfie taraması yapılması kullanıcının gerçekten ilgili kişi olduğunun doğrulanması bekleniyor. 'un, doğrulama sürecinde kullanıcıların kimlik belgelerini saklamadığını belirttiği aktarılıyor. Kimlik doğrulama işleminin gerçekleştirilmesi için üçüncü taraf hizmetten yararlanıldığı ifade ediliyor. yaklaşım, herhangi kişinin başkasının benzerliğini korumak amacıyla sisteme başvurmasını önlemeyi amaçlıyor. Benzer sistemin YouTube tarafından kullanıma sunulduğu biliniyor. 'un yeni aracının başarılı olması halinde, özelliğin test sürecinin ardından daha geniş kullanıcı kitlesine sunulması bekleniyor.
Deepfake sorunu sosyal medya platformlarında büyüyorDeepfake içeriklerin oluşturulmasını kolaylaştıran yapay zeka araçları geliştikçe, içeriklerin gerçek görüntülerden ayırt edilmesi zorlaşıyor. Kullanıcıların yüzleri, izinleri olmadan farklı videolara görsellere eklenebiliyor. Özellikle kişilerin normal fotoğraflarını kullanarak sahte mahrem içerikler oluşturan araçlar, son dönemde ciddi tartışmalara neden. tür uygulamaların bölümü resmi uygulama mağazalarından kaldırılmış olsa benzer araçların internet üzerinde tamamen ortadan kalktığı söylenemiyor. YouTube nedenle daha önce yalnızca politikacılar gazeteciler gibi belirli gruplara sunulan benzerlik tespit sistemini daha geniş kullanıcı kitlesine. 'un benzer çözüm geliştirmesi, platformların deepfake kaynaklı tehditleri artık yalnızca içerik kaldırma politikalarıyla çözmeye çalışmadığını gösteriyor. Yapay zeka üretimi sahte içeriklerin tamamen ortadan kaldırılması kısa vadede mümkün görünmese kullanıcıların kendi benzerliklerinin nerede kullanıldığını tespit edebilmesi mücadelede önemli araç haline gelebilir.
