Meta, ’ genç kullanıcıların güvenliğini artırmaya yönelik yeni özelliği kullanıma almaya hazırlanıyor. Şirket, kendine zarar verme veya intihar riski taşıdığı değerlendirilen genç hesaplarla ilgili ebeveynlere bildirim gönderecek yeni sistemi duyurdu. İlk aşamada belirli ülkelerde sunulacak özellik, yıl sonuna kadar daha geniş kullanıcı kitlesine ulaştırılacak.
Meta AI Riskli Sohbetleri İnceleme Sürecine YönlendirecekMeta’nın tığı bilgilere göre yeni sistem, ebeveyn denetimleri etkin olan genç hesaplarda çalışacak. Meta AI destekli analiz mekanizması, sohbetlerde kendine zarar verme eğilimine işaret edebilecek ifadeleri tespit etmeye çalışacak.
Yapay zekânın riskli olarak değerlendirdiği konuşmalar doğrudan işlem görmeyecek. Şirket, içeriklerin önce insan moderasyon ekipleri tarafından inceleneceğini, güvenlik uzmanlarının gerekli değerlendirmeyi yapmasının ardından ebeveynlere bilgilendirme gönderileceğini belirtiyor. Böylece yanlış değerlendirmelerin en aza indirilmesi hedefleniyor.
Meta, daha önce ebeveyn denetim araçları kapsamında ailelere genç kullanıcıların Meta AI gerçekleştirdiği konuşmaların konu başlıklarını görüntüleme imkânı sunmuştu. Yeni güncellemeyle birlikte olası güvenlik risklerine ilişkin bildirim mekanizması araçlara eklenmiş.
Yeni güvenlik sistemi ilk etapta ABD, Birleşik Krallık, Avustralya Kanada’ ebeveyn denetimi açık hesaplarında kullanılabilecek. özelliğin kademeli olarak ülkelere sunulacağını küresel dağıtımın yıl sonuna kadar tamamlanmasının planlandığını açıkladı.
Şirket ayrıca gelecekte daha ileri güvenlik önlemleri üzerinde çalışıyor. Açıklamaya göre kendine zarar verme riski taşıdığı değerlendirilen kullanıcılarla ilgili acil durum hizmetlerinin bilgilendirilmesini sağlayacak yeni sistemin geliştirme süreci devam ediyor. özelliğin ne zaman kullanıma sunulacağı ise henüz ılmış değil.
Son dönemde büyük teknoloji şirketleri, özellikle genç kullanıcıların dijital güvenliği konusunda yapay zekâ destekli araçlara daha fazla yatırım yapıyor. Meta’nın yeni uygulaması sosyal medya platformlarında riskli davranışların erken tespit edilmesine yönelik geliştirilen güvenlik çözümlerinin son örneklerinden biri olarak öne çıkıyor.
