Meta, Perşembe günü yayınladığı blog yazısıyla, genç kullanıcıların Meta AI intihar veya kendine zarar verme konularında yaptığı konuşmaların ebeveynlere bildirilmesini sağlayacak yeni politikayı duyurdu. hamle, şirketin mevcut gençlik koruma önlemlerini genişleterek ebeveynlere çocuklarının yapay zeka etkileşimleri hakkında daha fazla bilgi sunmayı hedefliyor. ebeveynler uzmanlarla yürüttüğü çalışmalar sonucunda, özellikle gencin kendine zarar verme niyetini açıkça ifade ettiği veya yönde ince imalarda bulunduğu konuşmaların uyarı gerektirdiğini belirledi. Yeni sistem, yalnızca denetim kontrollerini aktif olarak kullanan ebeveynleri kapsarken, uyarılar uygulama bildirimi, e-posta, kısa mesaj veya aracılığıyla iletilebilecek.
Bildirim sistemi nasıl çalışacak?Meta AI, intihar kendine zarar verme konularında daha önce kriz yardım hatlarını öneriyor gençleri güvendikleri yetişkine yönlendiriyordu. Şimdi ise sürece ebeveyn bildirimleri eklendi. konuşmalar yapay zeka tarafından endişe verici olarak işaretlense bile, ebeveynlere uyarı göndermeden önce konuşmaları manuel olarak inceleyeceğini belirtti. adım, yanlış alarmların önüne geçmek yalnızca gerçekten risk teşkil eden durumlarda ebeveynlerin harekete geçmesini sağlamak amacıyla atıldı. Bildirimi alan ebeveynler aynı zamanda, çocuklarıyla kendine zarar verme intihar konularını nasıl ele alacaklarına dair uzmanlar tarafından geliştirilmiş önerilere erişebilecek. Meta’nın tığı örnek bildirimlerde, ebeveynlerin alacağı mesajların sadece uyarıdan ibaret olmadığı, aynı zamanda rehberlik edici içerikler sunduğu görülüyor. Uyarı sistemi, ABD, Birleşik Krallık, Kanada Avustralya’ kullanıma sunulurken, Meta yıl sonuna kadar küresel erişimi hedefliyor.
Sınırlı içerik ayarı devredeMeta, aynı duyuru kapsamında Meta AI için sınırlı içerik ayarını genişletti. Geçen yıl için kullanıma sunulan özellik, şirketin en katı filtrelerini etkinleştirerek yapay zekanın sorunlu sorguları belirleme konusunda daha agresif davranmasını sağlıyor. ayar açıldığında Meta AI, geniş sorgu yelpazesine yanıt vermeyi reddederek “potansiyel olarak uygunsuz konuşma olasılığını” daha azaltıyor. Zaten Meta AI, gençlerle cinsel veya romantik içerikli konuşmalar yapmamak alkollü içecek tarifleri vermemek üzere eğitilmiş durumda. Ancak yeni sınırlı içerik ayarıyla birlikte koruma kalkanı daha güçleniyor. Meta’ya göre adım, özellikle hassas konularda yapay zekanın yanlış veya zararlı yanıtlar üretmesini engellemeye yönelik ek güvenlik katmanı oluşturuyor.
Uzmanlardan savunuculardan görüşlerMeta’nın hamlesi, çocuk güvenliği savunucuları arasında karışık tepkilere yol. Nationwide Çocuk Hastanesi İntihar Önleme Araştırma Merkezi klinik yöneticisi. John Ackerman, Şubat ayında için benzer özelliğin duyurusunda, gençler için genişletilmiş koruma önlemlerini memnuniyetle karşıladığını ancak bildirimlerin erişilebilir eyleme geçirilebilir olması gerektiğini vurgulamıştı. Öte yandan, çocuk hakları savunucusu Fairplay adlı kar amacı gütmeyen kuruluşun genel müdürü Josh Golin, Meta’nın ebeveyn kontrolü yaklaşımını eleştirerek, bakıcılara çocuklarının çevrimiçi aktivitelerini izleme yükü yüklendiğini, asıl çözümün baştan güvenli ürünler tasarlamak olduğunu belirtti. Meta’nın çocuk güvenliği konusundaki performansı zaten yasal incelemelerin odağında bulunuyor; şirket yıl iki ayrı emsal davayı kaybederken yüzlerce dava devam ediyor. Yeni bildirim sisteminin eleştirileri ne ölçüde karşılayacağı gerçekten koruyucu etki yaratıp yaratmayacağı ise önümüzdeki dönemde netleşecek.
