Anthropic’in sohbet robotu Claude‘a, ABD Başkanı Donald Trump’ı veya İngiltere Kralı. Charles’ı eleştiren broşür hazırlaması istendiğinde yapay zeka talebi yerine getirdi. Ancak aynı talep Tayland Kralı, Suudi Arabistan Veliaht Prensi veya Çin lideri için yapıldığında model isteği reddetti.
bulgu, Perşembe günü yayımlanan Meta Gözetim Kurulu araştırmasının öne çıkan sonucu. Araştırma, ABD’ geliştirilenler dâhil olmak üzere büyük yapay zeka sistemlerinin, otoriter liderleri veya hükümetleri eleştirmekten kaçınma olasılığının daha yüksek olduğunu ortaya koydu. durum, büyük dil modellerinin, yani sohbet robotlarının arkasındaki teknolojinin, otoriter hükümetlerin etkisini dünyaya yayabileceği endişesini artırıyor.
Yarı bağımsız kurumun raporunda, “Model geliştiricileri insan hakları durum tespiti yapmaz azaltıcı önlemler almazsa, kasıtlı olsun ya olmasın, ifade özgürlüğü üzerindeki meşru olmayan kısıtlamaları küresel ölçekte genişleten yapay zeka altyapısı inşa etme riski gerçek” değerlendirmesi yer.
Yapay zeka modelleri devlet etkisini sınır ötesine taşıyorTeknoloji şirketleri üzerindeki devlet etkisi bunun ifade özgürlüğüne yansımaları üzerinde çalışan Gözetim Kurulu, hem kısıtlayıcı hem daha özgür hükümetlerle ilgili sohbet robotlarına yöneltmek üzere siyasi eleştiriyle ilgili yedi soru geliştirdi.
Araştırma kapsamında, aralarında Meta, Anthropic OpenAI‘ın bulunduğu önde gelen teknoloji şirketlerine ait 10 ticari büyük dil modeli seçildi. yapay zeka sistemlerinden eleştirel broşürler hazırlamaları, beş dizelik birer mizahi şiir yazmaları, birinin protestolara katılması için gerekçeler sunmaları benzeri görevleri yerine getirmeleri istendi.
Raporda, “Avustralya merkezli kullanıcıdan gelen taleplere yanıt veren modeller, Şili, Japonya, Tayvan, Birleşik Krallık ABD gibi yerlerdeki iktidarlara yönelik siyasi eleştiri üretme konusunda, eleştirinin yasal olarak kısıtlandığı cezalandırıldığı Kamboçya, Çin, Suudi Arabistan, Tayland Türkiye gibi hükümetlere yönelik eleştirilere kıyasla çok daha isteklilerdi” ifadelerine yer verildi.
Araştırma, yapay zeka modellerinin, kullanıldıkları ülkelerin ötesinde konuşma kısıtlamalarını yansıttığını gösteriyor. Raporda, “ tür etkiler, nereden kaynaklanırsa kaynaklansın, otoriter hükümetlerin uzun kolunu sınırların ötesine taşıyarak özgür ülkelerdeki ifadeyi sınırlama gibi pratik sonuç doğuruyor” denildi.
Kurul, yanıtların nedenlerini kesin olarak belirleyemediğini ancak modellerin, sistemleri eğitmek için kullanılan verilerdeki örtük önyargıları özümsemiş olabileceğini şirketlerin riskleri yükümlülükleri tartmış olabileceğini ifade.
Gözetim Kurulu’nun raporu, ABD’li üniversitelerden grup akademisyenin yürüttüğü ayrı çalışmayı takip. çalışma, hükümetlerin etkisi altında kalmış İngilizce dışı verilerle eğitildiklerinde ABD yapımı yapay zeka modellerinin yabancı kontrollere karşı savunmasız kaldığını ortaya koydu.
Gözetim Kurulu sorularını İngilizce olarak yöneltirken, üniversite araştırmacıları sohbet robotlarını farklı dillerde sorguladı. Örneğin araştırmacılar ChatGPT’ye İngilizce olarak Çin’in demokrasi olup olmadığını sorduğunda, ABD yapımı sohbet robotu ülkenin demokrasi olarak sayılmadığını belirtti. Aynı soru Çince sorulduğunda ise yapay zeka modeli araştırmacılara dilde “‘Demokrasi’yi nasıl tanımladığınıza bağlı” yanıtını verdi.
Çalışmaları Mayıs ayında Nature akademik dergisinde yayımlanan araştırmacılar, çalışmalarını açıkladıkları blog yazısında hükümetlerin sohbet robotlarının çıktısını kasıtlı olarak etkilemeye çalıştığına dair kanıt bulamadıklarını belirtti. Buna rağmen araştırmacılar, “Henüz yapmıyorlarsa bile, gelecekte bunu deneyeceklerine inanmak için her türlü neden var” uyarısında bulundu.
Çalışmanın ortak yazarlarından olan, Oregon Üniversitesi’nde sosyoloji yardımcı doçenti olarak çalışan Hannah Waight, insanların yapay zekadan sanki internetten tarafsız şekilde öğreniyormuş gibi bahsettiğini ancak durumun böyle olmadığını söyledi. Waight, sistemlerin, kurumlar iktidar tarafından zaten şekillendirilmiş bilgi ortamlarından öğrendiğini vurguladı.
Eşitsizlik eleştirisiBarcelona’daki Esade İşletme Okulu’nda makine öğrenimi, yapay zeka, dezenformasyon, sosyal medya insan-makine etkileşimi alanlarında uzmanlaşan Carlos Carrasco-Farré, yapay zeka sistemlerinin yalnızca bireysel belgelerdeki önyargıları değil, aynı zamanda bilgiyi büyük ölçekte üretme bastırma gücüne kimin sahip olduğuna dair eşitsizlikleri devraldığını belirtti.
Her iki çalışmada yer almayan Carrasco-Farré’ye göre, söz konusu sorunun kolay çözümü bulunmuyor. Carrasco-Farré, yine yapay zeka geliştiricilerinin, aynı devlet anlatısının binlerce kopyasını sanki binlerce bağımsız ses varmış gibi ele almaktan kaçınmak için verileri değerlendirebileceğini çok dilli denetimler yürütebileceğini söyledi.
Anthropic OpenAI, araştırmacıların çalışmasına ilişkin yorum taleplerine yanıt vermedi.
habere emoji tepki ver
😡0Kızgın🤣0Hahaha👍0dim.❤️0Muhteşem😢0Üzgün😮0İnanılmaz Önceki haberAli Kuran sonsuzluğa uğurlandıSonraki haberTürkiye Mısır savunma alanında hangi anlaşmalara imza attılar?
