İlk olarak 2022 yılında halka sunulan büyük dil modelleri, insanlara yönelik ırkçı değerlendirmelerden kaçınmaları için geliştirilmeye devam ediliyor. Ancak Harvard Üniversitesinin Outsmarting Implicit Bias Project desteğiyle yürütülen yeni çalışma, yapay zekanın açıkça ırkçı ifadeler kullanmasa bile insanların dış görünüşlerinden yola çıkarak haklarında önyargılı değerlendirmeler yapmayı öğrendiğini ortaya koydu. Araştırmada, yapay zeka modellerinin insanın sadece yüzüne bakarak hakkında ne kadar yetkin, güvenilir veya suç işlemeye yatkın olduğunu değerlendirdiği görüldü.
Yapay zeka modellerinin kişinin yüz görüntüsü karakter özellikleri arasında nasıl ilişki kurduğunun incelendiği çalışma kapsamında araştırmacılar, yaklaşık 8 bin karşılaştırmalı değerlendirme gerçekleştirdi. Deneylerde modellere, farklı yüz hatlarına sahip kişiler arasından hangilerinin daha yetkin, güvenilir veya suç işlemeye yatkın olabileceği soruldu. Çalışmada değerlendirilen yüzler, daha öncesinde insanlara çok sayıda yüz gösterilerek hangi yüzlerin daha güvenilir veya yetkin olduğu sorulan araştırmalardan alındı yapay zekaya yüzler arasında seçim yaptırıldı.
Sonuçlar, yaygın kullanılan yapay zeka modellerinden olan GPT-4o’nun, insanların daha önceki değerlendirmelerinde daha yetkin olarak nitelendirdikleri yüzleri yüzde 87 daha güvenilir olarak nitelendirdikleri yüzleri yüzde 72 oranında seçtiğini gösterdi. Araştırmacılar, modelin daha önce gözlemlenen yüz görünümü karakter analizi arasında insanların kurduğu ilişkileri öğrendiğini bunları yeni yüzlere uygulamış olabileceğini düşünüyor.
Önyargı suçlamalara önemli kararlara kadar uzuyor
Araştırmacılar, modelden sadece verilen yüzlere bakarak kişilerin ciddi suçlara karışma ihtimalini değerlendirmesini istedi. GPT-4o, güvenilmez olarak nitelendirilen yüzleri; yüzde 68 oranında insan kaçakçılığı dolandırıcılık gibi suçları işlemeye yatkın olarak seçti.
Başka deneyde modelden, büyük üniversitenin başkanlığını yapmak için kimin işe alınacağını, hangi kişi teknoloji girişimine yatırım yapılmaya değeceğini emeklilik yatırım portföyünü kimin yönetmesinin daha uygun olduğunu seçmesi istendi. GPT-4o, kararların neredeyse tamamında insanların yetkin olarak nitelendirdikleri yüzleri tercih. Araştırmacılar, yüz görüntüsünden kaynaklanan önyargının yalnızca karakter değerlendirmesiyle kalmayıp, insanların kariyer finans gibi alanlarda hayatını etkileyebileceğini belirtti.
Yeni modellerde önyargı daha belirgin
Araştırmacılar, sonuçların GPT-4o’dan sonra ortaya çıkan GPT-5, Gemini 3 Flash Preview Claude Sonnet 4.5 üzerinde test. modellerin tamamında yüzlerden karakter çıkarımı yapıldığı, özellikle GPT-5’in yetkinlik değerlendirmelerinde daha yetkin olarak nitelendirilen yüzü yüzde 94 oranında seçtiği görüldü.
Ek olarak GPT-4o’nun, beynin yüzleri nasıl algıladığını incelemek için uzun zamandır kullanılan makak maymunlarının yüzlerine ilişkin yapılan değerlendirmelerde benzer eğilim gösterdiği ortaya çıktı. Model, insanların daha “sevimli” ya “iyi huylu” olarak nitelendirdikleri maymunları yüzde 66 oranında daha güvenilir seçti. sonucun modelin yüz özellikleriyle karakter arasında çok daha genel ilişki kurduğu ihtimalini gündeme getirdi.
Sonuç olarak araştırmacılar, yapay zeka modellerinde görülen önyargıların, eğitim verilerindeki mevcut önyargılardan kaynaklanabileceğini düşünüyor. İnsanların yapay zekaya kolaylıkla güven duyduğu göz önünde bulundurulduğunda, yüzlerin yapay zeka sistemlerinden olabildiğince uzak tutulması gerektiği öneriliyor. Ayrıca yapay zekanın insanlarla ilgili kararların alındığı işe alım yatırım gibi süreçlerde kullanılmaması gerektiği vurgulandı.
: PNAS Nexus
