ABD’nin Michigan eyaleti, cezaevlerindeki mahkûmları gelecekte şiddet eylemi gerçekleştirme riskine göre sınıflandırmak amacıyla yeni yapay zekâ sistemi devreye almaya hazırlanıyor. Michigan Ceza İnfaz Kurumu (MDOC), Recidiviz adlı teknoloji kuruluşunun yazılımını aralık ayında bazı erkek cezaevlerinde pilot uygulamayla kullanmayı planlıyor. Kurum, sistemin gelecekteki şiddet riskini tahmin etme doğruluğunu yaklaşık yüzde 30 artırmasını beklerken, oranın hangi verilere dayanarak hesaplandığına ilişkin ayrıntı mıyor.
Yapay Zekâ Mahkûmların Barınma Koşullarını BelirleyecekMichigan’daki cezaevlerinde mahkûmlar, güvenlik sınıflandırmasına göre beş farklı barınma düzeyine ayrılıyor. Mevcut uygulamada her cezaevinin müdürü tarafından görevlendirilen personel komiteleri, mahkûmların hangi güvenlik seviyesinde kalacağına karar veriyor. Yeni sistem ise değerlendirmelerde algoritmik analizden yararlanarak mahkûmların yerleştirilme sürecini yeniden şekillendirmeyi hedefliyor.
Michigan Ceza İnfaz Kurumu, Recidiviz yazılımının mahkûmların uygun barınma seviyelerine yerleştirilmesini iyileştirmek için kullanılacağını belirtiyor. Ancak kurumun açıklaması, algoritmanın mevcut personel kararlarının yerini tamamen alıp almayacağını veya yalnızca karar sürecine destek sağlayıp sağlamayacağını netleştirmiyor.
Güvenlik sınıflandırması, cezaevinde kalınacak bölümün belirlenmesinin ötesinde sonuçlar doğuruyor. Mahkûmların hangi eğitim rehabilitasyon programlarına katılabileceği, hangi sosyal desteklerden yararlanabileceği ceza süreleri boyunca hangi güvenlik koşullarında yaşayacağı değerlendirmelere bağlı bulunuyor. Dolayısıyla algoritmanın ürettiği risk puanı, mahkûmların günlük yaşamını topluma yeniden kazandırılma sürecini doğrudan etkileyebiliyor.
Recidiviz, başlangıçta Google bünyesinde ortaya çıkan veri projesi olarak ceza adaleti sistemindeki bilgilerin standartlaştırılması sistemin ülke genelinde iyileştirilmesi amacıyla geliştirildi. Kuruluşun yazılım platformu, mahkûmların devlet tarafından sunulan programlara uygunluğunu belirleme, güvenlik sınıflandırmalarını yeniden değerlendirme tahliye süreçlerine ilişkin incelemeleri destekleme gibi işlevler sunuyor. Platform ayrıca geçiş dönemi konutları istihdam gibi kaynaklara erişimin koordinasyonuna yardımcı olmayı amaçlıyor.
Michigan yönetiminin yeni uygulaması, tür veri analizlerini cezaevlerindeki güvenlik kararlarıyla daha yakından ilişkilendirecek. Buna karşın kurum, algoritmanın hangi değişkenleri kullandığını, verilerin hangi dönemleri kapsadığını veya farklı mahkûm grupları üzerindeki tahmin performansının nasıl ölçüldüğünü açıklamıyor. Sistemin kararları hangi ölçütlerle ürettiğinin bilinmemesi, algoritmik şeffaflık hesap verebilirlik açısından önemli sorular ortaya çıkarıyor.
MDOC’nin yaklaşık yüzde 30’luk doğruluk artışı beklentisi ayrıntılı yöntem açıklaması olmadan değerlendirilemiyor. Kurumun açıklaması, söz konusu oranın mevcut değerlendirme yöntemine kıyasla tahmin doğruluğundaki artışı yoksa başka performans ölçütünü mü ifade ettiğini ortaya koymuyor. ayrım, sistemin gerçek koşullarda ne kadar başarılı olacağını anlamak açısından önem taşıyor.
Michigan’daki plan, ABD’nin Louisiana eyaletinde kullanılan benzer risk değerlendirme sistemlerine yönelik eleştirileri yeniden gündeme getiriyor. ProPublica’nın daha önce yürüttüğü araştırma, ceza adaletinde kullanılan risk analizlerinin dayandığı verilerin ırksal sosyoekonomik önyargılar içerebildiğini ortaya koydu. Verilerdeki eşitsizlikler algoritmik değerlendirmelere taşındığında, rehabilitasyon sürecinde ilerleme kaydeden mahkûmlar dahi yüksek riskli olarak sınıflandırılabiliyor.
ProPublica’nın aktardığı örneklerden birinde, görme engelli tekerlekli sandalye kullanan 70 yaşındaki mahkûm, temiz disiplin siciline rağmen yeniden suç işleme riski bakımından orta seviyede sınıflandırıldı. Louisiana’daki uygulamada kategori, kişinin şartlı tahliyeye uygunluğunu otomatik olarak ortadan kaldıran sonuçlar doğurabiliyordu. Söz konusu örnek, risk değerlendirme sistemlerinin yalnızca teknik başarı oranlarıyla değil, bireylerin hakları üzerindeki etkileriyle incelenmesi gerektiğini gösteriyor.
Michigan’daki yazılımın doğrudan şartlı tahliye kararlarını vermek yerine barınma düzeylerini belirlemeye odaklanması, iki uygulama arasında önemli fark oluşturuyor. Buna rağmen güvenlik sınıflandırmaları eğitim, rehabilitasyon destek programlarına erişimi etkilediği için algoritmik hatalar mahkûmların koşullarını ağırlaştırabilir. Özellikle geçmiş disiplin kayıtları, suç geçmişi sosyoekonomik koşullar gibi değişkenlerin nasıl yorumlandığı, sistemin farklı gruplara adil davranıp davranmadığını belirleyen unsurlar arasında yer alıyor.
Michigan yönetiminin yeni sistemden beklentisi, mahkûmların güvenlik düzeylerini daha isabetli belirlemek cezaevi kaynaklarının dağıtımını iyileştirmek üzerine kuruluyor. Ancak tahmin doğruluğundaki artış, tek başına daha adil kararlar alındığını veya rehabilitasyon sonuçlarının iyileştiğini göstermiyor. algoritma risk tahmininde başarılı olsa bile hatalı ya önyargılı verilerle beslendiğinde belirli mahkûm grupları aleyhine sonuçlar üretebilir.
Aralık ayında başlaması planlanan pilot uygulama, Michigan’ın yapay zekâ destekli mahkûm sınıflandırma yaklaşımını değerlendirmek açısından ilk aşamayı oluşturacak. Sistemin başarısının anlaşılması için kurumun kullandığı verileri, hata oranlarını, farklı gruplara ilişkin sonuçları insan denetiminin karar sürecindeki rolünü açıklaması gerekecek. bilgiler ılmadan, yazılımın cezaevlerindeki güvenlik rehabilitasyon sorunlarını azaltacağı yönündeki beklentiler bağımsız biçimde değerlendirilemeyecek.
