Kaliforniya Valisi Gavin Newsom, işverenlerin çalışanları yalnızca otomatik karar sistemleriyle işten çıkarmasını veya disipline etmesini yasaklayan No Robo Bosses Act 2026 düzenlemesini imzaladı. SB 947 olarak bilinen yasa, yapay zekâ işten çıkarma kararlarında insan denetimini zorunlu tutarken otomatik sistemlerin kararları etkilemesi durumunda çalışanların bilgilendirilmesini şart koşuyor. Düzenleme, yapay zekâ destekli personel yönetimini tamamen yasaklamıyor ancak kritik iş kararlarında insan sorumluluğunu güvence altına alıyor.
Kaliforniya, İşten Çıkarma Kararlarında İnsan Denetimini Zorunlu KıldıSenatör Jerry McNerney tarafından sunulan SB 947, işverenlerin çalışanlar hakkındaki kritik kararları yalnızca otomatik karar verme sistemlerine (ADS) bırakmasını engelliyor. şirketlerin yapay zekâ destekli değerlendirme araçlarından yararlanmasına izin veriyor ancak işten çıkarma veya disiplin kararlarında insanın süreci incelemesini doğrulamasını şart koşuyor.
McNerney’nin ofisi, düzenlemenin gerekçesi olarak çalışanları izlemek, değerlendirmek yönetmek amacıyla kullanılan “bossware” yazılımlarının yaygınlaşmasını gösterdi. söz konusu sistemlerin hatalı değerlendirmeler nedeniyle çalışanların yanlışlıkla işten çıkarılmasına yol açabildiğini belirtti.
Senatör McNerney, yapay zekânın üretkenliği artırma potansiyeline sahip olduğunu ancak hata, önyargı yanlış değerlendirme riskleri taşıdığını söyledi. McNerney, iş yerlerinde yapay zekânın insanlar tarafından kontrol edilen araç olarak kalması gerektiğini vurguladı.
No Robo Bosses Act, işverenlerin otomatik karar sistemlerini kullanırken uyması gereken üç temel kural belirliyor. İlk olarak şirketler, çalışanları işten çıkarma veya disipline etme kararlarını yalnızca algoritmik sistemlerin çıktısına dayanarak veremeyecek. İkinci olarak işverenler, otomatik sistemlerin destek verdiği kararları insan denetiminden geçirerek doğrulayacak. Üçüncü olarak şirketler, ADS kullanımının işten çıkarma veya disiplin kararını etkilediği çalışanları bilgilendirecek.
Kaliforniya İş Komiseri, eyalet başsavcısı yerel savcılar düzenlemenin uygulanmasından sorumlu olacak. Benzer düzenlemeler başka bazı ABD eyaletlerinde gündemde bulunuyor. Kaliforniya İşçi Federasyonu Başkanı Lorena Gonzalez, yasanın çalışanların öncülüğünde yapay zekânın iş yerlerinde kötüye kullanılmasını önlemeye yönelik eyaletlere örnek oluşturduğunu ifade.
SB 947’nin ilk taslağı, yapay zekâ sistemlerinin çalışanların işlerini etkilemesi durumunda önceden bildirim yapılmasını öngörüyordu. Newsom, söz konusu hükmü veto ederek düzenlemenin her türlü yazılım kullanımına yönelik geniş bildirim yükümlülükleri yerine kötüye kullanımın önlenmesine odaklanması gerektiğini savundu. Son metinden gig ekonomisi çalışanlarına yönelik bazı korumalar çıkarıldı.
Ekonomik İşbirliği Kalkınma Örgütü’nün (OECD) geçen yıl yayımladığı araştırma, algoritmik yönetim sistemlerinin ABD’deki iş yerlerinde yaygın biçimde kullanıldığını ortaya koydu. Ankete katılan ABD’li yöneticilerin yüzde 90’ı en az algoritmik yönetim aracından yararlandığını belirtirken Avrupa’daki oran yüzde 79, Japonya’daki oran ise yüzde 40 olarak kaydedildi.
Araştırma, ABD şirketlerinin çalışanları izlemek değerlendirmek amacıyla algoritmik araçları Avrupalı şirketlere kıyasla daha sık kullandığını gösterdi. Söz konusu uygulamalar, kişisel verilerin işlenmesini çalışanların işe erişimi gibi önemli sonuçlar doğurabilecek kararları kapsıyor.
OECD araştırmasına katılan yöneticilerin yaklaşık üçte ikisi, algoritmik çalışan yönetimi uygulamalarının personel üzerindeki etkileri konusunda endişe duyduğunu bildirdi. Katılımcılar özellikle hatalı kararların sorumluluğunun kimde olduğunun belirlenememesi sorununa işaret.
İş yeri gözetim yazılımları, çalışanların tuş vuruşlarından uygulama kullanımına kadar farklı verileri değerlendirebiliyor. Algoritmik sistemler ise söz konusu verileri performans ölçümü, görev dağılımı personel kararlarında kullanabiliyor.
Meta, çalışanların performansını izlemek işten çıkarma kararlarını desteklemek amacıyla yapay zekâ sistemlerinden yararlandığı iddiaları nedeniyle eski mevcut çalışanların açtığı davayla karşı karşıya bulunuyor.
Dava dosyasındaki iddialara göre şirket, Metamate adı verilen iç sistemin yanı sıra çalışanların eğittiği yapay zekâ ajanlarını, tuş vuruşu etkinlik verilerini, yapay zekâ token kullanım panolarını algoritmik performans sıralamalarını kullandı. Davacılar, sistemlerin çalışanları puanlayıp sıraladığını işten çıkarma listelerinin hazırlanmasına katkı sağladığını ileri sürdü.
Mahkeme dosyasında, izin kullanan çalışanların sistem tarafından dezavantajlı duruma düşürüldüğü iddiası yer. İddialar arasında doğum izni veya engellilik nedeniyle izin kullanan çalışanların değerlendirme süreçlerinden olumsuz etkilenmesi bulunuyor. Söz konusu iddialar dava dosyasındaki beyanları yansıtıyor; mahkeme tarafından verilmiş kesin hüküm niteliği taşımıyor.
Kaliforniya’nın yeni düzenlemesi, yapay zekâ destekli personel kararlarında yalnızca otomatik puanlamaya dayanan uygulamalara karşı insan incelemesini yasal gereklilik haline getiriyor. Eyalet, yapay zekâ düzenlemeleri kapsamında ayrıca güvenlik raporlaması, yapay zekâ tarafından üretilen içeriklerin etiketlenmesi denetçi kayıt sistemi gibi alanlarda kurallar oluşturuyor.
Newsom, aynı hafta imzaladığı düzenlemelerle avukatların temel mesleki çalışmalarını bütünüyle yapay zekâya devretmesini sınırlandırdı eğitim kurumlarına çalışanlar öğrenciler için yapay zekâ eğitimi verme yükümlülüğü getirdi. Kaliforniya’nın yaklaşımı, otomatik sistemlerin kullanımını tamamen durdurmak yerine kritik kararların insan sorumluluğunda kalmasını esas alıyor.
