Şirket yöneticileri, yapay zekâ tarafından üretilen bilgileri doğrulamak için başka yapay zekâ araçlarına başvuruyor. GWI araştırmasına göre iş dünyası liderlerinin yüzde 81’i yapay zekâyı günlük işlerinde kullanırken yüzde 56’sı hatalı veya yanıltıcı yapay zekâ çıktısına dayanarak önemli karar. Araştırma, yöneticilerin yanlış bilgilerin sonuçlarını bilmesine rağmen doğrulama süreçlerinde yine yapay zekâya güvenmesinin yeni riskler doğurduğunu ortaya koyuyor.
Yanlış Yapay Zekâ Çıktıları Şirketlere Finansal Kayıplar YaşatıyorGWI tarafından gerçekleştirilen araştırma, yapay zekânın iş dünyasında yaygınlaşmasına rağmen üretilen bilgilerin doğruluğuna ilişkin sorunların sürdüğünü gösteriyor. Birleşik Krallık’taki yöneticilerin yüzde 81’i teknolojiyi günlük iş akışlarında kullanıyor. Ancak katılımcıların yüzde 56’sı, sonradan yanlış veya yanıltıcı olduğu anlaşılan yapay zekâ analizlerine dayanarak önemli iş kararı verdiğini belirtiyor.
Hatalı analizlerin şirketlerde yarattığı sonuçlar yalnızca karar süreçleriyle sınırlı kalmıyor. Katılımcıların yaklaşık yüzde 40’ı kurum içinde yeniden çalışma ihtiyacı doğduğunu, yüzde 36’sı kararların geciktiğini, yüzde 35’i ise müşteri şikâyetleriyle karşılaştığını bildiriyor. Bazı şirketler için yanlış bilgiye dayalı kararların etkisi finansal kurumsal itibar kayıplarına kadar uzanıyor.
Araştırmaya katılan yöneticilerin yüzde 26’sı hatalı yapay zekâ çıktıları nedeniyle finansal kayıp yaşadığını söylüyor. Katılımcıların yüzde 24’ü itibarlarının zarar gördüğünü, yüzde 20’si ise pazarlama kampanyalarının performansının gerilediğini ifade ediyor. veriler, yapay zekâ analizlerindeki doğruluk sorunlarının şirketlerin operasyonel süreçlerinin yanı sıra ticari sonuçlarını etkileyebildiğini ortaya koyuyor.
GWI araştırması, şirket yöneticilerinin yapay zekâ kaynaklı riskleri büyük ölçüde bildiğini gösteriyor. Katılımcıların yüzde 84’ü kurumlarında hatalı yapay zekâ çıktılarının en az olumsuz sonucunu gördüğünü belirtiyor. Aynı orandaki yönetici, yanlış yapay zekâ analizlerine dayalı kararların önemli risk oluşturduğunu düşünüyor.
GWI Kurucusu Üst Yöneticisi Tom Smith, yapay zekânın güvenilirliğinin beslendiği verilerin niteliğine bağlı olduğunu vurguluyor. Smith’e göre yapay zekâ yatırımlarında hızlı ilerleyen şirketler, insan değerlendirmesini iş zekâsı süreçlerine yeterince dahil edemediğinde hatalı sonuçlarla karşılaşabiliyor. Yönetici, yapay zekânın yanlış bilgi sunduğunda doğru bilgi kadar kendinden emin dil kullanabildiğini belirtiyor.
Veri güncelliği şirketlerin karşılaştığı temel sorunlardan biri olarak öne çıkıyor. Araştırmaya katılan yöneticilerin üçte ikisi, güncelliğini yitirmiş veri veya analizlere farkında olmadan dayanarak karar aldığını söylüyor. Katılımcılar, çalışma arkadaşlarının benzer hatalar yaptığını düşünüyor. Böylece yanlış veya eski bilgilerin kurum içinde yayılması, karar süreçlerinin güvenilirliğini daha zayıflatabiliyor.
Yapay zekâ tarafından oluşturulan bilgilerin doğrulanması, yöneticiler için tekrarlanan sorun hâline geliyor. Araştırmaya göre katılımcıların yalnızca yüzde 29’u yapay zekâ çıktılarının doğruluğunu çoğu zaman kontrol ediyor. Yüzde 31’lik kesim ise doğrulama işlemini yalnızca ara sıra gerçekleştiriyor.
Araştırmanın en dikkat çekici sonuçlarından biri, yöneticilerin yüzde 36’sının yapay zekâ aracından aldığı yanıtı başka yapay zekâ sistemiyle karşılaştırması. İlk bakışta ek kontrol yöntemi gibi görünen yaklaşım, verilerdeki hataların ikinci sisteme taşınması veya farklı hatalı yanıtların yeni belirsizlik yaratması riskini barındırıyor. İki sistemin aynı yanlış varsayıma dayanması hâlinde karşılaştırma işlemi, bilginin doğruluğunu güvenilir biçimde kanıtlamıyor.
GWI, şirketlerin sorunu çözebilmesi için daha güçlü yapay zekâ yönetişimi oluşturması doğrulama standartlarını iş süreçlerine yerleştirmesi gerektiğini belirtiyor. Ancak araştırma, kurumların alanda henüz yeterli ilerleme kaydetmediğine işaret ediyor. Katılımcıların yalnızca yüzde 27’si, kullandıkları verilerin yöntemsel açıdan savunulabilir izlenebilir olmasını öncelikli hedef olarak görüyor.
Yapay zekâ destekli kararın yanlış çıkması durumunda sorumluluğun kime ait olduğu konusunda şirket yöneticileri farklı görüşler taşıyor. Araştırmaya katılanların yüzde 34’ü sorumluluğun taraflar arasında ılması gerektiğini düşünüyor. Katılımcıların yüzde 23’ü kurumu, yüzde 22’si yapay zekâ sağlayıcısını, yüzde 20’si ise çıktıyı kullanan çalışanı sorumlu tutuyor.
Smith, kurumsal yapay zekâ politikalarının tek başına hesap verebilirlik sağlamadığını savunuyor. Yöneticiye göre şirketlerin hangi verilerle karar aldığını bilmesi, şüpheli sonuçları sorgulaması analizleri güncel, temsil gücü yüksek insan verileriyle desteklemesi gerekiyor. Yapay zekâ yönetişimi, yalnızca kullanım kurallarını belirlemekle kalmamalı; kararların dayandığı kaynakları izlenebilir hâle getirmeli.
Yapay zekâ çıktılarının doğruluğuna ilişkin endişeler farklı meslek gruplarında gündeme geliyor. ISC2 tarafından yıl gerçekleştirilen başka araştırmada, siber güvenlik uzmanlarının yüzde 63’ü doğruluk kaygıları nedeniyle yapay zekâ çıktılarını sık sık gözden geçirdiğini doğruladığını belirtti. Katılımcıların onda dokuzu ise yapay zekânın önerdiği işlemlerin yanlış sonuçlara yol açtığını bildirdi.
GWI ISC2 araştırmaları, yapay zekânın iş süreçlerine entegrasyonunun insan denetimi ihtiyacını ortadan kaldırmadığını gösteriyor. Şirketlerin güvenilir kararlar alabilmesi için yalnızca farklı yapay zekâ araçlarından yanıt toplaması yeterli değil. Kurumların veri kaynaklarını doğrulaması, güncelliği kontrol etmesi kritik kararları insan değerlendirmesiyle desteklemesi gerekiyor.
