Yapay zeka araçlarının çocuklar gençler tarafından kullanımının yaygınlaşması, güvenlik konusundaki tartışmaları beraberinde getiriyor. Google’ın eski Güven Güvenlik Başkan Yardımcısı Tom Siegel, yapay zeka sektörünün sosyal medya çağındaki tehlikeleri tekrarladığını belirterek yapay zeka geliştirme çalışmalarının yavaşlatılması konusunda çağrıda bulundu. Siegel, yapay zekanın çocuklar üzerinde sosyal medyadan daha büyük zararlara yol açabileceğini belirtti.
Sosyal medya şirketleri, yapay zekanın çocuklar gençler üzerindeki olumsuz etkileri nedeniyle milyarlarca dolarlık davalarla karşı karşıya kalırken, dünyanın farklı ülkelerinde hükümetler çocukların platformlara erişimini sınırlamaya yönelik adımlar atıyor. Buna karşılık yapay zeka alanındaki gelişmelerin hızına yönelik düzenlemelerin henüz aynı ölçüde ilerlemediği belirtildi.
Tom Siegel, “Yapay zekanın çocuklar üzerindeki etkileri açısından kötü durumda olduğumuzu düşünüyorum”. Sektörün sorunları kendi başına çözeceğine inanmanın gerçekçi olmayacağını belirten Siegel, daha fazla denetime ihtiyaç olduğunu söyledi. Ayrıca yapay zeka şirketlerinin sorumlu tutulabileceği güvenlik standartlarını geliştirmeyi süreçte şirketlerle bağımsız üçüncü taraf kuruluşlarla birlikte çalışmayı planladığını ekledi.
Riskler arasında psikoz eleştirel düşünme kaybı bulunuyor
Siegel, büyük yapay zeka şirketlerinin çocuklara yönelik özellikleri yeterli güvenlik önlemleri oluşturulmadan kullanıma sunduğunu savundu. “Çok ciddi zarar senaryolarıyla karşı karşıya olduğumuzu düşünüyorum” diyen Siegel, çocuklar açısından yapay zekanın oluşturabileceği risklerin intihar psikozdan, yapay zekaya aşırı güvenmenin yol açabileceği bilişsel gerilemeye kadar uzanabileceğini belirtti. “Bilişsel dış kullanımı” olarak adlandırılan durum, kullanıcıların soruların yanıtlarını sürekli olarak yapay zekaya bırakması nedeniyle eleştirel düşünme becerilerinin azalması anlamına geliyor.
Siegel, yapay zeka şirketlerinin yaş doğrulama sistemlerini güçlendirerek çocukların sohbet botlarına erişmesini engelleyebileceğini önerdi. Siegel’e göre önlemler kısa vadede şirketlerin kullanım oranlarını veya gelirlerini etkileyebilir, ancak gerekli adımların atılmaması şirketleri daha ağır sonuçlar doğurabilecek davalar düzenlemelerle karşı karşıya bırakabilir.
Siegel, yapay zeka araçlarının oluşturduğu riskleri ölçebilecek güvenlik ölçütlerinin yaygınlaştırılması gerektiğini belirterek, otomobillerde güvenliği değerlendirmek için yapılan çarpışma testlerine benzer şekilde yapay zeka araçlarının bağımsız risk değerlendirmelerinden geçmesi konusunda çağrıda bulundu.
: Reuters
