Yapay zekâ güvenliği konusunda çalışan araştırmacılar, kontrolsüz gelişen sistemlerin gelecekte küresel ölçekte ciddi sonuçlar doğurabilecek kırılma noktasına ulaşabileceği uyarısında bulundu. ABD Çin arasındaki yapay zekâ rekabeti hız kazanırken uzmanlar, güvenlik önlemlerinin aynı hızda gelişmemesinin teknoloji dünyasında “Çernobil anı” olarak tanımlanabilecek büyük krize yol açabileceğini savunuyor. Araştırmacılara göre risk yalnızca teknoloji şirketlerini değil, siber güvenlikten biyoteknolojiye kadar birçok kritik alanı ilgilendiriyor.
Uzmanlar Küresel İş Birliği Olmadan Risklerin Artacağını SöylüyorMIT’ görev yapan bilgisayar bilimcisi Stephen Casper, ay Pekin’ düzenlenen uluslararası yapay zekâ konferansında yaptığı değerlendirmede, sektörün en büyük endişelerinden birinin büyük ölçekli yapay zekâ güvenliği krizi olduğunu dile getirdi. Casper, yapay zekânın sağladığı faydaların küresel olduğu kadar oluşturabileceği zararların sınır tanımayacağını belirterek ülkelerin yalnızca rekabete değil ortak güvenlik mekanizmalarına odaklanması gerektiğini söyledi.
Araştırmacılar, “Çernobil” benzetmesini yalnızca olası can kayıplarını ifade etmek için kullanmıyor. Uzmanlara göre büyük çaplı yapay zekâ kazası yaşanması hâlinde kamuoyunun teknolojiye duyduğu güven uzun yıllar boyunca zedelenebilir. 1986’daki nükleer felaketin nükleer enerji politikalarını onlarca yıl etkilemesi gibi benzer ölçekte yaşanacak olayın yapay zekâ yatırımlarını düzenlemelerini kökten değiştirebileceği değerlendiriliyor.
Uzmanlar arasında risk değerlendirmeleri farklılık gösteriyor. Bazı araştırmacılar gelecekte ortaya çıkabilecek ileri düzey otonom sistemleri en büyük tehdit olarak görürken bazıları ekonomik dönüşümün iş gücü üzerindeki etkilerine dikkat çekiyor. Son dönemde ise yapay zekâ destekli siber saldırılar en fazla tartışılan başlıklardan biri hâline geldi. Büyük dil modellerinin karmaşık yazılımlar üretebilmesi, savunma araçlarını geliştirdiği kadar saldırı yöntemlerini erişilebilir hâle getirebiliyor.
Üretken yapay zekâ sistemleri yalnızca içerik oluşturmakla sınırlı kalmıyor; yazılım geliştirme, güvenlik analizi otomasyon gibi alanlarda giderek daha fazla görev üstleniyor. durum, gelişmiş araçların kötü niyetli kişiler tarafından kullanılma ihtimalini artırırken devlet kurumları teknoloji şirketlerini yeni güvenlik politikaları oluşturmaya zorluyor. Yapay zekâ riskleri konusundaki tartışmaların son dönemde hız kazanmasının nedenlerinden biri teknolojilerin yeteneklerindeki hızlı artış olarak gösteriliyor.
Endişeleri artıran gelişmeler yalnızca akademik uyarılarla sınırlı değil. Anthropic’in kısa süre önce tanıttığı ileri düzey modeli hakkında yaptığı açıklamalarda, belirli yeteneklerin kötüye kullanılma ihtimali nedeniyle herkese açılmayan sistemlerin bulunduğu belirtilmişti. Şirketlerin giderek daha güçlü modeller geliştirirken aynı zamanda erişim kısıtlamaları uygulamaya başlaması, güvenlik tartışmalarını yeniden gündeme taşıdı.
Stephen Casper, çözüm için Soğuk Savaş dönemindeki nükleer silah anlaşmalarını örnek gösteriyor. ABD Sovyetler Birliği siyasi rekabeti sürdürmesine rağmen nükleer riskleri azaltacak ortak mekanizmalar geliştirebilmişti. Araştırmacılar, benzer yaklaşımın bugün ABD Çin arasında benimsenmesi gerektiğini savunuyor. Çünkü olası yapay zekâ kaynaklı felaketin etkileri tek ülkeyle sınırlı kalmayacak; dijital altyapılar, kritik hizmetler küresel ekonomi üzerinde zincirleme sonuçlar doğurabilecek tablo oluşturacak.
