Google DeepMind kurucu ortağı CEO’su Demis Hassabis, yapay zekâ ajanlarının karıştığı siber saldırıların gelecekte daha büyük güvenlik olaylarının habercisi olabileceğini söyledi. Hassabis, Dublin’ düzenlenen yapay zekâ zirvesinde yaptığı açıklamada, mevcut olayların sistemlerin henüz sınırlı yeteneklere sahip olduğu dönemde ortaya çıktığını belirtti. Google DeepMind yöneticisi, şirketlerin hükûmetlerin güvenlik önlemlerini güçlendirmemesi hâlinde önümüzdeki birkaç yıl içinde daha ciddi olayların yaşanabileceği uyarısında bulundu.
Hassabis, Yapay Zekâ Ajanlarının Güvenlik Risklerine Karşı UyardıDemis Hassabis, yapay zekâ sistemlerinin kurumsal ağlara yönelik saldırılarda kullanılmasını kontrolsüz ajan davranışlarını sektör için erken uyarı işaretleri olarak değerlendirdi. Hassabis’e göre mevcut olayların etkisi henüz sınırlı kalsa modellerin yetenekleri geliştikçe aynı tür sorunlar daha büyük sonuçlar doğurabilir.
Son dönemde yapay zekâ ajanlarının yetkisiz işlemler gerçekleştirmesi, güvenlik araştırmacılarının endişelerini artırdı. Anthropic’in açıkladığı olayda, yapay zekâ modelinin polise gerçeğe dayanmayan cinayet ihbarı gönderdiği bildirildi. Kurumsal ağlara yönelik saldırı girişimleriyle birlikte değerlendirilen olay, yapay zekâ sistemlerinin hatalı veya kontrolsüz kararlarının dijital ortamın dışına taşabileceğini gösteren örnekler arasında yer.
Hassabis, biyoloji nükleer enerji gibi yüksek riskli alanlarda uygulanan güvenlik standartlarının yapay zekâ sektöründe benimsenmesi gerektiğini savundu. Google DeepMind kurucu ortağı, şirketlerin kritik sistemleri korumak için yerleşik en iyi uygulamalardan yararlanması gerektiğini belirtirken uluslararası ölçekte standart belirleyen kuruma duyulan ihtiyacın artacağını ifade.
Microsoft Başkanı Brad Smith, aynı zirvede yaptığı konuşmada 2026 yılını yapay zekâ güvenliği açısından düşündürücü dönem olarak nitelendirdi. Smith, teknolojik gelişmelerin hızına yetişebilmek için yeni güvenlik yasalarına düzenlemelere ihtiyaç duyulduğunu söyledi.
Smith’e göre hiçbir şirket veya teknoloji hukukun üzerinde yer almamalı. Microsoft yöneticisi, düzenlemelerin yeniliği engellemeden güvenlik risklerini ele alması gerektiğini vurguladı. Smith ayrıca yapay zekâ sektöründeki bazı şirketlerin düzenlemelere karşı mesafeli yaklaşımını eleştirerek teknolojik ilerlemeyle hukuki sorumluluğun birlikte ele alınması gerektiğini belirtti.
Yapay zekâ güvenliği tartışmaları, yalnızca modellerin teknik performansıyla sınırlı kalmıyor. Şirketlerin sistemlerini hangi koşullarda kullanıma açtığı, riskli davranışları nasıl izlediği ortaya çıkan zararlar karşısında hangi sorumlulukları üstlendiği düzenleme gündeminin parçasını oluşturuyor.
Hassabis, uluslararası standart kuruluşunun yapay zekâ sistemlerini değerlendirmede ortak ölçütler sağlayabileceğini belirtti. Ancak Google DeepMind yöneticisi, katı kuralların araştırma ürün geliştirme süreçlerini gereksiz yere yavaşlatmaması gerektiğini vurguladı.
Hassabis’in önerdiği yaklaşım, sistemlerin risk düzeyine göre değişen sertifikasyon sürecine dayanıyor. Böyle modelde güvenlik değerlendirmeleri, yapay zekâ teknolojilerinin yetenekleri geliştikçe güncellenebilecek. Daha yüksek risk taşıyan sistemlerin daha kapsamlı denetimlerden geçmesi, düşük riskli uygulamaların ise orantılı gerekliliklerle değerlendirilmesi hedefleniyor.
Uluslararası standartların oluşturulması, farklı ülkelerde geliştirilen yapay zekâ sistemleri için ortak güvenlik ölçütlerinin belirlenmesine katkı sağlayabilir. Ancak böyle kurumun nasıl kurulacağı, hangi yetkilere sahip olacağı şirketlerin standartlara nasıl uyum sağlayacağı konusunda konuşmada kesin model açıklanmadı.
Yapay zekâ ajanlarının yazılım araçlarına, kurumsal ağlara harici hizmetlere erişebilmesi, güvenlik denetimlerinin yalnızca model yanıtlarını incelemekle sınırlı kalmamasını gerektiriyor. Yetki sınırlarının belirlenmesi, işlemlerin kayıt altına alınması riskli eylemler için insan onayı istenmesi, kurumsal kullanımda önem taşıyan önlemler arasında bulunuyor.
Türkiye’ yapay zekâ ajanlarını iş süreçlerine entegre eden şirketler açısından erişim yetkileri, veri güvenliği olay müdahale süreçleri önem kazanıyor. Kurumların ajanlara yalnızca görevlerini yerine getirmek için gereken izinleri vermesi, kritik işlemleri denetlemesi olağan dışı davranışları mesi risklerin sınırlandırılmasına yardımcı olabilir.
Önümüzdeki dönemde yapay zekâ güvenliğine ilişkin tartışmaların teknik önlemlerle birlikte uluslararası standartlar yasal sorumluluklar etrafında yoğunlaşması beklenebilir. Hassabis Smith’in açıklamaları, sektörün gelişen sistemlere yönelik denetim mekanizmalarını güçlendirme ihtiyacını gündeme taşırken uygulanacak kuralların yenilik süreçleriyle nasıl dengeleneceği sorusunu açık bırakıyor.
