OpenAI, yapay zekâ ajanlarıyla yazılım açıklarını tespit etmek, saldırı senaryolarını doğrulamak güvenlik açıklarını gidermek için Daybreak Red Team Daybreak Defense Factory araçlarını tanıttı. Yeni ürünler, uygulama kodlarını analiz ederek gerçek saldırılara dönüşebilecek güvenlik sorunlarını belirlemeyi geliştiricilere çözüm önerileri sunmayı hedefliyor. Daybreak Red Team erken erişime açılırken Defense Factory, uygun ChatGPT çalışma alanlarında ön izleme sürümüyle kullanıma sunuluyor.
Daybreak Red Team Güvenlik Açıklarını Gerçek Saldırılarla Test EdiyorOpenAI’ın yeni Daybreak Red Team aracı, web uygulamalarına yönelik sızma testlerini birden fazla yapay zekâ ajanının koordinasyonuyla gerçekleştiriyor. Ajanlar, uygulamaların kodlarını inceleyerek olası saldırı yollarını araştırıyor tespit ettikleri güvenlik açıklarının gerçekten istismar edilip edilemeyeceğini test ediyor.
Geleneksel güvenlik tarayıcıları çoğunlukla kodundaki potansiyel zayıflıkları belirlemekle yetiniyor. Daybreak Red Team ise adım ileri giderek bulunan açığın gerçek koşullarda saldırıya dönüşüp dönüşemeyeceğini doğrulamaya odaklanıyor. Böylece güvenlik ekipleri, yalnızca teorik riskleri değil, uygulamaların güvenliğini doğrudan tehdit eden açıkları önceliklendirebiliyor.
Sistem, mevcut kod tarama araçlarının bulgularını, hata ödül programlarından gelen bildirimleri güvenlik araştırmacılarının açık raporlarını değerlendirebiliyor. Yapay zekâ ajanları, verileri inceleyerek güvenlik sorunlarının doğruluğunu kontrol ediyor. Ayrıca geliştirilen yamaların açığı gerçekten kapatıp kapatmadığını test edebiliyor uygulamada yapılan değişikliklerden sonra güvenlik değerlendirmelerini tekrarlayabiliyor.
OpenAI, testlerin kontrolsüz biçimde yürütülmesini önlemek için izole ortamlar Guardian denetim mekanizmasını kullanıyor. Kuruluşlar, kontroller üzerinden ajanların erişebileceği uygulamaları uç noktaları sınırlandırabiliyor. Böylece sızma testleri belirlenen güvenlik sınırları içerisinde gerçekleştiriliyor.
Daybreak Red Team güvenlik sorunlarını bulmaya doğrulamaya odaklanırken Daybreak Defense Factory açıkların giderilmesi için geliştirildi. kuruluşların kod depolarına bağlanarak mevcut güvenlik sistemlerinden veya Red Team analizlerinden elde edilen bulguları içe aktarabiliyor.
Yapay zekâ ajanları, her güvenlik sorununu ayrı ayrı inceleyerek açığın kod tabanındaki kaynağını belirliyor. Ardından sorunu gidermek için düzeltme önerileri hazırlıyor. Geliştiriciler, önerilen yamaları inceleyerek gerekli değişiklikleri yapabiliyor kod tabanına eklemeden önce çözümleri test edebiliyor.
Defense Factory’nin OpenAI Codex kodlama ajanıyla entegrasyonu geliştirme sürecinde önemli rol oynuyor. Mühendisler, Codex üzerinden güvenlik açığına ilişkin kanıtları inceleyebiliyor, ek bağlam sağlayabiliyor yapay zekânın hazırladığı yamaları değiştirebiliyor. Böylece güvenlik ekipleri yazılım geliştiricileri aynı iş akışı içerisinde çalışabiliyor.
Daybreak Defense Factory yalnızca mevcut güvenlik açıklarını gidermekle sınırlı kalmıyor. Platform, kod tabanındaki değişiklikleri düzenli olarak kontrol etmek için sürekli güvenlik izleme özellikleri sunuyor. Kuruluşlar, yeni kod gönderimlerinin otomatik olarak taranmasını veya belirli aralıklarla güvenlik kontrolleri gerçekleştirilmesini sağlayabiliyor.
yaklaşım, yazılım geliştirme sürecinde sonradan ortaya çıkan güvenlik sorunlarının daha erken tespit edilmesini hedefliyor. Yeni kod değişikliği mevcut açığı yeniden oluşturduğunda veya farklı zafiyet ortaya çıkardığında yapay zekâ ajanları ilgili durumu inceleyebiliyor.
OpenAI, Daybreak araçlarını daha önce başlattığı siber güvenlik girişiminin devamı olarak konumlandırıyor. Şirket, ağustos ayında güvenlik araştırmacıları geliştiriciler için Red Blue erişim seviyelerini genişletmiş, kısa süre önce GPT-6 Cyber modelini tanıtmıştı. Şirketin açıklamasına göre GPT-6 Cyber, Linux çekirdeğinde yaklaşık 1.000 güvenlik açığı keşfetti.
OpenAI, Daybreak Red Team aracını anda erken erişim programı üzerinden sunuyor. Ürünü denemek isteyen kuruluşlar şirketin erişim programına başvurabiliyor. Daybreak Defense Factory ise uygun ChatGPT çalışma alanlarında ön izleme sürümüyle kullanıma açılıyor.
İki ürünün birlikte kullanılması, güvenlik açıklarının tespitinden çözümün doğrulanmasına kadar uzanan süreci yapay zekâ ajanları üzerinden yürütmeyi amaçlıyor. OpenAI’ın yaklaşımı, güvenlik ekiplerinin manuel analiz yükünü azaltırken geliştiricilerin doğrulanmış sorunlara daha hızlı müdahale etmesini hedefliyor.
