Yapay zekâ altyapı şirketi Fireworks AI, üçüncü taraf bulut sağlayıcısına yönelik saldırının ardından geliştirme sistemlerine yetkisiz erişim sağlandığını yeni veri ihlali yaşandığını duyurdu. 23 Ekim’ gerçekleşen olayda saldırganlar, bazı müşterilere ait faturalandırma bilgilerine, tanımlama verilerine tamamlanmamış yapay zekâ modeli ağırlıkları veri kümelerine erişti. Şirket, olayın ardından erişim anahtarlarını yenilediğini, etkilenen sistemleri izole ettiğini soruşturma için Palo Alto Networks bünyesindeki Unit 42 ekibiyle çalışmaya başladığını açıkladı.
Fireworks AI Geliştirme Sistemleri Saldırganların Hedefi OlduFireworks AI, geliştiricilerin Mistral, Meta Llama Google Gemma gibi açık kaynaklı yapay zekâ modellerini çalıştırmasını sağlayan yüksek performanslı çıkarım platformu sunuyor. Şirketin altyapısı, kullanıcıların donanım darboğazları karmaşık sistem yönetimiyle uğraşmadan yapay zekâ modellerini dağıtmasına yardımcı oluyor.
Şirket, yeni olaydan önce ekim ayının başında başka güvenlik ihlali yaşandığını açıklamıştı. İlk saldırıda sınırlı sayıdaki hesaba ait ortam değişkenlerinde saklanan API anahtarları erişim belirteçleri ele geçirilmişti. Fireworks, kolluk kuvvetlerini etkilenen müşterilerini bilgilendirdiğini, ardından ele geçirilen şirket içi kimlik bilgilerini API anahtarlarını iptal ettiğini duyurmuştu.
İlk olayla bağlantılı saldırganların, ele geçirdikleri erişim bilgilerini yasa dışı geçiş ağları üzerinden büyük dil modellerini kullanmak amacıyla elde etmeye çalıştığı belirtilmişti. Fireworks, yöntemi LLMJacking olarak tanımlamış saldırgan grubun finansal kazanç sağlamayı hedeflediğini açıklamıştı.
Fireworks, ilk saldırının ardından güvenlik önlemlerini yenilerken 23 Ekim’ yeni olay tespit. Şirketin pazartesi günü yayınladığı güvenlik duyurusuna göre saldırganlar, Fireworks Ar-Ge makinelerini barındıran üçüncü taraf bulut sağlayıcısındaki güvenlik ihlalinden yararlanarak 24 Ekim’ şirketin geliştirme sistemlerine ulaştı. Yetkisiz iş yükünün çalıştırılması, müşteri verilerinin olaydan etkilenmesine yol.
Saldırganların eriştiği bilgiler arasında Fireworks kaynaklarına ait tanımlayıcılar, görünen adlar, açıklamalar oluşturulma zamanları bulunuyor. Faturalandırma tarafında ise müşterilerin fatura teslimat adresleri, ödeme geçmişleri, fatura kayıtları, hesap bakiyeleri kredi kullanım bilgileri etkilendi.
Bazı müşterilere ait tamamlanmamış model ağırlıkları veri kümelerine erişildi. Ancak şirket, müşterilerin ödeme kartı numaralarının ele geçirilmediğini belirtti. Fireworks, kart numaralarını kendi sistemlerinde saklamadığını nedenle söz konusu bilgilerin saldırganların erişimine açık olmadığını açıkladı.
Şirket, saldırı faaliyetini aynı gün tespit ettiğini olay müdahale prosedürlerini devreye soktuğunu bildirdi. Fireworks, 25 Ekim itibarıyla müşterilerin kullandığı platformda saldırganların başarılı yetkisiz erişimine ilişkin yeni bulguya rastlamadığını açıkladı.
Olayın ardından şirket, ele geçirilmiş olabilecek kimlik bilgilerini hizmet hesaplarını iptal ederek yenileriyle değiştirdi. Yetkisiz ağ bağlantılarını sınırlandıran Fireworks, etkilenen sistemleri izole. Şirket ayrıca veri depolama analiz altyapısındaki erişim kontrollerini sıkılaştırarak herkese açık veya izinsiz veri erişimini engellemeye yönelik önlemler.
Fireworks, saldırının kapsamını etkilerini daha ayrıntılı incelemek, gelecekte benzer olayların yaşanmasını önlemek amacıyla Palo Alto Networks’ün Unit 42 olay müdahale ekibiyle çalışıyor.
Fireworks olayının yaşandığı dönemde Google Threat Intelligence Group (GTIG) Mandiant araştırmacıları, büyük dil modeli hesaplarının ele geçirilmesine yönelik saldırıların kuruluşlara yüksek maliyetler çıkardığını bildirmişti. Araştırmacılara göre saldırganlar, çalınan API anahtarları üzerinden yetkisiz model çağrıları gerçekleştirerek kurbanların bulut faturalarını ciddi ölçüde artırabiliyor.
Bazı olaylarda sahte yapay zekâ API kullanımlarının bulut maliyetlerini 1 milyon dolara kadar çıkardığı aktarıldı. LLMJacking olarak bilinen yöntem, saldırganların ele geçirdikleri hesaplar üzerinden yapay zekâ hizmetlerini kullanmasına veya erişimi yasa dışı ağlara satmasına dayanıyor.
Fireworks’te yaşanan iki ayrı güvenlik olayı, API anahtarlarının korunmasının yanı sıra geliştirme ortamlarının üçüncü taraf bulut sağlayıcılarının güvenliğinin önemini ortaya koyuyor. Yapay zekâ altyapısı sunan şirketler, müşteri verilerini korumak için yalnızca kendi platformlarını değil, hizmet aldıkları tedarikçilerin güvenlik kontrollerini sürekli denetlemek zorunda kalıyor.
