Booz Allen Hamilton tarafından gerçekleştirilen güvenlik testleri, gelişmiş yapay zekâ modellerinin endüstriyel kontrol sistemlerindeki açıkları belirleyerek fiziksel ekipmanları etkileyebilecek saldırılar gerçekleştirebildiğini ortaya koydu. Şirketin sekiz farklı senaryoda yürüttüğü deneylerde modeller, insan onayıyla işlem yapmaları koşuluyla belirlenen hedeflerin tamamına ulaştı; testte robot kolunu birkaç dakika içinde hareket ettirdi. Araştırmacılar, su, elektrik üretim gibi kritik hizmetleri tehdit edebilecek saldırılara karşı kuruluşların savunma hazırlıklarını hızlandırması gerektiğini belirtti.
Yapay Zekâ Modelleri Sekiz Saldırı Senaryosunun Tamamında Başarılı OlduBooz Allen Hamilton’ın operasyonel teknoloji (OT) laboratuvarında yürüttüğü çalışma, gelişmiş yapay zekâ modellerinin endüstriyel ortamlarda ne ölçüde bağımsız hareket edebildiğini incelemeyi amaçladı. Şirket, test edilen modellerin isimlerini açıklamadı; sistemleri önde gelen yapay zekâ sağlayıcılarının en yeni gelişmiş modelleri olarak tanımladı.
Araştırmacılar, farklı üreticilerin donanım yazılımlarını araya getirerek genel üretim tesisini taklit eden test ortamı oluşturdu. Laboratuvarda programlanabilir mantıksal denetleyiciler (PLC), insan-makine arayüzleri (HMI), denetleyici kontrol veri toplama sistemi (SCADA), sensörler, değişken frekanslı sürücüler robotik ekipmanlar yer. Kurumsal ağ, endüstriyel ara bölge, tesis operasyonları üretim alanları ayrı ağ katmanlarına bölündü.
Testlerde yapay zekâ modellerinden ağ yapısını haritalandırmaları, kritik ekipmanları belirlemeleri, güvenlik açıklarını bulmaları farklı zafiyetleri birleştirerek üretim sistemlerine erişmeleri istendi. Deneyler ayrıca modellerin denetleyicilere komut göndermesini, elektrik motorlarının çalışma hızını değiştirmesini, SCADA sistemlerini ele geçirmesini robot kolunu hareket ettirmesini kapsadı.
Booz Allen Hamilton’ın raporuna göre modeller sekiz senaryonun tamamında hedeflerine ulaştı. Araştırmacılar, deney ortamında gerçek sistemlere benzer ağ yapılandırmaları kullandı ancak modellere kodu, mühendislik belgeleri veya gelişmiş OT BT rehberliği vermedi. Testlerde fiziksel sonuç doğurabilecek işlemler için insan onayı şartı uygulandı.
Operasyonel teknoloji sistemleri, fabrikalardaki üretim süreçlerini, enerji ekipmanlarını fiziksel makineleri kontrol eden donanım yazılımları kapsıyor. Geleneksel bilgi teknolojilerinden farklı olarak OT sistemlerindeki güvenlik ihlali, yalnızca veri kaybına yol açmayabilir; üretim hatlarının durmasına veya ekipmanların beklenmedik biçimde çalışmasına neden olabilir.
Booz Allen Hamilton’ın testleri, yapay zekâ ajanlarının farklı üreticilere ait endüstriyel cihazları tanıyabildiğini kontrol sistemleriyle etkileşim kurabildiğini gösterdi. Rapora göre modeller, bazı ağ yapılandırma hatalarını belirleyerek sistemdeki erişimi başka cihazlara ilerlemek için kullanabildi. SCADA senaryosunda ajanlar ilk saldırı yolunun başarısız olması üzerine planlarını değiştirdi, operatör arayüzünün farklı sürümünü belirledi yönetim arayüzü üzerinden ekranları etkileyen yöntem geliştirdi.
Aynı testte SCADA ağ geçidinin, önceden kimlik doğrulaması yapılmış bağlantılar üzerinden 14 operasyonel teknoloji cihazına erişim sağladığı belirlendi. Araştırmacılara göre tek sistemdeki güvenlik sorunu, ağ içindeki denetleyicilere uzanan daha geniş risk oluşturabiliyor.
Raporda ayrıca bazı endüstriyel protokollerde kimlik doğrulama şifreleme eksikliklerinin saldırganların işini kolaylaştırabileceği vurgulandı. Uzun süredir kullanılan özel donanımların karmaşık kontrol ortamlarının artık tek başına yeterli koruma sağlamadığı belirtildi. Yapay zekâ ajanlarının teknik ayrıntıları araştırabilmesi, endüstriyel sistemler konusunda uzman olmayan saldırganların güvenlik açıklarından yararlanma riskini artırıyor.
Araştırmacılar, test ortamında hafif yüklerle çalışmak üzere tasarlanmış iş birlikçi robot kolu kullandı. tür robotlar üretim, montaj, lojistik, paketleme laboratuvar uygulamalarında yer alabiliyor. Geleneksel endüstriyel robotlardan farklı olarak bazı iş birlikçi modeller, koruyucu güvenlik kafesi olmadan çalışacak şekilde tasarlanıyor.
Booz Allen Hamilton’ın açıklamasına göre yapay zekâ ajanı, ağ üzerinde robotik iletişim protokollerini araştırdı, hedef cihazı belirledi, uygulama arayüzünü keşfetti yönetici erişimi elde. Ajan ayrıca robotun koruma bölgelerini hareket sınırlarını inceledikten sonra kolu birkaç dakika içinde hareket ettirdi.
Araştırmacılar, robotun kimlik doğrulaması olmadan hareket komutlarını kabul edip etmediğini değerlendirdi. İlk yöntem başarısız olsaydı ajan, web arayüzü üzerinden sisteme girme denetleyiciye kod çalıştırma gibi alternatif yolları belirlemişti.
Booz Allen Hamilton altyapı siber güvenliği başkan yardımcısı Kyle Miller, üretimde kullanılan robot kolunun kontrolünün ele geçirilmesinin beklenmedik hareketlere, güvenlik sınırlarının aşılmasına yakındaki ekipmanların zarar görmesine yol açabileceğini söyledi. Miller, olası sonuçların mekanik hasar üretim kesintisinden doğrudan insan güvenliğini ilgilendiren risklere kadar uzanabileceğini belirtti.
Booz Allen Hamilton’ın araştırması, yapay zekâ modellerinin dış sistemlere yetkisiz erişim sağladığı gerçek olayların ardından yayımlandı. Raporda ayrıca Güney Kore’deki finans kuruluşlarını Tayvan’daki kamu kurumlarını hedef aldığı öne sürülen yapay zekâ destekli saldırılara değinildi. ABD’deki su, üretim enerji tesislerinde internete açık programlanabilir mantıksal denetleyicilerin yapay zekâ tarafından oluşturulan istismar kodlarıyla hedef alındığına ilişkin bildirimler güvenlik tartışmalarının kapsamını genişletti.
OpenAI, Anthropic Google gibi şirketler, kritik altyapı işletmecilerinin gelişmiş yapay zekâ modellerinden savunma amacıyla yararlanmasına yönelik girişimler duyurdu. Ancak güvenlik uzmanlarına göre savunma sistemlerinin gelişmelere uyum sağlaması gerekiyor.
Miller, endüstriyel ağların güvenlik olgunluğunun sektörler arasında önemli ölçüde değiştiğini, bazı kuruluşların temel güvenlik önlemlerini uygulamakta zorlandığını belirtti. Özellikle farklı üreticilere ait cihazların kullanıldığı, ağların birbirinden yeterince ayrılmadığı eski sistemlerin çalışmaya devam ettiği tesisler daha fazla riskle karşılaşabiliyor.
Booz Allen Hamilton’ın bulguları, kritik altyapı güvenliğinin yalnızca yeni tehdit algılama araçlarıyla sağlanamayacağını gösteriyor. Kuruluşların ağ segmentasyonunu güçlendirmesi, erişim denetimlerini sıkılaştırması, varsayılan parolaları değiştirmesi endüstriyel cihazları düzenli olarak denetlemesi gerekiyor. Yapay zekâ ajanlarının saldırı süreçlerini hızlandırması karşısında güvenlik ekiplerinin olayları tespit etme müdahale etme süresini kısaltması önem taşıyor.
