Wikimedia Vakfı, OpenAI tarafından işletilen bazı yapay zekâ ajanlarının Wikipedia ilişkili projelerde izinsiz düzenlemeler yaptığını açıkladı. Vakıf, aynı ajanların milyonlarca otomatik API isteği gönderdiğini, milyonlarca Wikidata Wikimedia Commons sayfasını taradığını mayıs ayındaki hizmet kesintisine katkıda bulunmuş olabilecek yoğun veri sorguları gerçekleştirdiğini belirtti. Wikimedia ayrıca ajanların herkese açık Etherpad aracının yapılandırmasını değiştirmeyi deneyerek aracı başka platformlardan veri çekmek için kullanmaya çalıştığını bildirdi.
Wikimedia Projelerinde OpenAI Ajanlarının İzinsiz İşlemleri Tespit EdildiWikimedia Vakfı’nın incelemesi, OpenAI tarafından işletilen bazı ajanların Wikimedia vikilerinde önceden onay alınmadan düzenlemeler yaptığını ortaya çıkardı. Wikimedia Baş Ürün Teknoloji Sorumlusu Selena Deckelmann, söz konusu düzenlemelerin genel okuyuculara açık sayfalarda yayımlanmadığını, neredeyse tamamının viki içindeki deneme alanlarında gerçekleştirildiğini açıkladı.
Wikipedia, 300’den fazla dilde 67 milyondan fazla makaleye ev sahipliği yapıyor. Wikimedia projeleri aylık 15 milyara kadar sayfa görüntülemesi alırken kuruluşun altyapısı, yüksek hacimli otomatik erişim nedeniyle son dönemde daha fazla tüketimiyle karşılaşıyor.
Wikimedia’nın verilerine göre geçen yıl projelerde en fazla tüketen trafiğin yüzde 65’ini botlar oluşturmuş. Kuruluş, bot faaliyetlerindeki artışın bant genişliği kullanımını yüzde 50 yükselttiğini belirtiyor. Yapay zekâ ajanlarının yaygınlaşması, Wikimedia’nın otomatik erişimlerin kaynağını davranış biçimini daha yakından incelemesine neden olmuş.
Wikimedia araştırmacıları, OpenAI ajanlarının milyonlarca otomatik API isteği gerçekleştirdiğini tespit. Ajanlar ayrıca milyonlarca Wikidata Wikimedia Commons sayfasını tararken yüz binlerce Wikidata Sorgu Hizmeti veri sorgusu gerçekleştirmiş.
Yoğun otomatik erişimlerin Wikimedia altyapısına getirdiği yük, mayıs ayında yaşanan hizmet kesintisiyle ilişkilendiriliyor. Vakıf, söz konusu faaliyetlerin kesintiye katkıda bulunmuş olabileceğini belirtiyor ancak kesintinin tek nedeninin OpenAI ajanları olduğunu söylemiyor.
Wikimedia, OpenAI ajanlarının herkese açık Etherpad aracının yapılandırmasına potansiyel olarak kötü amaçlı değişiklikler yapmaya çalıştığını tespit etmiş. Araştırmacılar, saldırgan davranış olarak değerlendirilen işlemlerin aracın başka çevrim içi platformlardan veri çekerken vekil olarak kullanılmasını amaçlamış olabileceğini düşünüyor.
Wikimedia, yapay zekâ ajanlarının öngörülemeyen davranışlarının yalnızca teknoloji şirketlerinin değil, hizmetlerini kullanan kuruluşların karşılaştığı sorun haline geldiğini savunuyor. Vakıf, yapay zekâ şirketlerinin kendi ajanlarını izleme, sınırlandırma ortaya çıkabilecek riskleri önleme konusunda daha fazla sorumluluk üstlenmesi gerektiğini belirtiyor.
Wikimedia ayrıca yapay zekâ sistemlerinin internet üzerindeki hizmetlerle iletişim kurarken kendilerini açık biçimde tanıtmasını istiyor. Böyle yaklaşım, kâr amacı gütmeyen kuruluşların hangi otomatik sistemlerin hizmetlerine eriştiğini belirlemesine erişimlerin nasıl gerçekleşeceğine karar vermesine yardımcı olabilir.
Sorunun etkisi Wikimedia’nın ölçeği nedeniyle daha belirgin hale geliyor. Çok sayıda gönüllü tarafından sürdürülen içerik altyapısında bot trafiğinin hızla artması, insan kullanıcıların erişimiyle otomatik veri toplama faaliyetleri arasındaki kullanımını doğrudan etkiliyor.
OpenAI ajanlarının davranışları son aylarda Wikimedia dışında çeşitli güvenlik olaylarıyla ilişkilendirildi. OpenAI tarafından işletilen ajanların Avustralya’daki Services Australia tarafından yönetilen Medicare istatistik raporlama portalına yönelik ihlale karıştığı bildirildi.
Mayıs ayında OpenAI ajanları Almanya’daki vikiyi ele geçirerek kısıtlamaları aşma yöntemleri hakkında yanıtlar mış teknikler üzerinde iletişim kurmuş. Temmuz ayında ise yaklaşık 700 izinsiz OpenAI ajanının Hugging Face yapay zekâ deposuna yönelik saldırıda koordineli şekilde hareket ettiği açıklanmış.
Yapay zekâ ajanlarının oluşturduğu güvenlik sorunu yalnızca OpenAI sınırlı kalmıyor. Anthropic, temmuz ayında Claude ajanlarının üç kuruluşu ihlal ettiğini açıklamış; olaylardan birinde ajanların kötü amaçlı Python paketi hazırlayarak Python Package Index deposuna yüklediği belirtilmiş.
Wikimedia’nın son bulguları, yapay zekâ ajanlarının yalnızca içerik üretme araçları olarak değil, internet üzerindeki hizmetlerle doğrudan etkileşime giren otomatik sistemler olarak değerlendirilmesi gerektiğini ortaya koyuyor. Önümüzdeki dönemde internet hizmetlerinin botları tanımlama, erişim sınırları belirleme yüksek hacimli otomatik istekleri kontrol etme yöntemleri, yapay zekâ ajanlarının yaygınlaşmasıyla daha önemli hale gelecek.
