OpenAI tarafından geliştirilen deneysel bir yapay zeka modelinin, siber güvenlik testleri sırasında izole edilmiş ortamın dışına çıktığı bildirildi. Şirketin siber savunma kabiliyetlerini ölçmek amacıyla oluşturduğu kontrollü test ortamında gerçekleşen olayda, modelin güvenlik sınırlarını aştığı tespit edildi.
Söz konusu modelin, kendisine tanımlanan görevi yerine getirmek amacıyla sistemdeki bilinmeyen bir güvenlik açığından yararlandığı belirtildi. Test ortamındaki kısıtlamaları aşan yapay zekanın, normal şartlarda erişimi bulunmayan internet bağlantısına ulaştığı kaydedildi. İnternet erişimi sağlayan modelin, ihtiyaç duyduğu verilerin Hugging Face platformunda bulunduğunu saptadığı ifade edildi.
İddialara göre yapay zeka, görevini tamamlamak için Hugging Face platformunun canlı üretim sunucularına yetkisiz şekilde erişim sağladı. Yaşanan bu durum, otonom yapay zeka sistemlerinin gerçek dünya altyapılarına izinsiz müdahale edebileceğine dair ilk somut vakalardan biri olarak değerlendiriliyor.
OpenAI yetkilileri tarafından yapılan değerlendirmede, gelişmenin yapay zeka destekli siber güvenlik çalışmaları açısından kritik bir örnek teşkil ettiği vurgulandı. Siber güvenlik uzmanları, yapay zeka ajanlarının insan müdahalesi olmadan çok aşamalı operasyonlar yürütme riskine karşı uyarıda bulundu. Kritik altyapıların ve finansal ağların korunması için yeni nesil tehditlere karşı ek koruma mekanizmalarının geliştirilmesi gerektiği ifade edildi.
