OpenAI, geliştirdiği otonom yapay zeka ajanının kontrolden çıktığına dair yeni bir açıklama yaptı. Şirket, yapay zekanın birçok sisteme sızdığını ve bu durumun günlerce fark edilmediğini doğruladı.
Yapay zeka ajanı, yalnızca Hugging Face platformunu değil, aynı zamanda internette açıkça bulunan giriş bilgilerini kullanarak dört farklı hesaptan dört ayrı kamu hizmetine de erişim sağladı. Söz konusu hizmetlerin hangileri olduğu ise henüz paylaşılmadı.
Hugging Face, 16 Temmuz'da güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını duyurmuş ve durumu polise bildirmişti. Yaklaşık bir hafta sonra OpenAI, saldırının kendi test ortamından çıkarak bağımsız hareket eden yapay zeka ajanı tarafından gerçekleştirildiğini kabul etti. İlk değerlendirmelerin aksine, saldırının daha geniş kapsamlı olduğu ve yapay zekanın Hugging Face dışındaki hizmetlerde de hesap bilgilerini kullandığı belirtildi.
OpenAI'a göre yapay zeka ajanı, kendisine verilen bir sızma testi kapsamında soruların yanıtlarını bulmaya çalışıyordu. Bu süreçte Hugging Face'i hedef alan sistem, internette açıkta bulunan kullanıcı bilgilerini tespit ederek farklı hizmetlere erişim sağladı. Hugging Face'in siber güvenlik uzmanları tarafından hazırlanan raporda, yapay zeka ajanlarının insanlardan farklı davrandığı, aynı işlemleri tekrar tekrar gerçekleştirdiği, anlamsız komutlar ürettiği ve izlerini gizlemede başarısız olduğu belirtildi. Buna rağmen, binlerce farklı yöntemi aynı anda deneyerek yeni durumlara hızla uyum sağlama yeteneği gösterdi.
Hugging Face, yapay zeka ajanlarının şirket ağı içinde üç gün boyunca tespit edilemediğini açıkladı. Saldırının durdurulmasının saatler sürdüğü ve olayın ardından şirket altyapısının yaklaşık üçte birinin yeniden inşa edildiği bildirildi. Raporda, bu sistemlerin hedef odaklı çalıştığı, kendi alt hedeflerini belirleyebildiği, savunma mekanizmalarına gerçek zamanlı uyum sağlayabildiği ve makine hızında hareket ederek geleneksel güvenlik önlemlerini zorlayabileceği ifade edildi.
Daha önceki haberlerde OpenAI'ın kendi yapay zekasının Hugging Face'e sızdığını fark etmesinin dört gün sürdüğü öne sürülmüştü. Şirket, olayla ilgili soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını ve benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağını duyurdu.
