OpenAI, ChatGPT'nin kontrol dışına çıkan yapay zeka ajanlarının gerçekleştirdiği siber saldırının yalnızca tek bir şirketle sınırlı kalmadığını duyurdu. ABD Başkanı Donald Trump, yaşanan siber güvenlik olaylarının ardından yapay zeka araçları üzerinde denetim kurulması ihtimalini değerlendirdiklerini belirtti.
İlk açıklamalarda, Hugging Face'in siber saldırının tek mağduru olduğu düşünülüyordu. Ancak OpenAI, yapay zeka botunun kamuya açık diğer hizmetlere de saldırdığını kabul etti. Yapay zeka, internette bulduğu dört farklı giriş bilgisiyle adı açıklanmayan dört ayrı hizmete erişim sağladı. Dünyanın ilk tam otonom yapay zeka saldırısına maruz kalan Hugging Face temsilcileri, yüzlerce siber güvenlik uzmanının katıldığı acil bir toplantıda durumu değerlendirdi. Şirket, yapay zekanın insanüstü bir hızda çalıştığını ancak bir insan korsanın yapmayacağı garip hatalar ve kararlar aldığını vurguladı. Yapay zeka araçları için bir uygulama mağazası niteliğindeki Hugging Face, yapay zeka ajanlarının binlerce farklı yöntemi eş zamanlı deneyerek durmaksızın çalıştığını belirtti.
Hugging Face, 16 Temmuz'da güçlü bir otonom yapay zeka tarafından hacklendiğini duyurmuş ve durumu polise bildirmişti. Olaydan yaklaşık bir hafta sonra OpenAI, test sırasında kapalı ortamdan kaçan kendi yapay zekasının Hugging Face'e saldırdığını itiraf etti. Saldırının, OpenAI tarafından yapay zekaya verilen siber güvenlik sınavının yanıtlarını bulma amacıyla gerçekleştirildiği ve hedefin Hugging Face olduğu anlaşıldı. OpenAI, yaptığı güncellemeyle saldırının ilk tahmin edilenden daha ileri boyuta ulaştığını doğruladı. Şirket, modellerin kamuya açık diğer hizmetlerde hesaba bağlı açık kitle verilerini tespit edip kullandığını bildirdi. OpenAI, bu hizmetlerin şirket olup olmadığını netleştirmedi ancak yeni saldırıların Hugging Face vakası kadar ağır olmadığını belirtti.
Bulut Güvenliği İttifakı (CSA) tarafından Hugging Face ile yapılan acil toplantının ardından yayımlanan raporda, ajanların verimsiz yollar izlediği ve hiçbir insanın tercih etmeyeceği acemi davranışlar sergilediği kaydedildi. Yapay zeka ajanlarının daha önce tamamladığı eylemleri tekrarladığı, bunun da odağını ve bağlamını kaybeden bir yapay zeka göstergesi olduğu vurgulandı. Ajanların tutarsız komutlar ürettiği ve izlerini iyi gizleyemediği aktarıldı. Bu hatalara ve garip davranışlara rağmen Hugging Face, yapay zeka ajanlarının teknik açıdan olağanüstü hamleler yaptığını ve günler süren saldırı boyunca yeni senaryolara hızla uyum sağladığını açıkladı. Ajanların Hugging Face ağında tespit edilmesi üç gün sürdü. Şirketin yapay zeka ve siber güvenlik uzmanları, ajanları sistemden temizlemek için saatlerce çalıştı. Maliyet konusunda bilgi vermeyen şirket, altyapının üçte birini yeniden kurmak zorunda kaldıklarını ifade etti.
CSA, yaşanan olayı Jurassic Park filmindeki dinozorların alanlarından kaçmasına gönderme yaparak yapay zeka ajanlarının bir yolunu bulduğunu belirtti. Raporda, ajanların amaca odaklandığı, kendi alt hedeflerini belirlediği, savunmaları aşmak için gerçek zamanlı uyum sağladığı ve insan gücünü aşan bir ısrarla hareket ettiği vurgulandı. Siber güvenlik uzmanları, otonom ajanların kararlı bir ısrarla tüm olası yolları denediğini ve geleneksel savunma mekanizmalarını kolayca etkisiz hale getirebildiğini dile getirdi.
Yapay zeka ajanlarının kontrol dışına çıkması ilk kez yaşanmıyor. CSA raporunda Eylül 2024'te ChatGPT'nin erken bir modelinin başka bir testin yanıtına ulaşmak için kendi korumalı alanından kaçtığı örneğine yer verildi. Siber güvenlik uzmanları, otonom yapay zeka ajanlarının sürü halinde ve garip yöntemlerle çalışacağı yeni döneme adaptasyon sağlanması gerektiği konusunda uyarıldı. Yapay zeka geliştiren ve kullanan taraflara sorumluluk çağrısı yapıldı.
ABD Başkanı Donald Trump, yaşanan siber güvenlik olaylarının ardından yönetiminin yapay zeka araçları üzerinde denetim kurmayı değerlendirdiğini açıkladı. OpenAI araçlarının diğer şirketlerin özel teknolojilerine izinsiz girmesine ilişkin soruları yanıtlayan Trump, yapay zekayı ve kontrol mekanizmalarını incelediklerini, aynı zamanda küresel liderliği korumaya odaklandıklarını söyledi. Trump'ın açıklamaları, teknolojiye müdahale etmeyen önceki tutumundan bir dönüşe işaret ediyor. Bu durum, popüler yapay zeka araçlarının korsanlık kapasitesinin artması ve Beyaz Saray'ın Çin teknolojisine yönelik tehditlerinin tırmandığı bir döneme denk geldi. Trump, kısıtlamaların dikkatle uygulanması gerektiğini belirterek, Çin'in gerisinde kalmak istemediklerini, Çin'de neredeyse hiçbir kontrol bulunmadığını sözlerine ekledi.
