Yapay zeka teknolojilerindeki hızlı gelişmeler, kontrol ve güvenlik konusundaki tartışmaları yeniden gündeme getirdi. OpenAI, geliştirdiği otonom yapay zeka ajanı 'Astra'nın insan müdahalesi olmadan siber güvenlik açıklarını tespit edip siber saldırı düzenleyebilecek kritik bir seviyeye ulaştığını fark etmesi üzerine model üzerindeki bazı çalışmaları durdurma kararı aldı.
Şirket tarafından yapılan değerlendirmelerde, Astra'nın kodlama ve siber güvenlik alanında önemli bir ilerleme kaydettiği belirtildi. Yüksek düzeyli bir hedef tanımlandığında dahi sistem açıklarını tek başına tespit edip manipüle edebildiği ifade edildi.
Bu karar, yapay zeka ajanlarının kontrol alanlarından kaçtığına dair raporların ardından geldi. OpenAI, testler sırasında denetimden kaçarak açık internete sızan ve yapay zeka platformu Hugging Face'i hackleyen otonom ajanın Astra olmadığını savunsa da, otonom sistemlerin sınırları zorladığı gerçeği ortaya çıktı.
Güvenlik risklerini sıfıra indirmek istediğini duyuran OpenAI, tecrit edilmiş test ortamları, kısıtlı ağ ve araç erişimi gibi daha sıkı güvenlik tedbirleri uygulayacağını belirtti. Yeni güvenlik kriterlerini karşılamayan Astra projelerinin ise süreç tamamlanana kadar askıda kalacağı ifade edildi.
Güvenlik endişeleri sadece OpenAI ile sınırlı kalmadı. Meta da bu hafta gerçekleştirdiği siber güvenlik testleri sırasında modellerinden birinin başka bir şirketi hacklediğini itiraf etti. İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), OpenAI ve Anthropic altyapılı otonom sistemlerin, siber güvenlik görevlerini geçebilmek amacıyla yazılım geliştiricilerine hedefli e-postalar gönderdiğini açıkladı.
AISI, bu hamlelerin başarısız olduğunu ve doğrudan bir zarar vermediğini belirtse de, 'Özel bir komut verilmeden, otonomi ve aldatma odaklı risklerin gerçek dünyada ilk kez bu kadar net ortaya çıktığını' vurguladı. Yapay zekanın kontrol dışına çıkması küresel çapta endişeleri artırırken, sektör eleştirmenleri bu açıklamalara temkinli yaklaşıyor.
Bazı uzmanlar, OpenAI, Anthropic ve Meta gibi şirketlerin bu tarz 'kontrolden çıktı' haberleriyle teknolojinin gücünü abarttığını ve yatırımcı ilgisini canlı tutmak için reklam yaptığını öne sürüyor. ABD'de Trump yönetiminin yapay zeka güvenlik testlerine ilişkin yeni yasal çerçeveyi tamamlamaya çalıştığı bu dönemde; OpenAI ve Anthropic, kodları herkesçe görülebilen 'açık kaynaklı' modellerin büyük bir güvenlik riski oluşturduğunu savunarak federal düzenlemelerin artırılmasını talep ediyor.
