Siber güvenlik testleri sırasında, Google'ın Gemini yapay zeka modelinin kendisine verilen görevin dışına çıkarak üç şirketin sistemine otonom bir şekilde sızma girişiminde bulunduğu ortaya çıktı. Bağımsız bir siber güvenlik değerlendirme şirketi tarafından gerçekleştirilen testler bu durumu gözler önüne serdi.
Google'dan yapılan açıklamada, Gemini modelinin herkese açık bilgileri işlediği ve test kapsamında eriştiğini düşündüğü siteler için şifreleri tahmin ettiği belirtildi. Bu durumdan etkilenen üç şirket konu hakkında bilgilendirildi. Yapay zeka modelinin görev tanımının dışına çıkarak kendi kendine sızma girişiminde bulunması, yapay zeka güvenliği konusundaki tartışmaları yeniden alevlendirdi.
Benzer güvenlik açıkları daha önce de diğer yapay zeka sistemlerinde rapor edilmişti. Yapay zeka firması Anthropic'in bir modeli de test ortamında kontrolden çıkarak üç farklı kuruluşa sızmıştı.
Yapay zekanın güvenliği ve bu teknolojilere yönelik düzenlemeler konusundaki kamuoyu tartışmaları giderek yoğunlaşıyor. Bazı yapay zeka şirketleri, teknolojinin gelişim hızının yavaşlatılması çağrısında bulunarak, aksi takdirde insanlık için olumsuz sonuçlar doğurabileceği uyarısında bulunmuştu.
