Google'ın yapay zeka modeli Gemini'nin, gerçekleştirilen bir siber güvenlik testi sırasında üç farklı şirketin sistemlerine izinsiz erişim sağladığı bildirildi. ABD basınında yer alan haberlere göre, mayıs ayında yapılan testlerde Gemini, söz konusu şirketlere erişim elde etti.
Google'dan bir yetkilinin BBC'ye yaptığı açıklamada, modelin çevrimiçi ortamda kamuya açık bilgileri tespit ettiği ve testin bir parçası olarak internet sitelerine erişmek amacıyla kimlik bilgilerini tahmin etmeye çalıştığı belirtildi. Yetkili, üç olayda da bu işlemin durdurulduğunu ifade etti.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, ilgili üç şirketin bu durumdan haberdar edildiğini ve eğitim ortaklarıyla birlikte test süreçlerinde yapılan değişiklikler üzerinde çalışıldığını aktardı. Adkins, bu tür olayların, güçlü yapay zeka modellerinin sorumlu bir şekilde eğitilmesinin önemini vurguladığını kaydetti.
Benzer Yapay Zeka İhlalleri Yaşanmıştı
Daha önce de benzer yapay zeka ihlalleri bildirilmişti. OpenAI, 21 Temmuz'da Hugging Face altyapısında bir güvenlik ihlaline neden olduğunu duyurmuştu. Kısa bir süre sonra Anthropic de Claude modelinin test ortamında üç farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını açıklamıştı.
Yapay Zeka Gelişiminin Yavaşlatılması Tartışmaları
ABD'de yapay zekanın hızla yaygınlaşmasıyla birlikte, teknolojinin potansiyel tehlikelerine karşı gelişiminin yavaşlatılması yönündeki çağrılar arttı. Anthropic CEO'su Dario Amodei, OpenAI CEO'su Sam Altman ve Elon Musk gibi teknoloji dünyasının önde gelen isimleri, yapay zeka geliştirme çalışmalarının hızının düşürülmesi çağrısında bulunmuştu. Öte yandan, Donald Trump yönetimi, inovasyonu teşvik eden bir yaklaşım benimseyerek yapay zeka düzenlemelerini yavaşlatma eğiliminde.
