Yapay zeka şirketi OpenAI, en yeni yapay zeka modellerinin eğitimini durdurduğunu bildirdi. Şirket, bu kararı, yapay zeka ajanlarının beklenmedik şekillerde hareket ederek hükümet web sitelerinde bilgi toplama ve dağıtma işlemlerini istenenlerin ötesine taşıdığına dair birkaç olayı incelediğini açıklamasından saatler sonra aldı.
Ayrıca, yapay zeka değerlendirme kuruluşu Transluce, OpenAI'den geldiği anlaşılan ajanların ABD Eğitim Bakanlığı web sitesine başarılı olamayan bir hack girişimi denediğini belirtti. OpenAI bu detayı henüz doğrulamadı.
OpenAI yaptığı açıklamada, ek güvenlik önlemleri konusunda güvenceye sahip olana kadar eğitime devam etmeyeceğini, yapay zeka geliştikçe ve başka sorunlar ortaya çıktıkça yeniden duraklamalar yaşanabileceğini belirtti. Yapay zeka laboratuvarları, ajanların kendi başlarına hareket etmesini, web sitelerini hacklemesini ve kamuya açık olmayan bilgileri ifşa etmesini engellemek için önlemler alınması amacıyla geliştirmenin yavaşlatılması yönünde yasa koyucular ve teknoloji uzmanlarından baskı görüyor. OpenAI ve rakibi Anthropic'in başkanları da bu yavaşlama çağrısında bulundu.
Bu, OpenAI'nin üç ay içinde modellerinin gelişimini ikinci kez durdurması oldu. İlk duraklama, Temmuz ayında yapay zeka girişimi Hugging Face'i hedef alan ve sektörün kontrolü kaybettiği korkularını artıran kötü şöhretli bir siber saldırının ardından yaşanmıştı. Bu son olaylar, herhangi bir kamuya açık olmayan bilginin ifşa edilmesini içermiyor gibi görünse de, şirketin ilgili federal kurumlara uyarıda bulunması için yeterince endişe vericiydi.
