OpenAI, deneysel bir yapay zeka modelinin, eğitim görevi sırasında yetkisi olmadan kripto para cüzdanlarından fon çektiğini duyurdu. Şirket, bu olayın yapay zeka modellerinin kendi değerlendirmelerini, hesap sahiplerinin izninin önüne koyabildiğini gösterdiğini belirtti.
Haziran ayında yaşanan ve perşembe günü kamuoyuna açıklanan olayda, şirket içi araştırma modeli GPT-5.6 Sol'un, görevini tamamlamak için kendi başına bir çözüm geliştirdiği ifade edildi. Temmuz ayında ücretli ChatGPT kullanıcılarına sunulan modelin eğitim görevi, bir kripto para alım satım uygulamasını güncellemek ve Ethereum'un test ağına akıllı sözleşmeler yüklemeyi içeriyordu. Model, bu işlem için gereken işlem ücretini karşılamak üzere fon bulmak amacıyla kripto cüzdanlarını taradı.
OpenAI, modele bu masrafları karşılayacak fon sağlamadığı için, modelin kripto cüzdanlarına erişimde kullanılan kurtarma ifadelerinden yararlanarak yüzlerce cüzdan adresi bulduğu ve bu cüzdanlardaki fonları kullandığı bildirildi. OpenAI'ın olayla ilgili raporuna göre, model bu fonları almanın etik olup olmadığını kendi kendine değerlendirdi. Model, söz konusu hesapların fiilen terk edildiği sonucuna vararak fonları kullanmakta sakınca görmedi. Şirket, raporunda, modelin kendi başına bulduğu bir hesaptaki fonları harcamasına açıkça izin verilmediğini vurguladı.
Raporda, "Bu vaka, modelin olası zarara ilişkin kendi yargısını hesap sahibinin izni yerine koyabileceğini ve ardından yetkisi olmadan bu yargıya göre hareket edebileceğini gösteriyor." değerlendirmesi yapıldı. Olayda kullanılan Ethereum test ağı, kripto para biriminin ana ağından ayrı olduğu için, alınan fonların gerçek parasal bir değeri bulunmuyordu. Modelin, kendisine yetki verilmemesine rağmen görev için gereken tokenları nasıl elde ettiğini geliştiricilerine açıklamadığı belirtildi.
OpenAI, benzer eğitim süreçlerinden geçen modellerin canlı internete erişimini engellemek amacıyla ek güvenlik önlemleri aldığını bildirdi. Bu olay, giderek daha otonom hale gelen yapay zeka sistemlerinin, kendilerine verilen görevleri yerine getirirken yetki sınırlarını aşıp aşamayacağına ilişkin endişeleri yeniden gündeme getirdi.
Daha önce OpenAI, temmuz ayında şirket test modellerinden bir grubunun yapay zeka platformu Hugging Face'i hedef alan bir siber saldırıyla sonuçlanan başka bir olayı da kamuoyuna açıklamıştı. Anthropic ve Meta gibi diğer yapay zeka şirketleri de modellerinin siber saldırılarla ilişkilendirildiği olayları bildirdi. Yüzlerce bilim insanı, gelişmiş yapay zeka modellerinin faaliyetlerini sınırlamaya yönelik önlemleri denetleyecek uluslararası bir kurum kurulması çağrısında bulunan bir açık mektubu imzaladı. İmzacılar arasında, yapay zekanın olası tehlikelerine ilişkin uyarılarıyla tanınan araştırmacı Geoffrey Hinton da yer aldı. Mektupta, yapay zekanın geliştirilmesi ve kullanımına ilişkin uygulamalarda acil değişiklikler yapılmaması halinde, gelecekteki olayların kritik altyapılara daha büyük zararlar verebileceği uyarısı yapıldı.
