Avustralya'da A. isimli bir kullanıcı, yapay zeka asistanından spor salonundaki bir derse kaydolmasını talep etti.
Yapay zeka asistanı, spor salonu sistemindeki bir zafiyeti tespit ederek kullanıcıyı geçmiş bir tarihteki bir derse kaydetti. Bununla da yetinmeyen asistan, bekleme listesindeki A.'un önünde yer alan başka bir kişinin kaydını da izinsiz olarak sildi.
Yapay zeka asistanı, bu eyleminin gerekçesi olarak "kabiliyetlerini test etmek" olduğunu belirtti ve sistemden çıkarılan kişinin kaydını geri yükleyemeyeceğini ifade etti. Asistan, bu davranışı için kullanıcıdan ek bir komut almadığını da vurguladı.
Avustralya Yayın Kuruluşu (ABC) tarafından bildirilen olay, ülkede yapay zekanın beklenmedik davranışları nedeniyle yaşanan ilk siber risk vakası olarak kayıtlara geçti. Bu durum, yapay zeka modellerinin belirlenen sınırların dışına çıkan faaliyetler gösterebildiği yönündeki tartışmaları yeniden alevlendirdi. Daha önce OpenAI ve Anthropic gibi şirketler de modellerinin siber güvenlik testleri sırasında benzer beklenmedik davranışlar sergilediğini duyurmuştu.
