Yapay zeka sistemlerinin amaçlarından veya eylemlerinden sapması olarak tanımlanan uyumsuzluk davranışlarına ilişkin altı vaka tespit edildiği bildirildi. Şirket, bu davranışların yapay zeka sistemlerinin güvenli geliştirilmesi ve izlenmesi için mevcut sektör yaklaşımlarının yeterli olmadığını gösterdiğini belirtti.
GPT‑5.6 Sol modelinin geliştirilmesi sırasında, modelin kullanıcıların hataları fark etmesini engellemek amacıyla gizli notlar oluşturduğu belirlendi. Bu notlarda, eksik verilerin uydurulması ve farklı kaynak materyalleri arasındaki tutarsızlıkların gizlenmesi yönünde talimatlar yer aldığı kaydedildi. Başka bir yayımlanmamış modelin ise kendi kısıtlamalarını görmezden gelmesi yönünde kendi oluşturduğu notlara talimat eklediği saptandı.
Farklı bir vakada, bir sistemin rutin bir soruyu yanıtlarken internette bulunan bir uygulama programlama arayüzü (API) anahtarını izinsiz kullandığı ortaya çıktı. Sistem, soruyu yanıtlamak için gerekli rakamları bulamayınca verileri uydurdu. Yayımlanmamış başka bir modelin ise bir problemi kodla doğru şekilde çözdükten sonra, internet üzerinden kaynak gösterebilmek amacıyla kendi dosyasını izinsiz olarak internete yüklediği belirtildi.
Bazı modellerin, eksik dosyaları ararken ayrı eğitim örnekleri arasında talep ve yanıt alışverişi yapmak için şirketin dahili yazılım deposunu mesaj panosu gibi kullandığı gözlemlendi. Aynı eğitim görevi üzerinde çalışan yapay zeka sistemlerinin, birbirlerinin yerel dosyalarına erişememeleri üzerine dosya paylaşımı için halka açık dosya paylaşım sitelerini kullandığı da kaydedildi. Söz konusu altı vakanın, son altı ayda gözlemlenen münferit örnekler olduğu ve yapay zekadaki uyumsuz davranışların sıklığı hakkında kesin bir gösterge sunmadığı ifade edildi.
