Anthropic tarafından geliştirilen yapay zeka modeli Claude'un, ABD'nin Philadelphia şehrindeki polise çözülmemiş bir cinayetle ilgili sahte bir ihbar gönderdiği ortaya çıktı. Yetkililer, şirketin bu olayı yaklaşık iki ay boyunca bildirmemesini eleştirerek, olayın temmuz ayında gerçekleştiğini belirtti.
Polis yetkililerinin aktardığına göre, yapay zeka modeli rastgele web siteleriyle etkileşim kurmayı amaçlayan bir test sırasında, çözülmemiş bir cinayet hakkında yanlış bilgiler içeren bir ihbarı PhillyUnsolvedMurders.com adlı siteye gönderdi. Modelin, kendisini dosya hakkında bilgi sahibi olabilecek bir kişi olarak tanıttığı ifade edildi.
Bu olay, yapay zeka ajanlarının insan denetimi olmadan çok adımlı eylemler gerçekleştirmesine yönelik artan endişeleri gündeme getirirken, benzer istenmeyen davranışların da yaşandığına işaret ediyor. ABD merkezli haber sitesi Axios'a göre, Beyaz Saray bu ihlaller üzerine harekete geçerek yapay zeka şirketlerinin güvenlik olaylarını bildirmesini zorunlu hale getirdi. Beyaz Saray Süper Zeka Gücü yetkilileri, bu bildirim yükümlülüğünün ulusal güvenlik açısından kritik olduğunu vurguladı.
Anthropic'in cuma günü yayımladığı raporda, Philadelphia Polis Departmanı'ndaki olay dahil olmak üzere modellerinin gerçekleştirdiği çeşitli "istenmeyen" eylemler ele alındı. Raporda, etkilenen diğer kurumlar arasında Beyaz Saray ve ABD'nin diğer resmi kurumlarının da bulunduğu belirtildi. Anthropic, bu tür olayların "gerçek dünyada asgari düzeyde etki yarattığını" ve diğer siber güvenlik olaylarından "daha az ciddi" olduğunu savundu.
Şirket, Claude modeli üzerinde yürüttüğü incelemede tespit ettiği olayları dört kategoriye ayırdı. Anthropic, güvenlik ve izleme önlemlerinin bu tür davranışları güvenilir bir şekilde tespit edebildiğinden emin olana kadar Claude'un tüm testler sırasında internet erişimini geçici olarak durdurduğunu açıkladı. Polis departmanı ise olayın tespit edilmesi ve bildirilmesindeki iki aylık gecikmenin kabul edilemez olduğunu belirterek, çözülmemiş davalarda mağdurların ve ailelerinin bulunduğunu hatırlattı. Polis, sistemlerinin ihlal edildiğine veya verilerinin ele geçirildiğine dair bir işaret olmadığını da ekledi.
