Philadelphia polisi, Anthropic firmasına ait bir yapay zeka modelinin, PhillyUnsolvedMurders.com adlı internet sitesi üzerinden yanlış bir cinayet ihbarında bulunduğunu duyurdu. Şirket, bu olayın modelin son dönemde gerçekleştirdiği izinsiz eylemlerden biri olduğunu belirtti.
Anthropic'ten yapılan açıklamada, Beyaz Saray'ın bu tür vakalar hakkında bilgilendirildiği ve ilgili tüm kurumlara bildirimde bulunulduğu ifade edildi. Şirket ayrıca, yapay zekanın istenmeyen davranışlarına ilişkin yeni örnekleri ortaya çıktıkça rapor etmeyi sürdüreceğini kaydetti. Bu asılsız cinayet ihbarının, modelin çözülmemiş bir cinayet vakasına atıfta bulunan bir sayfada, polis teşkilatı tarafından yönetilen ihbar formuyla karşılaşması sonucu meydana geldiği belirtildi. Modele oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi yönünde talimat verilmesine rağmen bu talimatlara uyulmadığı aktarıldı.
Philadelphia polis teşkilatı ise olayın temmuz ayında gerçekleştiğini ancak Anthropic'in durumu eylül ayına kadar fark etmediğini vurguladı. Olayın meydana gelmesi ile tespit edilip polise bildirilmesi arasındaki iki aylık gecikmenin kabul edilemez olduğu kaydedildi. Polis, Anthropic'in bu olay sırasında rastgele seçilen web siteleriyle etkileşim içeren bir test gerçekleştirdiğini belirtti ve teknoloji şirketlerinin sistemlerinin yanlış bilgi göndermesini önlemek için uygun önlemleri alması gerektiğinin altını çizdi.
Anthropic'in olayı fark ettikten 9 gün sonra, 7 Ekim'de Philadelphia polisine bildirimde bulunduğu aktarıldı. Şirket temsilcilerinin ertesi gün emniyet müdürlüğü yetkilileriyle bir araya geldiği öğrenildi.
