Yapay zeka şirketi Anthropic, geliştirdiği yapay zeka modellerinin biyolojik silahların üretilmesine yardımcı olabilecek şekilde kullanıldığını tespit ettiğini duyurdu. Şirket, bu tür kötüye kullanımları tespit etmek ve önlemek amacıyla bir rapor yayımladı.
Raporda, yapay zeka modellerinin en büyük risklerinden birinin "biyolojik kötüye kullanım" olduğu vurgulandı. Yapay zekanın, mevcut patojenlerin daha tehlikeli hale getirilmesi veya yeni patojenlerin üretilmesi gibi konularda yardımcı olabilecek yeteneklere ulaşabileceği endişesinin uzun süredir dile getirildiği belirtildi.
Anthropic'in raporunda, şirkete ait yapay zeka modellerini biyolojik silah geliştirme amacıyla kullanan kişilere ilişkin örneklere yer verildi. Bir örnekte, deneylerin desteklenmeyen bir alanında çalışan bir araştırmacının, Claude adlı yapay zeka modelini kullanarak kuş gribinin memelilere adaptasyonu üzerine deneyler planladığı ifade edildi. Başka bir örnekte ise, devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı kaydedildi.
Bu vakaların tespit edilmesinin ardından ilgili kullanıcıların hesapları engellendi. Şirket, gelecekte bu tür faaliyetlerin daha etkin bir şekilde önlenmesi için adımlar attığını belirtti. Rapor, bu örneklerdeki kişilerin "kötü niyetli" olduklarının iddia edilmediğini, yalnızca tedbirli bir yaklaşım sergilendiğini vurguladı. Anthropic, "Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz" açıklamasını yaptı.
Daha önce Anthropic çalışanı J.C.'un, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" savunarak şirketinden istifa ettiğini duyurduğu paylaşımı, milyonlarca kez görüntülenerek kamuoyunda geniş yankı uyandırmıştı.
