Yapay zeka şirketi Anthropic'in kurucu ortaklarından Jack Clark, yapay zeka sistemlerinin olası tehlikelerine karşı üçüncü bir tarafça kontrol edilebilecek bir "acil kapatma düğmesinin" zorunlu hale gelmesi gerektiğini belirtti. Clark, yapay zeka alanındaki güncel tartışmalara dair BBC'ye verdiği röportajda, bu tür bir mekanizmanın toplumun gelecekteki politika kararlarının bir parçası olabileceğini ifade etti.
Clark, Anthropic'in de dahil olduğu birçok şirketin çeşitli "kapatma" yöntemlerine sahip olduğunu vurgulayarak, "acil kapatma düğmesi" gereklilikleri ve denetiminin, yapay zeka politikalarına yönelik daha geniş kapsamlı tartışmalar çerçevesinde ele alınması gerektiğini söyledi.
"Muazzam Riskler Alarak Kumar Oynuyoruz"
BBC'nin, şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasının zorunlu olup olmadığı ve bu düğmenin üçüncü bir tarafın kontrolünde mi olması gerektiği yönündeki sorusuna Clark, "Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu." şeklinde yanıt verdi. Yapay zekanın insanlığı yok etme olasılığına dair istatistiklerin anlamsız olduğunu belirten Clark, yapay zekanın tamamen kontrolsüz bir endüstri olmasının kötü bir fikir olduğunu ekledi.
Yapay Zekanın İnsanlığı Yok Edebileceği İddiası
Daha önce OpenAI ve Anthropic'te araştırmacı olarak görev yapan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığı gerekçesiyle Anthropic'ten istifa etmişti. Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ve bu sistemlerin yakın gelecekte "her şeyi hackleyebilecek" insanüstü seviyelere ulaşabileceğini savunmuştu. Coxon ayrıca, yapay zeka modellerini geliştiren bazı sektör çalışanlarının, bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" dair ciddi inançları olduğunu öne sürmüştü.
