Yapay zeka girişimi Anthropic'in eski bir araştırmacısının yapay zeka (YZ) hakkında kıyamet senaryoları içeren bir açıklama yapmasından bir gün sonra, şirketteki daha fazla araştırmacı ve personel bu uyarılara katılarak kendi ciddi endişelerini dile getirdi. Elon Musk ve diğer muhafazakar figürler ise bu endişe dalgasını bir 'kurulum' ve 'psikolojik operasyon' (psyop) olarak nitelendirdi.
Bu araştırmacılar ve personel, Anthropic'te Yapay Genel Zeka Güvenliği üzerine çalışan ve daha önce Google DeepMind'da görev almış olan Anna Wang'ın açıklamalarına yanıt veriyor. Wang, Anthropic'teki birçok kişinin, bu YZ modellerinin beraberinde getirebileceği riskleri azaltacak bir plan geliştirilebilmesi için geliştirme sürecinin yavaşlatılmasını istediğini belirtti. Wang, X platformunda yaptığı paylaşımda, "Tekrarlayan şekilde kendi kendini iyileştiren YZ'den kaynaklanan riskleri çözmek için henüz uygulanabilir bilimsel bir plan bulunmuyor" ifadelerini kullandı.
Başka bir Anthropic çalışanı olan Drake Thomas ise, modellerin gezegen ölçeğinde riskler oluşturabileceği endişesini taşıyan birinin bu modelleri geliştirmekten kaçınma seçeneğini saygıyla karşıladığını söyledi. Thomas, "Her şey çok hızlı ilerliyor, ASI [yapay süper zeka] için isteyeceğimiz güvence derecesinden çok uzağız" dedi. Bu gelişmeler üzerine Elon Musk, daha muhalif bir tavır sergileyerek, "Bir kurulum gibi görünüyor" diye yazdı. Coxon ise dünyanın en zengin adamına bir selfie ile yanıt vererek, "Ben gerçeğim ve bunlar benim gerçek inançlarım. Eğer xAI araştırmacılarını kovmamış olsaydın, onlara beni sorabilirdin" şeklinde konuştu.
The Guardian'a yaptığı açıklamada bir Anthropic sözcüsü, şirketin stratejisini savundu. Sözcü, "YZ'nin hem muazzam faydalar hem de eşi görülmemiş riskler getireceği konusunda her zaman şeffaf olduk. Bu riskleri ele almak için sektördeki en güçlü güvenlik önlemlerinden bazılarıyla modeller oluşturmaya devam ediyoruz" dedi. Musk ve YZ'ye daha olumlu bakanlar, Coxon'un paylaşımının ve bunun sonucunda ortaya çıkan durumun, halkın YZ hakkındaki düşüncelerini olumsuz etkilemek amacıyla bir 'psyop'un parçası olduğuna dair teoriler yaymaya başladı. Musk, X'te yaptığı bir paylaşımda, "Bunun için zemin uzun zamandır hazırlanmıştı. Bu sadece ateşi yakan kıvılcımdı" ifadelerini kullandı.
Muhafazakar düşünce kuruluşu Capital Research'te araştırmacı olan Parker Thayer, Coxon'un paylaşımının, "YZ'yi yok olmaya düzenlemek için destek toplamak amacıyla ÇOK sofistike ve iyi finanse edilmiş bir halkla ilişkiler operasyonunun" başlangıcı olduğuna dair çok az kanıtı olan bir teoriyi ortaya attı. Milyarder hedge fonu yöneticisi Bill Ackman da Thayer'ın paylaşımını alıntılayarak, "İlginç" dedi. Diğer Anthropic çalışanları da Coxon'un istifasını açıklamasından kısa bir süre sonra onunla aynı fikirde olduklarını belirten paylaşımlar yaptı. Anthropic'te güvenlik araştırmaları yapan Samuel Marks, "YZ geliştiricileri, teknolojilerinin insanlığın sonunu getirebileceğine (veya benzer derecede kötü sonuçlara) inanıyor. Bu, önümüzdeki birkaç yıl içinde olabilir. Genel olarak, çalışan ne kadar kıdemliyse o kadar endişeli" diye yazdı.
Şirketin insan hedefleriyle uyumlu çalışmasını sağlamak için çalışan hizalama bölümünün lideri olduğunu belirten Evan Hubinger ise Coxon'un "haklı" olduğunu ve sektörün kıyamet potansiyeliyle başa çıkma çabalarında geride kaldığını söyledi. Hubinger, "Gerçekten samimiyetle YZ'nin tüm insanları öldürebileceğine inanıyoruz! Şahsen bunun önümüzdeki on yıl içinde %10'dan fazla olduğunu düşünüyorum" dedi. Coxon ve diğerlerinin YZ modellerinin insanlığın sonunu nasıl getireceğini tam olarak açıklığa kavuşturmak mümkün değil. Bazı uzmanlar, teknolojinin kıyamete neden olacak kadar akıllı hale geleceğinden şüphe ediyor.
YZ alanında önde gelen bir ses olan bilim insanı Gary Marcus, YZ'yi boykot etme zamanının geldiğini ancak bunun nedeninin zaten zarar veriyor olması olduğunu söyledi. Marcus, yok olmaktan ziyade, "YZ tarafından üretilen patojenlerden, YZ tarafından üretilen dezenformasyonun başlattığı veya tırmandırdığı savaşlardan, kritik altyapıyı yok eden hack'lerden ve benzeri felaket risklerinden" endişe duyduğunu belirtti. Marcus, "Bunlardan herhangi birinin kontrol altında olduğuna dair hiçbir gösterge görmedim" dedi. Aynı gün Anthropic, şirketinin YZ modellerini kullanarak bir biyolojik silah geliştirmeye çalışan bir operasyonu ortadan kaldırdığını belgeleyen bir rapor yayınladı.
