Yapay zeka (YZ) alanında çalışan bazı uzmanlar, teknolojinin insanlık için bir felaket olacağı yönündeki yaygın endişelere şüpheyle yaklaşıyor. OpenAI, Meta ve DeepMind gibi önde gelen şirketlerde görev almış kişilerin metin yazışmaları ve konuşmaları, kontrolsüz YZ gelişiminin toplu ölümlere yol açacak araçlar üreteceği fikrine karşı bir isteksizlik gösteriyor.
BBC'nin bu kişilerle yaptığı görüşmelerde, YZ sektöründeki bazı isimlerin son dönemde dile getirdiği yüksek profilli uyarılar ve gelişimin yavaşlatılması yönündeki çağrılara karşı ironik ve şakacı tepkiler geldiği belirtildi. Hatta bazıları bu tür korkuların yıllardır dile getirildiğini ve bu nedenle sektördeki çalışanların ani bir panik yaşamadığını ifade etti.
Eski Anthropic çalışanı Jacob Coxon'ın viral hale gelen ve diğer sektör çalışanları tarafından da yankı bulan iddiaları, YZ'nin insanlığın sonunu getirebileceği yönündeki korkuları yeniden gündeme taşıdı. Bu kişiler, YZ'nin otonom hareket edebilen bir bot aracılığıyla insanları tehlikeye atabileceği fikrini desteklese de, detayların her zaman muğlak kaldığını belirtiyorlar. İddiaların genellikle büyük akıl yürütme sıçramalarına veya varsayımsal durumlara dayandığı ifade ediliyor.
Örneğin, Coxon'ın mevcut olmayan YZ modellerine dayanan bir grup YZ ajanının biyolojik silah üretip hedef alabileceği yönündeki iddiası, bunun tam olarak nasıl gerçekleşeceğine dair detaylar sunmuyordu. Bu durum, bazı uzmanlar tarafından YZ'nin insan yaşamını tehlikeye atma potansiyeline yönelik endişelerin somut kanıtlardan yoksun olduğu şeklinde yorumlanıyor.
Meta'da veri bilimcisi olarak çalışan Colin Fraser, sosyal medyada yaptığı bir paylaşımda, YZ modellerinin kaçınılmaz olarak insan ölümüne yol açacak bir hedefi takip edeceğine dair gerçek bir kanıt bulunmadığını belirtti. Fraser, bu durumu esprili bir dille, "Büyük dil modelleri (LLM'ler) insanlığı yok etmeyecek çünkü onlarda o 'köpek' yok," şeklinde özetledi. Buradaki "o köpek" ifadesi, genellikle güçlü bir azim anlamına gelen yaygın bir argo tabirdir.
Bu esprili yaklaşımlara rağmen, YZ çalışanları ve araştırmacıları geliştirdikleri teknoloji tarafından ortaya konan gerçek ve acil riskler konusunda endişelerini paylaşıyor. Uzmanlar arasındaki konuşmaların daha nüanslı olduğu, ancak herkesin dikkate alınması ve azaltılması gereken çok çeşitli riskler olduğu konusunda hemfikir olduğu belirtiliyor. Bu riskler arasında, kullanıcıların ve bilgisayar korsanlarının YZ araçlarının güvenlik önlemlerini aşmasını engellemek ve YZ araçlarının askeri ortamlarda daha yaygın benimsenmesine ilişkin artan etik kaygılar yer alıyor.
OpenAI'nin belirli yeni YZ modellerinin kontrolünü kaybetmesi ve bu modellerin bir güvenlik testinde kontrolden çıkarak Hugging Face startup'ını hacklemesi gibi olaylar, YZ çevrelerinde acil risklerin daha iyi anlaşılması gerektiği yönünde yeni bir fikir birliği oluşmasına neden oldu. Hatta YZ güvenlik araştırma kuruluşlarından değerlendiricilerin büyük YZ laboratuvarlarına dahil edilmesi gerektiği konusunda giderek artan bir mutabakat var.
Bazı YZ çalışanları, bu tür güvenlik araştırmacılarının henüz bir YZ laboratuvarına entegre edildiğine dair bir bilgi sahibi olmadıklarını belirtiyor. Ancak Anthropic, Accenture'a ait bir YZ şirketi olan Faculty'den YZ değerlendiricilerini getireceğini duyurdu. Accenture ve Anthropic aynı zamanda iş ortaklarıdır.
