Yapay zeka (YZ) teknolojisinin gelişim hızına ilişkin endişelerini dile getiren Anthropic Kurucu Ortağı Jack Clark, YZ sistemlerinin insan kontrolünden bağımsız hale gelebileceği bir noktaya yaklaşıldığını belirterek, bu ilerlemenin yavaşlatılmasına olanak tanıyacak bir mekanizma çağrısında bulundu.
BBC Newsnight'a konuşan Clark, mevcut durumda YZ endüstrisinin bir 'gaz pedalı'na sahip olduğunu ancak bir 'fren pedalı'nın bulunmadığını ifade etti. Clark, hükümet politikaları aracılığıyla YZ sistemleri üzerindeki kontrolün insanlarda kalması gerektiğini vurguladı. Bu sistemlerin giderek daha güçlü hale geleceği ve toplum üzerinde daha geniş etkiler yaratacağı öngörülüyor.
Clark, küresel çapta düşünülmesi ve YZ sistemlerine güvenilmesini sağlayacak yeni düzenlemelerin geliştirilmesi gerektiğini belirtti. Mevcut durumda, Anthropic'in popüler sohbet robotu Claude'un kodunun %80'inin sistem tarafından kendi kendine yazıldığına dikkat çekildi. Clark, bu oranın iki yıl içinde %100'e ulaşmasının mümkün olduğunu ve bunun 'önemli sonuçları' olacağını söyledi.
Bir 'fren pedalı'nın nasıl oluşturulabileceğine dair detaylı bir plan sunmayan Clark, YZ'yi geçen yüzyılın başlarındaki petrol patlaması ve sanayicileriyle kıyasladı. O dönemde toplumun, petrolün dünyaya sağlayacağı faydalara olan güveni artıran ve şirket liderlerinin kişiliklerine bağlı kalmayan 'makul bir politika ve düzenleyici çerçeve' oluşturduğunu hatırlattı. Clark, benzer bir yaklaşımın YZ için de gerekliliğini ima etti.
Bu açıklamalar, ABD Başkanı D.T.'ın YZ şirketlerine yönelik daha esnek direktifler içeren ve güvenlik testlerini zorunlu kılmayan bir yönetici emrini memnuniyetle karşılayan Anthropic'in son haftaki adımlarıyla bir tezat oluşturuyor. Anthropic, OpenAI ve Google gibi YZ teknolojisinde ilerleme kaydeden büyük şirketler araştırmalarını durduracaklarını açıklamadı.
Kuruluşundan bu yana hızla büyüyen Anthropic, halka arz hazırlıkları yapıyor. Şirketin değerlemesinin özel yatırımcılar tarafından yaklaşık 1 trilyon dolara ulaştığı tahmin ediliyor ve bu, tarihin en değerli halka arzlarından biri olması bekleniyor.
Clark, Anthropic'in YZ teknolojisinin artan yetenekleri hakkında kamuoyunu bilgilendirme motivasyonunun, müşterileri nezdindeki itibarını artırmak olmadığını belirtti. Clark, şirket içindeki bu 'olağandışı teknoloji' ile ilgili gözlemlerini 'dünyaya anlatmak' istediğini ifade etti.
Anthropic, CEO D.A. ve diğer yöneticiler tarafından kurulduğundan beri, YZ'den kaynaklanabilecek potansiyel riskler konusunda açık sözlü bir duruş sergiledi. Hatta, YZ araçlarının Amerikalıların kitlesel gözetiminde ve otonom savaşlarda kullanılacağına dair endişeler nedeniyle ABD Savunma Bakanlığı ile kamuoyuna açık bir anlaşmazlığa girmişti.
Clark, YZ'nin devam eden ilerlemelerinin sonuçları hakkında ciddi bir toplumsal tartışma yürütülmemesi durumunda çocukları için endişelendiğini söyledi. Clark, bu teknolojinin hem büyük faydalar hem de riskler barındırdığını ekledi. Risklerden birinin de ekonomi üzerindeki olası bir sarsıntı olduğunu belirtti. 'Ajanlar' olarak adlandırılan ve belirli görevleri kısmen otonom olarak yürüten bireysel YZ botlarının bazı işleri devralabileceğine dair korkular dile getiriliyor.
Geçen yıl pek çok büyük teknoloji şirketi, genellikle YZ araçlarının yüzlerce, hatta binlerce yazılım mühendisinin işini yapabilme yeteneğini gerekçe göstererek kitlesel işten çıkarmalar gerçekleştirdi. Clark, daha yaratıcı ve daha iyi fikirlere sahip kişilerin YZ teknolojisine karşı avantajlı olabileceğini öne sürdü. Clark, YZ sistemlerinin gerçekten yaratıcı olup olamayacağı konusunda açık sorular olduğunu ve henüz bunun için bir kanıt bulunmadığını ekledi. Clark, Anthropic'in artık mühendislik yeteneğinden ziyade iyi fikirler üretme kabiliyetiyle sınırlı olduğunu belirtti.
Bununla birlikte Clark, YZ üzerine kurulu bir ekonomide kendilerine yer bulamayan gençlerin bir 'hobi edinmeleri' ve beşeri bilimler eğitimi almaları gerektiğini önerdi. Clark, 'Yaratıcı ve geniş düşünebilen, çok okuyan, ilgi alanları olan insanlar bu durumdan en çok faydalanacak kişilerdir' dedi. Clark, meraklarını gidermelerinin bu teknolojiyi kullanma biçimlerinde onlara geri döneceğini sözlerine ekledi.
