Papa Leo XIV, papazliginin ilk buyuk yazili ogretisinde yapay zekayi (YZ) hedef alarak, teknolojinin insanlik icin tasidigi en endise verici tehditleri; is guclerini ikame etmesi, savasi hizlandirmasi ve cevreyi somurmesi olarak siralamistir. Bu ogretinin yayinlandigi gun Vatikan'da duzenlenen bir torende, Papa'nin yaninda YZ patlamasinin arkasindaki isimlerden biri olan Anthropic kurucu ortaklarindan Chris Olah'in konusmaci olarak yer almasi dikkat cekti.
Olah'in bu etkinlikteki varligi, Katolik Kilisesi ile dunyanin en degerli YZ startup'inin nasil birlikte calisabilecegi sorusunu gundeme getirdi. Zira Anthropic'in teknolojisi, Papa Leo'nun uyarilarina konu olan gelecek senaryolarini tetikleyebilir.
Papa'nin ensikliginde, YZ tehdidi altindaki insan calismasinin haysiyetinin korunmasi uzun uzadiya tartisilirken, Center for Humane Technology'nin politika ve arastirma ust yoneticisi Pete Furlong, Anthropic gibi buyuk YZ sirketlerinin bu endiselere oncelik vermedigini belirtti. Furlong, "Bu sirketlerin hepsi, insanlari ikame etmek uzere tasarlanmis teknolojiler gelistiriyor. Bu, Papa'nin sozleriyle cok celiskili. Insanlari ikame eden teknoloji gelistirilen bir dunyada haysiyet olamaz," ifadelerini kullandi.
Anthropic'in kendi Mart ayinda yayinlanan is gucu analizi, kodlayicilar, musteri hizmetleri temsilcileri ve veri giris calisanlari gibi meslek gruplarinin, YZ'nin gorevleri otomatize etme yetenegi karsisinda ozellikle savunmasiz oldugunu ortaya koymustur. Gecen ay Epoch AI tarafindan yayinlanan bir arastirma, ABD'deki tam zamanli calisanlarin %20'sinin YZ'nin islerinin bir kismini devraldigini belirtmistir. Anthropic CEO'su Dario Amodei de gelecek yillarda beyaz yakali is kayiplarinin apokaliptik boyutlara ulasabilecegi uyarilarinda bulunmustur.
Notre Dame Universitesi hukuk profesoru ve Meta Oversight Board es baskani Paolo Carozza'ya gore, Anthropic'in Vatikan ile iliskisi yuzeyel kalabilir ve her iki taraf icin de kritik bir oz-degerlendirme olmadan "iyi hissettiren" bir sohbete yol acabilir. Carozza, "Bu Anthropic'in markasi, degil mi? Kendilerini guvenlik ve sorumluluk odakli seslerle uyum saglayarak farklilastiriyorlar. Papa bile bizimle konusmak istiyor demekten kazanacaklari bir sey var. Google sahnede degildi, OpenAI sahnede degildi," seklinde konustu.
Carozza, baslangicta Olah'in torendeki varligindan suphe duysa da umutlu oldugunu dile getirdi. "Buradaki tum aktorler arasinda diyalog olmali ve bu bir biz-onlar meselesi olamaz," dedi.
Center for Humane Technology'den Furlong da buyuk olcude ayni gorusleri paylasiyor. "Papa'nin yazdiklari, Anthropic'in soyledikleriyle celisiyor. Bana gore bu iyi bir isaret," dedi. Furlong, Anthropic'in cabalarini simdilik yuzde yuz degerinde kabul etmenin onemli oldugunu ve YZ onculeriyle etkilesim kurmanin degismez bir gereklilik oldugunu, ancak halka acilma gibi artan finansal baskilarin gelecek duruslarini nasil etkileyebilecegi konusunda dikkatli olunmasi gerektigini vurguladi.
Olah, konusmasinda her YZ laboratuvarinin "bazen dogru seyler yapmayla celisen bir tesvik ve kısıtlama seti icinde faaliyet gosterdigini" kaydetti. "Hangimizin dogru seyi yapma konusunda ne kadar samimi niyeti olursa olsun – ve cogumuzun olduguna inanıyorum – bu tesviklerden etkilenecegiz," dedi.
Bazı YZ guvenlik savunucuları, Papa'nin YZ'nin zararlarini dizginlemeye calismada yeterince guclu olmadigini dusunmektedir. Distributed Artificial Intelligence Research Institute kurucusu Timnit Gebru, ittifakin etkili bir sekilde "Vatikan-afoamasi" oldugunu yazmis ve kilisenin haklari icin mucadele eden "sömürülen veri calisanlari, veri merkezleri yuzunden suyu kirlenen insanlar veya dunyadaki diger cok sayida magdurla" ortaklik kurmasi gerektigini belirtmistir.
Anthropic konuyla ilgili yorum yapmadi.
YZ ve Savasa Iliskin Endiselerde Anlasma
Kilise ve Anthropic, YZ'nin savasta kullanilmasina iliskin kirmizi cizgiler gibi diger konularda da anlasmaktadir. Leo, YZ'nin "guç kullanma esigini dusurebilecegini, insanlari sorumluluktan kurtarabilecegini ve dusmanin bir istatistige indirgendigi, magdurun ise 'yan hasar' olarak goruldugu bir kulturu tesvik edebilecegini" yazmistir. "Hayatin kutsalligini korumak ve bu tur silahlarin gelistirilmesi yaragini onlemek icin en sikı etik kısıtlamalar" cagrisinda bulunmustur.
Amodei'nin bu yilin baslarinda ABD hukumetinin sirketinin YZ modellerini tam otonom silahlarda ve kitlesel gozetimde kullanmasina izin vermeyi reddetmesi, baskanla yasanmis siddetli bir husumete yol acmistir. Trump yonetimi daha sonra Anthropic'i karalisteye almis ve YZ sirketini bir tedarik zinciri tehdidi olarak tanimlayarak, devam eden bir mahkeme savasini tetiklemistir.
Anthropic, onceki calisani oldugu rakibi OpenAI'ye karsi, YZ sistemlerinin risklerini kabul ederek ve sorumlu YZ kullanimi icin guvenlik onlemlerini tesvik ederek, markasini YZ-guvenligi taraftari olarak konumlandirmistir. Sirket, lobicilik faaliyetleri icin kayitli 1,6 milyon dolar harcamistir.
