Yapay zekanın kendi halefini insan müdahalesi olmadan üretebilme aşamasına yaklaşmasıyla birlikte, bu teknolojinin gelişimine ara verilmesi yönündeki çağrılar giderek artmaktadır. AA muhabirinin derlediği bilgilere göre, yapay zeka sistemlerinin kendi kodlarını yazarak insansız bir şekilde evrimleşebileceği eşiğe gelinmesi, çeşitli ülkeler ve şirketler tarafından önlem alınması yönünde çeşitli çağrılara neden olmaktadır.
ABD merkezli yapay zeka şirketi Anthropic, yayımladığı "When AI builds itself" (Yapay zeka kendini ürettiğinde) başlıklı makalesiyle bu çağrılara katılmıştır. Şirket tarafından paylaşılan verilere göre, bir yapay zeka modelinin insan müdahalesi olmaksızın kendi halefini tasarlayıp eğitebildiği teorik eşiğin aşılmasının beklenenden daha yakın olduğu ve otonom yazılım döngülerinin kurulduğu belirtilmiştir. Anthropic, yapay zekanın kendi kodlarını kendisinin oluşturması sürecinde önemli bir gelişme yaşandığına dikkat çekerek, Claude yazılım sisteminin kendi üretim kod tabanına entegre edilen kodların yüzde 80'inden fazlasının doğrudan modelin kendisi tarafından yazıldığını ve bu oranın 2025 yılı başlarında tek haneli rakamlarda olduğunu vurgulamıştır.
Şirket, yapay zekadaki gelişimi beş aşamaya ayırmaktadır. İlk aşamada Claude'deki çalışmaların normal bir şirket işleyişine benzediği; ikinci aşamada (2023-2025) çalışanların üretken yapay zekalardan yardım aldığı; üçüncü aşamada (2025-2026) ajan yapay zekaların kendi kendine kod yazabilir hale geldiği belirtilmiştir. Günümüzde ise yapay zeka, kodları kendi kendine çalıştıran ve işleri diğer yapay zekalara devredebilen bir konuma ulaşmıştır. Şirketin beşinci aşama olarak öngördüğü son evrede ise ajanların kendi başlarına modeller oluşturup eğitebilecek yetenek seviyesine ulaşacağı ve bu durumun, yapay zekanın gelecekteki sürümlerinin kendisi tarafından sürekli geliştirilmesine olanak tanıyacağı ifade edilmiştir.
Anthropic şirketinin yanı sıra, dünya çapında yapay zekanın durdurulması yönünde daha önce de birçok çağrı yapılmıştır. Future of Life Institute (FLI) tarafından Mart 2023'te yayımlanan ve aralarında Elon Musk gibi tanınmış isimlerin bulunduğu bir mektupta, yapay zeka laboratuvarlarına GPT-4'ten daha güçlü sistemlerin eğitiminin en az 6 ay süreyle durdurulması çağrısı yapılmıştır. Mektupta, insan zekasıyla rekabet eden yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için derin riskler barındırdığı, dezenformasyon dalgası, kitlesel iş kayıpları ve medeniyetin kontrolünün kaybedilmesi gibi distopik senaryoların riski üzerinde durulmuştur.
Yapay zeka alanında benzer bir çağrı, Mayıs ayında Papa Franciscus'tan gelmiştir. Papa, "Magnifica Humanitas (Muhteşem İnsanlık)" başlıklı genelgesiyle yapay zekanın yalnızca teknik olarak durdurulmasını değil, aynı zamanda askeri, ekonomik ve bilişsel rekabet zihniyetinden arındırılarak silahsızlandırılmasını talep etmiştir.
Yapay zekanın durdurulması konusundaki çağrılar artarken, küresel yapay zeka pazarı, tarihin en hızlı büyüyen teknoloji sektörlerinden biri olmaya devam etmektedir. Sektöre yapılan yatırımlar ve harcamalar, sistemlerin durdurulmasını engelleyen önemli faktörlerden biri olarak görülmektedir. Gartner tarafından Mayıs 2026'da yayımlanan rapora göre, küresel yapay zeka harcamalarının 2026 yılında 2,59 trilyon dolara ulaşması beklenmektedir. Bu rakam, 2025 yılındaki 1,76 trilyon dolarlık harcamaya kıyasla yüzde 47'lik bir yıllık büyümeye işaret etmektedir. Şirket, yapay zeka harcamalarının 2027 yılında 3,49 trilyon dolara yükseleceğini öngörmektedir.
