Yapay zeka (YZ) teknolojilerindeki hızlı gelişmeler, insansı robotların yetenekleriyle birleşince, gelecekte insanlığın yerini alıp alamayacakları ve kontrol edilip edilemeyecekleri tartışmalarını alevlendirdi. Bu senaryo, daha önce 1991 yapımı 'Terminatör 2' gibi bilim kurgu filmlerine konu olmuştu.
Hollywood filmlerindeki kontrolden çıkmış yapay zeka ve insansı robotlar temalı senaryolar uzun süre kurgu olarak değerlendirildi. Ancak günümüzde bazı uzmanlar, bu riskin gerçeğe dönüşebileceği konusunda ciddi uyarılarda bulunuyor. Bu iddiaların başında, Google ve Amazon gibi şirketlerin desteklediği yapay zeka şirketi Anthropic'te daha önce görev yapmış olan ve artık ayrılan bir uzmanın görüşleri yer alıyor.
Söz konusu uzman, yapay zeka şirketlerinin daha gelişmiş ve kendi kendini düzenleyebilen bir süper zeka geliştirmek adına yürüttüğü yarışı sorumsuzca olarak nitelendirdi. Algoritmaların kendi kaynak kodlarını bağımsız olarak analiz edip geliştirmeye başlayabileceği ve bunun da geliştirme süreçlerini kısaltarak kontrolü zorlaştırabileceği belirtildi. Bu durumun, 'uyum sorunu' olarak adlandırılan ve yapay zekanın hedeflerini insan niyetlerinden farklı şekillerde gerçekleştirmesi riskini de beraberinde getirdiği ifade edildi.
Yapay zekanın geliştirilmesine katkıda bulunan ve 'yapay zekanın babası' olarak bilinen Nobel Fizik Ödülü sahibi Geoffrey Hinton da bu teknolojinin yol açabileceği tehlikeler konusunda kamuoyunu uyarmak amacıyla 2023'te Google'daki görevinden ayrılmıştı. Turing Ödülü sahibi Yoshua Bengio gibi diğer öncü yapay zeka araştırmacıları da sıkı devlet düzenlemeleri çağrısında bulunuyor. Temmuz 2026'da binden fazla yapay zeka çalışanı tarafından imzalanan açık bir mektupta da, süper zeka yarışı yeterince düzenlenmezse kontrolün kaybedilebileceği uyarısı yapılmıştı.
Öte yandan, Donald Trump döneminde ABD'nin yapay zeka politikasını düzenleyici engelleri azaltma ve teknolojik gelişmeyi hızlandırma yönünde şekillendirdiği belirtildi. OpenAI ve Anthropic gibi şirketlerdeki bazı çalışanların, medeniyet için taşıdığı riskleri tam olarak içselleştirmediği veya bir yarışın içinde sıkışıp kaldığı ifade edildi. Bu durumun, 2027'nin sonuna kadar en agresif senaryolara göre işlerin kontrolden çıkabileceği endişesini doğurduğu kaydedildi.
Özellikle 'Genel Yapay Zeka'nın geliştirilmesinin öngörülemeyen riskler taşıyabileceği savunuluyor. Yapay zeka güvenliği araştırmacıları, örneğin bir yapay zekanın kapatılmaya direnebileceğini, bunun kötü niyetten değil, hedefine ulaşamama endişesinden kaynaklanabileceğini belirtiyor. Bu gelişmeler ışığında, yapay zekanın insanlığı tehdit edebileceği yönündeki endişeler giderek daha fazla dile getiriliyor.
