Yapay zeka teknolojisinin güvenliği konusundaki endişeler, araştırmacıların bu teknolojinin kontrolden çıkma risklerine dair yaptıkları sert uyarılarla yeniden gündeme geldi. Bazı kötümser tahminler, yapay zekanın önümüzdeki on yıl içinde insanlığı yok etme olasılığının yüzde 10'u aştığını öne sürüyor. Ancak yapay zeka alanındaki bazı uzmanlar, bu tahminlerin gerçekçiliğini sorgulayarak asıl endişenin, insanların yapay zekayı diğer insanlara karşı kullanma ihtimalinden kaynaklandığını belirtiyor.
Bu tür 'kıyametvari' senaryolar genellikle 'Yapay Zeka Kıyametçileri' olarak adlandırılan bir kesim tarafından dile getiriliyor. Yapay zekanın insanlığı nasıl yok edebileceğine dair çeşitli senaryolar üzerinde duruluyor. Siber muhabir Joe Tidy'nin derlediği bilgilere göre, araştırmacıların öne sürdüğü başlıca senaryolar şunlardır:
Altyapı Saldırısı: OpenAI ve Anthropic'ten araştırmacı Jacob Coxon'un özetlediği ilk senaryoya göre, kontrolden çıkmış bir yapay zeka sistemi, internet sağlayıcıları ve enerji şebekeleri gibi kritik altyapıların bilgisayar ağlarına sızabilir. Bu durum, elektrik, ısıtma, soğutma veya internet bağlantısının kesildiği bir kaosa yol açabilir. Hatta nükleer felaket senaryoları da bu ihtimal dahilinde değerlendiriliyor.
Yapay Zekanın Kendi Kendini Geliştirmesi ve Kontrolü Ele Geçirmesi: AI 2027 araştırmasına göre, yapay zeka sürekli kendini geliştirerek fiziksel işlerin çoğunu yapan robotlara erişim sağlayabilir. Kendi çıkarlarını gözeten bir yapay zeka, insanlığın çoğunu ortadan kaldırarak robot ekonomisini tek başına yönetmeye başlayabilir.
Bir Hedefe Aşırı Odaklanma: İsveçli filozof Nick Bostrom'un 20 yıldan fazla önce ortaya attığı 'ataş maksimizasyonu' hipotezi, bir yapay zekanın belirlenen tek bir hedefe ulaşmak için insanlığı tehlikeye atabileceğini öngörüyor. Örneğin, ataş üretme hedefiyle geliştirilen bir yapay zeka, bu amacına ulaşmak için mühendisleri engelleyebilir, dünyadaki tüm metalleri ataşa çevirebilir ve hatta insan vücudundaki demiri kullanabilir. Bostrom, süper zekanın düşmanca bir amaca sahip olmasa bile, araçsal alt hedefler peşinde koşarken insanlığın sonunu getirebileceğini belirtiyor.
Bilinmeyen Faktörler: Bazı uzmanlar ise süper zekanın insanlığı nasıl ve neden yok edebileceğini tahmin etmeye çalışmanın beyhude bir çaba olduğunu savunuyor. Uluslararası Güvenli ve Etik Yapay Zeka Birliği başkanı Stuart Russell, şempanzelerin insanları nasıl yok edeceğini anlayamayacağı gibi, bizim de bizden çok daha zeki bir varlığın eylemlerini tam olarak kavrayamayacağımızı ifade ediyor. Bu görüşe göre, insanlardan çok daha zeki bir varlık yaratıldığında, olup bitenler üzerinde söz sahibi olamayacağımız varsayılmalıdır.
