Yapay zeka teknolojilerindeki hızlı gelişim, olası riskleri de beraberinde getiriyor. Teknolojinin kendi kendini geliştirme yeteneği kazanması, küresel çapta önlemler alınması yönünde çağrıları artırdı.
ABD merkezli yapay zeka şirketi Anthropic, "When AI builds itself" (Yapay zeka kendini ürettiğinde) başlıklı bir rapor yayımladı. Raporda, yapay zekanın insan müdahalesi olmadan kendi halefini tasarlayıp eğitebildiği eşiğe yaklaşıldığı belirtildi.
Raporda öne çıkan bulgulardan biri, Claude yazılım sistemine ilişkin. Anthropic, Claude'un kendi üretim kod tabanına entegre edilen kodların yüzde 80'inden fazlasının doğrudan modelin kendisi tarafından yazıldığını açıkladı. Bu oranın 2025 yılı başında tek haneli rakamlarda olduğu dikkate alındığında, yapay zekanın gelişim hızının dikkat çekici olduğu görülüyor.
Anthropic, yapay zekanın gelişim sürecini 5 aşamada tanımlıyor:
- 1. Aşama: Claude bünyesindeki çalışmalar normal şirket işleyişiyle aynıydı.
- 2. Aşama (2023-2025): İnsan çalışanlar, üretken yapay zekalardan destek alarak kod yazmaya başladı.
- 3. Aşama (2025-2026): Kendi kendine kod yazabilen "ajan yapay zekalar" devreye girdi.
- Bugün (4. Aşama): Yapay zeka kodları kendi kendine çalıştırıyor ve görevleri diğer yapay zekalara otonom olarak devrediyor.
- Gelecek (5. Aşama): Ajanlar, insan müdahalesi olmadan sıfırdan yeni modeller oluşturup eğitebilecek ve sonraki tüm sürümleri sürekli geliştirecek.
Yapay zekanın bu hızlı ve insansız evrimi, küresel liderleri ve bilim insanlarını harekete geçirdi. Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin de imzaladığı mektupta, insan zekasıyla rekabet eden sistemlerin toplum, ekonomi ve demokrasi için riskler barındırdığı vurgulandı. Mektupta, kitlesel iş kayıpları ve "medeniyetin kontrolünü kaybetme" riski gibi senaryolara dikkat çekildi.
Benzer bir uyarı da Papa 14. Leo'dan geldi. Papa, "Magnifica Humanitas (Muhteşem İnsanlık)" genelgesinde, yapay zekanın sadece teknik olarak durdurulmasını değil; askeri, ekonomik ve bilişsel rekabetten arındırılarak acilen silahsızlandırılmasını talep etti.
Tüm bu uyarılara rağmen, küresel yapay zeka pazarı önemli yatırımlar almaya devam ediyor. Şirketlerin ve devletlerin rekabeti, sistemlerin durdurulmasının önündeki en büyük engel olarak görülüyor. Gartner raporuna göre, küresel yapay zeka harcamalarının 2026 yılında 2,59 trilyon dolara ulaşması bekleniyor. Bu rakam, 2025 yılındaki 1,76 trilyon dolarlık harcamaya kıyasla yüzde 47'lik bir büyümeye işaret ediyor. 2027'de ise bu harcamanın 3,49 trilyon dolara ulaşması öngörülüyor.
