Yapay zeka şirketi Anthropic, yapay zeka sistemlerinin yazılım geliştirme ve araştırma süreçlerini giderek insan müdahalesi olmadan yürütebildiğini bildirdi. Şirket tarafından yayımlanan blog yazısında, bu eğilimin devam etmesi halinde yapay zeka sistemlerinin kendi kendini geliştirebilen bir yapıya dönüşebileceği uyarısı yapıldı.
Anthropic'in kurucu ortaklarından Jack Clark ve Anthropic Enstitüsü Başkanı Marina Favaro'nun kaleme aldığı "Yapay zeka kendini inşa ettiğinde" başlıklı yazıda, geçmişte yapay zeka geliştirme süreçlerinin büyük ölçüde insanlar tarafından yürütüldüğü belirtildi. Ancak günümüzde bu görevlerin giderek yapay zeka sistemlerine devredildiği ve bu durumun geliştirme hızını artırdığı vurgulandı.
Bu eğilimin sürmesi durumunda, yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceği ifade edildi. Bu durum, "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak tanımlandı. Yazıda, henüz bu noktada olunmadığı ve özyinelemeli gelişimin kaçınılmaz olmadığı ancak birçok kurumun hazırlandığından daha erken gerçekleşebileceği kaydedildi.
Yazıda ayrıca, teknolojik eğilimlerin yapay zeka sistemlerinin önümüzdeki yıllarda çok daha gelişmiş yeteneklere sahip olacağına işaret ettiği belirtildi. Kendi kendini geliştirebilen yapay zekanın bilim, sağlık ve birçok alanda önemli faydalar sağlayabileceği kaydedilirken, bu durumun insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabileceği uyarısı yapıldı. Sistemlerin kendi haleflerini tamamen inşa edebilecek kapasiteye sahip olması durumunda, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerinin öneminin artacağı değerlendirmesi yapıldı.
Toplumsal kurumların teknolojik ilerlemelere uyum sağlayabilmesi için ileri düzey yapay zeka geliştirme çalışmalarının yavaşlatılması veya geçici olarak durdurulmasının faydalı olabileceği belirtildi. Bunun, birden fazla güçlü laboratuvar tarafından ve farklı ülkelerde eş zamanlı olarak uygulanmasının anlamlı olacağı ifade edildi.
