OpenAI, yapay zekanın kendi kendini geliştirme yeteneği kazanması durumunda büyük fırsatlar sunabileceği ancak insan kontrolünün kaybedilmesi riskini taşıdığına dikkat çekti. Şirket, bu teknolojinin güvenli hale gelene kadar geliştirilmemesi çağrısında bulundu.
ChatGPT'nin geliştiricisi OpenAI, yapay zekanın kendi kendini geliştirebildiği bir dönem olan 'Yinelemeli Kendi Kendini Geliştirme' (RSI) sürecini araştırmayı hedefliyor. Bu sistemin, özellikle yapay zekanın insan değerleriyle uyumlu çalışmasını sağlayan 'hizalama' çalışmalarında kullanılması planlanıyor. RSI sürecinde bir yapay zeka sistemi, kendi yeteneklerini geliştirmek için eğitim ve araştırma süreçlerine aktif olarak katkı sağlayabiliyor. Bu durumun, yapay zeka alanındaki ilerleme hızını artırabileceği ve gelişmiş yapay zeka teknolojilerinin maliyetini düşürebileceği öngörülüyor.
Ancak OpenAI, kontrolsüz bir RSI sürecinin ciddi riskler taşıdığı konusunda uyardı. Gerekli güvenlik önlemleri alınmadan yapay zekanın kendi gelişimini yönetmesinin, insanların yapay zeka geliştirme süreci üzerindeki fiili kontrolünü kaybetmesine yol açabileceği belirtildi. İnsanların, yapay zekanın yürüttüğü araştırmaları anlayamaz veya denetleyemez hale gelmesi durumunda, sistemlerin insan değerleriyle uyumsuz davranma ve güvenlik riski oluşturma ihtimalinin artacağı ifade edildi.
Şirket, bu nedenle yapay zekanın kendi üzerinde çalışmasına izin verilmeden önce yeni güvenlik standartlarının oluşturulmasını ve riskleri daha erken tespit etmeye yönelik ölçüm ve olay bildirim sistemlerinin geliştirilmesini önerdi. OpenAI ayrıca, ABD yönetiminin yapay zeka güvenliği konusunda uluslararası standartların oluşturulmasına öncülük etmesi çağrısında bulundu. Bu konuda ABD'nin teknolojik konumunun önemli bir rol oynayabileceği savunuldu.
Bu gelişmeler yaşanırken, aralarında OpenAI CEO'su Sam Altman'ın da bulunduğu bazı teknoloji yöneticileri, yapay zekanın güvenli şekilde geliştirilmesi için daha güçlü önlemler alınması gerektiğini savunuyor. Öte yandan ABD Başkanı Donald Trump, yapay zeka geliştirme çalışmalarının yavaşlatılmasına yönelik çağrılara karşı çıkarak, bu tür kısıtlamaların ABD'nin Çin karşısındaki teknolojik üstünlüğünü kaybetmesine yol açabileceğini öne sürüyor.
