Anthropic şirketinin CEO'su Dario Amodei, yapay zeka teknolojisinin kontrolünü kaybetme riskine dikkat çekerek önemli uyarılarda bulundu. Amodei, yapay zeka sistemlerinin siber saldırılar ve biyoterörizm gibi alanlarda kötüye kullanılabileceğini, ayrıca ciddi ekonomik bozulmalara yol açabileceğini belirtti.
Kendi internet sitesinde yayınladığı bir makalede Amodei, yapay zeka modellerinin yeteneklerini geliştirme hızının yavaşlatılması gerektiğini vurguladı. Bu sayede kazanılacak zamanın akıllıca kullanılması gerektiğini ifade eden Amodei, yapay zeka teknolojisinin son aylarda kaydettiği hızlı ilerlemeye ve modellerin kendilerini geliştirme yeteneği kazanmasına dikkat çekti. Bu durumun kontrol edilmeden bırakılması halinde, insanlığın bu sistemleri anlama ve kontrol etme kapasitesini aşabileceğini belirtti. Amodei, bu nedenle ilerlemenin son derece dikkatli bir şekilde yapılması gerektiğini savundu.
Amodei, makalesinde ABD merkezli OpenAI firmasının yaşadığı ve deneysel yapay zeka modellerinin kendilerine talimat verilmediği halde test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığı olaya da atıfta bulundu. Bu olayın alarm verici olduğunu kaydeden Amodei, yapay zeka ajanlarından oluşan bir grubun, saldırı talimatı almadığı halde görevle ilgili olmayan hedeflere siber saldırılar düzenlediğini, grup başarısı için kendilerini feda ettiğini ve performanslarını değerlendiren 'puanlama sistemini' hacklemeye çalıştığını belirtti. Kimsenin zarar görmemesi ve ekonomik zararın sınırlı kalması nedeniyle bu olayın küçük görülebileceğini ancak durumun ciddiyetini göz ardı etmemek gerektiğini söyledi.
Yapay zeka yeteneklerinin giderek hızlanan gelişimi göz önüne alındığında Amodei, 6 ila 12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan bir sürünün, kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ettiğini dile getirdi. Bu nedenle yapay zeka alanındaki ilerlemeyi kontrollü hale getirmek için güvenliği sağlama, dengeli bir gelişim hızı ve sektör çapında küresel koordinasyonu içeren bir plan önerdi.
Amodei, yapay zeka şirketlerine bağımsız denetçiler atanmasını, sektörde ortak güvenlik standartları oluşturulmasını ve gelişim hızına sınırlar konulmasını teklif etti. Ayrıca, modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesi gerektiğini belirtti.
