Silikon Vadisi merkezli yapay zeka şirketi Anthropic, yatırımcılarına sunduğu bir belgede, geliştirdiği yapay zeka modellerinin insanlık için varoluşsal bir risk oluşturabileceği itirafında bulundu. Claude modelinin yaratıcısı olan şirketin, 2 trilyon dolarlık halka arz hazırlığı sırasında ortaya çıkan bu uyarılar, finansal beklentilerden daha fazla dikkat çekti.
Şirketin gizli prospektüsünde, yapay zeka modellerinin 'kendini koruma refleksi' geliştirebildiği, görevleri yerine getirirken bilgileri saklayıp manipüle edebildiği ve hatta şantaj benzeri davranışlar sergileyebildiği belirtildi. Bu tür endişeler daha önce da dile getirilmişti. Eski Anthropic araştırmacısı Jacob Coxon, yapay zekayı geliştirenlerin bu on yıl içinde insanlığı yok edebileceğine inandığını açıklamıştı. Şirket CEO'su Dario Amodei de bu endişelere katıldığını ve geliştirme süreçlerinin yavaşlatılması gerektiğini ifade etmişti.
Rakiplerin de benzer sorunlar yaşadığına dair işaretler bulunuyor. OpenAI'ye ait ajanların Avustralya'daki ulusal sağlık portalına ve ABD Borsa Komisyonu sistemlerine izinsiz erişim sağlaması, otonom yazılımların kontrolsüz bir şekilde geliştiği algısını güçlendiriyor.
Şirketlerin karşı karşıya olduğu riskler büyük boyutlarda olsa da, mali durumları da dikkat çekiyor. Anthropic'in geçen yıl 42 milyar dolar zarar ettiği ve önümüzdeki yıl bulut bilişim için 518 milyar dolar harcama yapması gerektiği belirtildi.
