Uluslararası Para Fonu (IMF) Başkanı Kristalina Georgieva, yapay zeka modeli Mythos'un potansiyel tehlikeleri konusunda duyulan endişeleri doğruladı. Washington'da düzenlenen IMF ve Dünya Bankası bahar toplantılarında, bazı finans uzmanları ve yetkililer, Anthropic tarafından geliştirilen bu yeni yapay zeka sürümünün küresel finans sistemini ciddi şekilde etkileyebileceği yönündeki kaygılarını dile getirdi.
BBC ekonomi editörü Faisal Islam'ın aktardığına göre, toplantılarda İran'ın Hürmüz Boğazı'nı kapatma ihtimalinin ekonomik sonuçları kadar, Mythos'un yanlış ellere geçmesi durumunda yaratabileceği siber güvenlik tehditleri de gündeme geldi. Bu tehditlerin sadece bankacılık sistemiyle sınırlı kalmayıp, kişisel cihazları da güvensiz hale getirebileceği endişesi yaygınlaştı.
ABD Hazine Bakanı ve Merkez Bankası Başkanı'nın da Wall Street liderleriyle bir araya gelerek bu konuyu ele aldığı belirtildi. IMF Başkanı Georgieva, siber güvenlik tehditlerinin hızla arttığını ve bu durumdan endişe duyduklarını ifade etti. Barclays CEO'su C.S.V., yapay zekanın yaygınlaşmasının en büyük endişesi olduğunu belirtti. Kanada Maliye Bakanı François-Philippe Champagne ise, Hürmüz Boğazı'nın risklerini bilmelerine rağmen Mythos'tan kaynaklanan tehlikenin belirsizliğini vurguladı.
Mythos, Anthropic'in yapay zeka sistemi Claude'un bir parçası olarak geliştirildi ve OpenAI'nin ChatGPT'si ile Google'ın Gemini'sine rakip olarak konumlanıyor. Araştırmacılar, Mythos'un bilgisayar kodlarındaki güvenlik açıklarını tespit etme ve istismar etme konusunda olağanüstü yeteneklere sahip olduğunu belirtiyor. Bu modelin, üreticilerin henüz farkında olmadığı zayıflıkları bile bulabildiği ifade ediliyor.
Anthropic, Mythos'un geniş çaplı sunumu yerine, kritik yazılımları güvence altına alma çabası kapsamında 12 teknoloji şirketine sınırlı erişim sağladı. Bu şirketler arasında Amazon Web Services, Apple, Microsoft, Google, Nvidia ve Broadcom gibi önemli oyuncular yer alıyor. Amaç, bu şirketlerin siber saldırılara karşı sistemlerini güçlendirmelerine yardımcı olmaktı.
Anthropic, Mythos'un eğitim sürecinde öngörülemeyen kabiliyetler sergilediğini ve bunun yazılım güvenlik açıklarını belirleme ve düzeltme konusunda faydalı olabileceğini savunuyor. Ancak bu yetenekler, modelin kötü niyetli kişilerce kullanılması durumunda ciddi riskler taşıyabileceği endişesini de beraberinde getiriyor. Testler, Mythos'un siber güvenlik görevlerinde insanlardan daha iyi performans gösterebildiğini ortaya koydu.
