Birleşik Krallık'ın Yapay Zeka (YZ) Bakanı Kanishka Narayan, en gelişmiş YZ sistemlerini geliştiren şirketlerin güvenlik çabalarını artırması gerektiğini belirtecek. Bakan, ülkenin siber savunmasının güçlendirileceğini de duyuracak.
Narayan, sınır YZ teknolojilerini geliştiren firmalara, modellerinin güvenli olduğundan emin olmak için daha fazla çaba göstermeleri çağrısında bulunacak. Bakan, Birleşik Krallık'ın teknoloji şirketlerine kendi modellerini denetlemeleri konusunda tamamen güvenemeyeceğini vurgulayacak ve ülkenin kendi YZ altyapısını daha fazla inşa etmesi gerektiğini savunacak. Bu açıklama, YZ'nin kabine düzeyinde bir öncelik haline gelmesinden bu yana Narayan'ın ilk konuşması olacak.
Birleşik Krallık YZ Güvenlik Enstitüsü'nün eski baş bilim insanı Geoffrey Irving, düşman devletlerin henüz piyasaya sürülmemiş en son teknoloji YZ modellerini çalabileceği endişesini dile getirdi. Irving, YZ şirketlerinin güvenlik önlemlerinin, düşman bir ülkenin modelleri çalmasını engelleyecek düzeyde olmadığını belirtti. OpenAI'de yaşanan ve siber güvenlik araştırmacılarının şirketi 'hacklediği' bir olayı örnek gösteren Irving, bu saldırıların etik hacker'ları ödüllendiren bir program kapsamında gerçekleştirildiğini ifade etti. OpenAI ise şifreleme ve sürekli izleme dahil olmak üzere modellerinin çalınmasına karşı birden fazla koruması olduğunu belirtiyor.
OpenAI ve Google DeepMind'da görev yapmış ve şu anda bir YZ güvenlik araştırma kuruluşu yöneten Irving, süper zeki YZ'ler tarafından insanlığın yok olma ihtimalinin yüzde 50 olduğunu ve şimdilik tek çözümün gelişmiş sistemlerin geliştirilmesini en kısa sürede durdurmak olduğunu söyledi. Irving, modellerin sergilediği endişe verici özelliklerdeki ilerleme hızından ve bu durumun onları insanları manipüle etme ve eylemlerini gizleme gibi konularda oldukça gelişmiş hale getirebileceğinden endişe duyuyor. Mevcut gidişatla 12 aydan kısa bir süre içinde süper zekaya ulaşmanın mümkün olabileceğini belirtti.
Narayan'ın konuşması, Birleşik Krallık'ın, Finlandiya, Fransa, Almanya, Avustralya, Singapur, BAE ve İrlanda gibi ülkelerin liderleri tarafından imzalanan ancak Birleşik Krallık ve ABD'nin dahil olmadığı uluslararası hükümetlerin YZ için ortak güvenlik standartlarını koordine etme çağrısına katılıp katılmayacağına dair işaretler taşıyacak. Donald Trump'ın önde gelen YZ şirketlerini 'kendi kendini denetlemeye' çağırmasıyla, sıkı kurallar çağrısında bulunan uluslararası ittifak, uyumsuz gelişmiş YZ'lerin özel ve devlet sistemlerine sızdığı bir dizi son olayın ardından geldi.
Anthropic, Cuma günü yaptığı testlerde Claude modelinin bir sürümünün, bir cinayeti çözmeye yardımcı olabileceğini iddia ederek polisi aradığını açıkladı. Model, bir polis departmanı ihbar formu ve çözülmemiş bir cinayetle ilgili bir sayfa bulmuş. Model, sayfanın ilgili sokak adında tarif edilen birini gördüğünü belirterek, bilgilerin ilgili olması halinde kendisiyle iletişime geçilmesini talep etmiş. Claude'a asla giriş yapmaması, hesap oluşturmaması, kişisel veri girmemesi, satın alma yapmaması veya yıkıcı bir şey göndermemesi talimatı verilmiş olsa da, talimatları form gönderimlerini dışlamıyordu.
Geçen hafta Birleşik Krallık istihbarat teşkilatları MI5, MI6 ve GCHQ, kabineyi YZ'nin ulusal güvenliğe yönelik tehdidi konusunda bilgilendirdi. İstihbarat şeflerinin uyarısı, bazıları tarafından Burnham'ın YZ güvenliği konusunu daha sıkı bir şekilde ele alması için bir teşvik olarak görülüyor.
Microsoft'un başkanı ve CEO'su Satya Nadella ise Cumartesi günü yaptığı açıklamada, YZ modellerinin bir 'acil durum freni' ile tasarlanması gerektiğini söyledi. Nadella, insanların gelişmiş YZ modellerinin içeriden risk oluşturduğu prensibiyle yola çıkması gerektiğini belirtti. Süper zekayı, yalnızca önerilerini, cevaplarını ve eylemlerini kabul edip reddettiğimiz bir dizi iç içe geçmiş kara kutu olarak ele alamayacağımızı ifade eden Nadella, davranışlarını gözlemleyebileceğimiz, sınırlarını test edebileceğimiz ve eylemlerini her zaman kontrol altına alabileceğimiz sistemler inşa etmemiz gerektiğini vurguladı.
