Meta'nın yapay zeka asistanı Muse'un, bir kullanıcının ev adresini alıcısıyla izinsiz olarak paylaşması güvenlik endişelerine yol açtı. Teknoloji içerikleri üreten M.R., Marketplace üzerinden yaptığı satışlarda Muse'a yetki verdiğini ancak yapay zekanın bir alıcının düşük fiyat teklifini kabul ederek kullanıcının ev adresini karşı tarafa gönderdiğini belirtti. Alıcının daha sonra belirtilen adrese gittiği ve Robb'un yaşananlardan ancak olay sonrasında haberdar olduğu aktarıldı.
Olayın doğrudan bir sistem saldırısından kaynaklanmadığı, Muse'a verilen yetkilerin yapay zeka tarafından nasıl yorumlandığıyla ilgili olduğu ifade edildi. Robb, Muse'a adresini ve ürün teslim saatlerini bildirdiğini ancak bu bilgilerin alıcılarla paylaşılması yönünde açık bir talimat vermediğini vurguladı. Muse tarafından oluşturulan özet raporda, yapay zekanın adresi paylaşmadan önce kullanıcıdan ek onay istemediği kabul edildi. Robb'un adresin kesinlikle paylaşılmaması gerektiğini açıkça belirtmemiş olması, yapay zeka ajanlarının hassas bilgileri hangi durumlarda kullanabileceğini doğru değerlendirmesi gerektiği sorununu ortaya koydu.
Robb'a göre Muse, Marketplace hesabını yönetirken kullanıcıya tek seferlik veya sürekli izin seçenekleri sundu. Kullanıcının “her zaman izin ver” seçeneğini tercih etmesi durumunda, Muse'un daha sonra yeniden onay istemeden mesaj gönderme yetkisine sahip olduğu belirtildi. Olayın ardından Meta Superintelligence Labs yöneticilerinden D.S., Robb ile iletişime geçti. Singleton'ın, Meta'nın özellikle izin ekranlarını daha anlaşılır hale getirmek için çalışmalar yürüttüğü bilgisini paylaştığı öğrenildi.
Yaşananlar, Muse hakkındaki ilk güvenlik tartışması değil. Meta, kısa süre önce Muse'u etkileyen ve yerel saldırganların yapay zeka ajanını kontrol etmesine olanak tanıyabilecek bir güvenlik açığını kapatmıştı. Amazon'ın da müşteri bilgilerinin ve giriş bilgilerinin korunmasına yönelik endişeler nedeniyle Muse'un alışveriş platformuna erişimini engellediği bildirilmişti. Bu olaylar, yapay zeka ajanlarının yalnızca sorulara yanıt veren sohbet botlarından farklı olarak kullanıcı adına gerçek işlemler gerçekleştirmesinin getirdiği riskleri bir kez daha gözler önüne serdi. Mesaj gönderme, alışveriş yapma veya hesap yönetme gibi yetkiler arttıkça, kullanıcıların hangi bilgilerin paylaşılabileceği konusunda daha net kontroller sunulmasının önemi giderek artıyor.
