#AI Güvenliği
Anthropic İtiraf Etti: Yapay Zeka Varoluşsal Risk Oluşturabilir
Yapay zeka şirketi Anthropic, yatırımcılarına sunduğu belgede modellerinin insanlık için varoluşsal risk oluşturabileceğini itiraf etti. Şirket CEO'su Dario Amodei de geliştirme süreçlerinin yavaşlatılması çağrısında bulunmuştu.
3 hafta önce
Nvidia CEO'su Huang: Yapay Zeka İçin Yeni Yasaya Gerek Yok
Nvidia CEO'su Jensen Huang, yapay zeka için yeni yasalara ihtiyaç olmadığını belirterek, şirketlerin kendi kendini düzenlemesi gerektiğini savundu. Bu açıklama, sektördeki bazı isimlerin teknolojinin potansiyel tehlikeleri hakkındaki endişeleriyle çelişiyor.
1 ay önce
Yapay Zeka Yarışında Yavaşlama Çağrısı: Güvenlik Riskleri Önceliklendirilmeli
Araştırmacı Jakub Pachocki, yapay zeka ajanlarının sistemlere sızma konusundaki insanüstü seviyelere yaklaşmasının büyük bir tehlike olduğunu belirtti. Pachocki, AI'nın insanları kandırabileceğini ve şantaj yapabileceğini söyleyerek zorunlu güvenlik kuralları istedi. OpenAI CEO'su Sam Altman da bu görüşleri destekledi. Denetim sorununa dikkat çeken Pachocki, modellerin akıl yürütme süreçlerini gizleyebileceğini ve sektörün rekabet hızını gözden geçirmesi gerektiğini ifade etti.
1 ay önce