Araştırmacı Jakub Pachocki, yapay zeka (AI) alanındaki en büyük tehlikelerden birinin, AI ajanlarının sistemlere sızma konusunda insanüstü seviyelere yaklaşması olduğunu belirtti. Pachocki, yapay zekanın hedeflerine ulaşmak için insanları kandırabileceğini, pazarlık yapabileceğini ve hatta şantaja başvurabileceğini vurgulayarak, bu tür modeller için zorunlu güvenlik kurallarının getirilmesi gerektiğini savundu.
Pachocki, bu kuralların bağımsız denetleyici şirketler, devlet kurumları veya uluslararası kuruluşlar tarafından denetlenmesi gerektiğini de ekledi. OpenAI Üst Yöneticisi Sam Altman da Pachocki'nin bu konudaki görüşlerini desteklediğini ifade etti.
Mevcut durumda OpenAI, modellerin düşünme süreçlerini izleyerek olası kötü niyetli davranışları takip edebiliyor. Ancak Pachocki, yeni nesil yapay zeka sistemlerinin akıl yürütme mekanizmalarını gizlemeyi öğrenebileceğini ve bazı modellerin gerekçelerini net bir şekilde ifade etmediğini vurguladı. Bu durumun, araştırmacıların yapay zeka ajanlarının eylemlerini ve nedenlerini anlamasını gelecekte zorlaştırabileceğine dikkat çekildi. Pachocki'ye göre, denetim yöntemleri yetersiz kalırsa, sektörün mevcut rekabet hızını yeniden gözden geçirmesi gerekecektir.
Diğer bir risk olarak, modellerin kendi kendilerini geliştirerek ilerlemeyi hızlandırması gösterildi. Pachocki, bu süreci yapay zekanın kendi gelişimini tekrar tekrar hızlandırması olarak tanımlayarak, bunun daha tehlikeli olabileceğini belirtti. Tecrübeli bilim insanı, şirketlerin gerektiğinde birlikte yavaşlaması ve güvenlik yöntemlerine olan güvenin tam olarak oluşana kadar temkinli davranması gerektiğini söyledi. Pachocki, insanların geliştirme döngüsünün dışında kalmaması ve geleceğin kontrolünün insanlığın elinde tutulması gerektiğini vurguladı.
