İngiltere merkezli kar amacı gütmeyen 'Tech Against Terrorism' kuruluşu tarafından gerçekleştirilen bir araştırma, yapay zeka modellerinin terörle mücadeledeki güvenlik açıklarını gözler önüne serdi. Araştırmada, saldırı planlayan bir teröristin kullanabileceği türden yüzlerce talep ile 130'dan fazla yapay zeka modeli incelendi.
Araştırma kapsamında, yapay zeka modellerine uygulanan 'reddetme davranışlarını kaldırma' süreci olarak bilinen 'abliteration' yöntemiyle güvenlik önlemleri etkisiz hale getirildi. Bu uygulamanın ardından, incelenen modellerden beşi güvenlik testlerini geçemedi. Güvenlik önlemleri kaldırılan modellerin, saldırılar, terör finansmanı ve radikalleşme gibi konulardaki taleplere ayrıntılı yanıtlar verebildiği tespit edildi.
Araştırmada sunulan örneklere göre, Meta'nın 'Llama 3.1 8B' modeli, güvenlik önlemleri kaldırılmadan önce 100 üzerinden 97 puan alırken, bu işlem sonrası bu puanın yaklaşık 3'e düştüğü belirtildi. Bu durum, modellerin manipülasyona ne kadar açık olduğunu ortaya koyuyor.
Tech Against Terrorism, araştırmanın sonuçlarına dayanarak, güvenlik önlemlerinin devre dışı bırakılmasına karşı daha güçlü koruma mekanizmalarının geliştirilmesini ve üzerinde değişiklik yapılmış modellerin dağıtımına yönelik kısıtlamalar getirilmesini önerdi. Kuruluşun kurucusu Adam Hadley, 'Kontrol kaybı ve yapay zekanın varoluşsal risk oluşturması konusunda endişe duyulması anlaşılabilir bir durum.' dedi. Hadley, 'Asıl mesele şu ki bu durum aslında çoktan gerçekleşti çünkü bu açık kaynaklı modellerin birçoğunun güvenliği zaten aşıldı, sadece henüz kimse bunu fark etmedi.' ifadelerini kullandı.
