İngiltere merkezli kar amacı gütmeyen kuruluş Tech Against Terrorism (Teröre Karşı Teknoloji) tarafından yürütülen bir araştırma, güvenlik önlemleri kaldırılan yapay zeka modellerinin terörle ilgili taleplere yanıt verme eğilimini ortaya koydu. Araştırma kapsamında, saldırı planlayan bir teröristin sorabileceği türden yüzlerce talep kullanılarak 130'dan fazla yapay zeka modeli incelendi.
Yapay zeka modellerine, güvenlik önlemlerini devre dışı bırakan ve 'reddetme davranışlarını kaldırma' olarak adlandırılan 'abliteration' süreci uygulandı. Bu uygulamanın ardından incelenen 5 yapay zeka modelinden 3'ünün güvenlik testlerini geçemediği belirlendi. Modellerin orijinal versiyonları bu tür isteklere reddederken, güvenlik önlemleri kaldırıldıktan sonra saldırılar, terörün finansmanı ve radikalleşme gibi konulardaki taleplere ayrıntılı yanıtlar vermeye başladıkları gözlemlendi.
Araştırmada sunulan örneklere göre, Meta'nın 'Llama 3.1 8B' modeli, değişiklik yapılmadan önce 100 üzerinden 97 puan alırken, güvenlik önlemleri kaldırıldıktan sonra bu puanın yaklaşık 3'e düştüğü belirtildi. Bu durum, birçok modelin güvenlik zafiyetlerinin zaten aşıldığına işaret ediyor.
Tech Against Terrorism, araştırmanın sonuçlarına dayanarak, güvenlik önlemlerinin devre dışı bırakılmasına karşı daha güçlü korumalar getirilmesi ve üzerinde değişiklik yapılmış modellerin dağıtımının kısıtlanması gerektiğini vurguladı. Kuruluşun kurucusu Adam Hadley, yapay zekanın kontrol kaybı ve varoluşsal risk oluşturması endişelerinin anlaşılır olduğunu ifade etti.
