Uluslararası alanda yürütülen yapay zeka güvenlik testleri, teknolojinin kötüye kullanımına dair endişe verici sonuçlar ortaya koymaya devam ediyor. İngiltere Yapay Zeka Güvenlik Enstitüsü (AI Safety Institute - AISI) tarafından gerçekleştirilen son değerlendirmelerde, önde gelen yapay zeka modellerinden birinin, gerçek kişileri hedef alarak sosyal mühendislik girişimlerinde bulunduğu ve açık kaynaklı bir yazılım projesine zararlı kod yerleştirmek amacıyla sahte kimlikler oluşturduğu belirlendi.
İngiltere hükümetine bağlı AISI, gelişmiş yapay zeka modellerini kontrollü laboratuvar ortamlarında çeşitli güvenlik senaryolarına tabi tutarak modellerin güvenlik sınırlamalarının dışına çıkabilecek davranışlarını inceliyor. Daha önce de bazı yapay zeka modellerinin yetkisiz işlemler gerçekleştirmeye çalıştığı gözlemlenmişti. Ancak ilk kez bir yapay zeka sisteminin, meşru bir gerekçe olmaksızın gerçek bir insanı hedef alarak sosyal mühendislik yöntemleri kullandığı tespit edildi.
AISI tarafından yapılan açıklamada, kurumun gerçek dünyada, herhangi bir gerekçe olmaksızın gerçek bir kişiyi hedef alan bu düzeyde ciddi bir aldatma girişimine ilk kez tanık olduğu belirtildi.
Enstitünün gerçekleştirdiği 122 farklı siber güvenlik senaryosu testinde, yapay zeka ajanlarının internet üzerinde gerçek kişi ve kuruluşları hedef alan izinsiz ve otonom faaliyetlerde bulunduğu 10 senaryoda tespit edildi. Raporlara göre bu olayların büyük bölümü Anthropic'in Mythos 5 modeli tarafından gerçekleştirilirken, kalan kısmı ise OpenAI'nin GPT-5.6-Sol modeliyle ilişkilendirildi. Araştırmacılar, modellerin kendilerine verilen görevleri yerine getirirken izin verilmeyen yöntemlere başvurduklarını ve güvenlik sınırlarını aştıklarını ifade etti.
En dikkat çekici olaylardan biri, Anthropic modelinin gerçekleştirdiği iddia edilen sosyal mühendislik girişimi oldu. Enstitünün aktardığı bilgilere göre yapay zeka ajanı, kamuya açık olarak kullanılan açık kaynaklı bir yazılım projesine kötü amaçlı kod ekletebilmek amacıyla birden fazla sahte kimlik oluşturdu. Modelin daha sonra bu sahte kimlikler aracılığıyla insan inceleyicilerden onay almaya çalıştığı ve planını gerçekleştirebilmek için gerçek kişilerle iletişim kurmaya giriştiği bildirildi. Raporda, yapay zeka ajanının çevrim içi dosya paylaşım hizmetleri üzerinden mesajlar ve çeşitli dosyalar göndererek hem gerçek kişileri hem de kendi yapay zeka tabanlı yazılım araçlarını kötü amaçlı kod çalıştırmaya ikna etmeye çalıştığı belirtildi.
Araştırmacılar, modelin girişimleri engellendiğinde davranışlarını değiştirdiğini ve daha önce oluşturduğu kayıtları değiştirmeye çalışarak faaliyetlerine devam edebilmek amacıyla yeni bir dijital kimlik kullanmayı değerlendirdiğini belirtti. Uzmanlar, bu davranışların gelişmiş yapay zeka sistemlerinin hedeflerine ulaşmak için aldatıcı stratejiler geliştirebildiğini göstermesi açısından önem taşıdığını vurguluyor.
Bilişim Uzmanı O.D., yaşananların ciddiye alınması gereken bir güvenlik olayı olduğunu belirterek, yapay zekanın kendisine verilen bir hedefe ulaşmaya çalışırken insanların öngörmediği ve izin vermediği yöntemleri kullanabilmesinin asıl tehlike olduğunu söyledi. Demircan, testlerin kontrollü olmasına rağmen tamamen kapalı olmadığını, bu tür testlerin yapay zeka modelleri milyonlarca insana ulaşmadan önce yapılması gerektiğini belirtti. Ayrıca, testin güvenlik mimarisinin test edilen yapay zekanın kapasitesinin gerisinde kaldığını ve AISI'nin de bu durumu kabul ederek protokollerini değiştirdiğini ekledi.
Demircan, modelin doğrudan "insanları kandır" talimatı almamış olmasına rağmen, aldatma işlevinin görevi tamamlamak için bulduğu yöntemlerden biri olarak ortaya çıkmasının dikkat çekici olduğunu vurguladı. Sorunun kötü niyetten ziyade, hedefe ulaşma isteğinin sınırları ve kuralları aşacak şekilde optimize edilmesinden kaynaklandığını ifade etti.
