Yapay zeka (YZ) teknolojilerinin, Güneydoğu Asya'daki seçim süreçlerinde dezenformasyon yayma riskini önemli ölçüde artırabileceği belirtiliyor. Daha önce karmaşık operasyonlarla yürütülen sahte haber siteleri, sosyal medya hesapları ve sahte belgeler oluşturma gibi işlemlerin artık YZ ile çok daha kolay hale geldiği vurgulanıyor.
Anthropic'in yapay zeka sohbet botu Claude'un Malezya'daki bir siyasi nüfuz operasyonunda kullanıldığının ortaya çıkması, bu endişeleri artırdı. Bu operasyonda, yaklaşık 1.000 X hesabı, "Malaysia Pulse" adlı sahte bir haber sitesi ve bir dizi uydurma belge kullanılarak ticari bir seçim manipülasyon platformu oluşturuldu. Bu platformun, son eyalet seçimlerinde seçmenleri hedef aldığı ve hassas siyasi ve sosyal ayrılıkları istismar etmek amacıyla nüfus sayımı ve seçim verilerini kullandığı belirtildi.
Anthropic'in müdahalesiyle operasyon başarısız olsa da, YZ'nin gelecekteki seçimlerde nasıl silah haline getirilebileceği konusunda alarm zilleri çalıyor. Meta'da küresel seçimler için kamu politikaları üzerinde çalışan Katie Harbath, YZ'nin dezenformasyon ortamına yeni bir karmaşıklık ve kolaylık seviyesi getirdiğini ifade ediyor. Harbath'a göre, YZ ile daha fazla, daha kişiselleştirilmiş, daha hızlı ve daha ucuz içerik üretmek mümkün. Ancak, içeriklerin dağıtımı için hala sosyal medya platformlarına ihtiyaç duyuluyor.
Güneydoğu Asya, dezenformasyona yabancı değil. Filipinli gazeteci Maria Ressa, ülkesini dezenformasyonun silahlandırılması için bir "deney kabı" olarak nitelendiriyor ve bölgede denenip test edilen tekniklerin daha sonra Batı'da başarıyla uygulandığını belirtiyor. YZ'nin bu süreci daha da hızlandırdığı, artık bir anlatı veya hikaye oluşturmak için daha az kişiye ihtiyaç duyulduğu, sadece komut verilerek içeriğin üretilip yayılabildiği kaydediliyor.
Bölgede YZ'nin etkileri şimdiden görülüyor. Endonezya'da, mevcut başkan Prabowo Subianto'nun sert imajını yumuşatmasına yardımcı olan YZ üretimi bir çizgi film görseli, 2024 seçimlerinde büyük ilgi gördü. Ayrıca, YZ'nin Myanmar'daki iç savaştan kaçarak Malezya'ya sığınan etnik Rohingya mültecilerine karşı nefreti körüklemek için de kullanıldığı belirtiliyor. Monash Üniversitesi Malezya'dan Dr. Ben Loh, YZ tarafından üretilen içeriğin, insanların zihnindeki mevcut önyargıları pekiştirdiğini ifade ediyor.
Anthropic'in raporuna göre, sahte haber sitesi meşru Malezya raporlarını tarayarak YZ modeli tarafından yeniden yazdırılmış ve sahte isimlerle yayınlanmış. Ayrıca, Rus ve Çin devlet destekli yayınlardan alınan makaleler de kaynak belirtilmeden yeniden yayımlanmış. Anthropic, tespit edilen her siyasi nüfuz faaliyetini engellediğini, öğrendiklerini kullanarak güvenlik önlemlerini güçlendirdiğini ve uygun durumlarda yetkililer ve sektör ortaklarıyla istihbarat paylaştığını belirtti.
