Hong Kong'da bir finans çalışanı, 2024 yılında mühendislik şirketi Arup'taki meslektaşlarıyla gizli bir şirket satın alımını görüşmek üzere görüntülü bir toplantıya katıldı. Toplantı sonrasında 25 milyon dolarlık ödemeyi gerçekleştiren çalışan, dolandırıldığını fark etti. Toplantıdaki diğer tüm katılımcıların, şirketin finans müdürü olduğu düşünülen kişi dahil, yapay zeka tarafından oluşturulmuş deepfake olduğu anlaşıldı.
Yapay zeka ile üretilen yüzleri gerçek insanlardan ayırt etmek giderek zorlaşıyor. Deloitte'un 2024 tarihli bir raporuna göre, üretken yapay zeka ile yapılan dolandırıcılıkların ABD'ye maliyetinin gelecek yıl 40 milyar dolara ulaşması bekleniyor.
Avustralya Ulusal Üniversitesi'nde (ANU) görevli psikolog doçent Amy Dawel, insanların yapay zeka ürünü yüzleri daha iyi tespit etme konusunda eğitilip eğitilemeyeceğini araştırmak amacıyla bir çalışma başlattı. Dawel, günümüzde yapay zeka ile oluşturulmuş yüzleri tanımakta zorlanıldığını belirtti.
Dawel ve meslektaşları, Haziran ayında PNAS adlı bilimsel dergide yayımlanan bir araştırmada, insanları eğitmek için yeni bir yaklaşım geliştirdi. Araştırmacılar, insanlara yapay zekayı ele veren bariz kusurları aramayı öğretmek yerine, her yüzü bir bütün olarak değerlendirerek sezgisel karar verme yeteneklerini geliştirmeyi hedefledi. Dawel, yapay zeka yüzlerinin kusursuz bir simetriye sahip olmayabilen insan yüzlerine kıyasla daha ortalama göründüğünü ifade etti. Yapay zeka algoritmalarının, eğitildikleri on binlerce yüzün matematiksel ortalamasına yönelme eğiliminde olduğunu belirtti. Bu durumun, yapay zeka ile oluşturulan yüzlerin gerçek insan yüzlerinden daha güvenilir, çekici ve tanıdık görünmesine neden olabileceğini söyledi.
Araştırmada, 45 yetişkinin başlangıçtaki yapay zeka yüzü tespit yetenekleri ölçüldü. Katılımcılar, üç yüz arasından yapay zeka ürünü olanı belirleme testinde ortalama yüzde 41 doğruluk oranı sergiledi. Yaklaşık bir saatlik eğitimin ardından katılımcılara gerçek ve yapay zeka ürünü yaklaşık 100 yüz gösterildi. Katılımcılardan her yüzü altı genel özelliğe göre değerlendirmeleri istendi: ayırt edicilik, akılda kalıcılık, ifade gücü, simetri, orantılılık ve çekicilik. Eğitimin ardından katılımcıların doğruluk oranı ortalama olarak yüzde 81'e yükseldi.
