Güney Koreli araştırmacılar, yapay zeka modellerinin bilmediği konularda yanlış bilgi üretmek yerine belirsizliğini kabul etmesini sağlayacak yeni bir yöntem geliştirdi. Bu gelişme, özellikle sağlık ve otonom sürüş gibi kritik alanlarda yapay zekanın güvenilirliğini artırma potansiyeli taşıyor.
Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) tarafından yürütülen ve Nature Machine Intelligence dergisinde yayımlanan çalışma, yapay zekanın 'halüsinasyon' olarak adlandırılan yanlış bilgi üretme eğilimini azaltmayı hedefliyor. Uzmanlara göre yapay zekanın en büyük sorunlarından biri olan 'aşırı özgüven', emin olunmayan konularda bile kesin cevaplar verilmesine yol açabiliyor.
Araştırmacılar, insan beyninin çalışma prensibinden ilham alarak yapay zeka modelini, gerçek verilerle eğitime başlamadan önce rastgele 'gürültü' verileriyle kısa bir ön eğitim sürecinden geçirdi. Bu yöntem sayesinde yapay zeka, henüz öğrenme sürecine başlamadan kendi belirsizliğini tanımayı öğreniyor.
Yeni yaklaşım, yapay zekanın başlangıçtaki aşırı güvenini azaltarak 'Henüz hiçbir şey bilmiyorum' durumunu benimsemesini sağlıyor. Bu sayede sistemler, eğitim sırasında karşılaşmadıkları konularda yanlış cevaplar vermek yerine daha düşük güven düzeyleriyle yanıt üretiyor. Araştırmacılara göre bu, yapay zekanın 'bildikleriyle bilmediklerini ayırt etme' becerisini geliştiriyor.
Bu yöntemin, hata payının minimize edilmesi gereken otonom araçlar, tıbbi teşhis sistemleri ve karar destek teknolojileri gibi alanlarda önemli katkılar sağlaması bekleniyor. Çalışmanın yazarlarından Se-Bum Paik, bu gelişmenin yapay zekanın kendi bilgi durumunu insanlara daha benzer şekilde tanımasını sağladığını belirtti.
