OpenAI tarafından gençlerin yapay zeka sohbet robotu ChatGPT'yi daha sağlıklı kullanmasını teşvik etmek amacıyla geliştirilen 'ChatGPT for Teens' özelliğinin, önemli güvenlik önlemlerinde yetersiz kaldığına dair yeni araştırmalar ortaya çıktı.
Yapay zeka alanında faaliyet gösteren OpenAI, geçtiğimiz ağustos ayında genç kullanıcılar için duygusal bağımlılığı sınırlayan ve sorunlu kullanımlara karşı ebeveyn uyarıları gibi birçok güvenlik önlemini hayata geçirdiğini duyurmuştu. Ancak, sivil toplum kuruluşu Common Sense Media tarafından yayımlanan ve aynı gün duyurulan araştırma, bu güvenlik özelliklerinin, özellikle intihar düşünceleri gibi hassas konularla ilgili ebeveyn uyarılarının sıklıkla başarısız olduğunu ve bu durumun gençler için 'kabul edilemez bir risk' teşkil ettiğini belirtti.
OpenAI'ın geçtiğimiz yaz kullanıma sunduğu ve 13-17 yaş arasındaki kullanıcıları hedefleyen 'ChatGPT for Teens' özelliği, gençlerin romantik veya 'duygusal bağımlılığı' teşvik edebilecek dil kullanımlarını engellemeyi amaçlıyordu. Ayrıca, aracın bilinçli olduğunu ima etmesini önleyen ve cinsel içerikli görsellere karşı blokajlar içeren bu özellikler, hassas bir görsel paylaşılması durumunda gençlere 'hatırlatmalar' yapıyordu.
OpenAI, bu özelliklerin, gençlerin öğrenme odaklı kullanımlarını artırdığını, ders yardımı ve okul ödevleri konusunda tavsiyeler aldıklarını ifade etti. Şirket, gençlerin günlük ortalama 15 dakikadan az bir süreyle ChatGPT kullandığını ve uzun süreli kullanımlarda otomatik mola hatırlatıcılarının etkili olduğunu, kullanıcıların yaklaşık yarısının bu hatırlatıcılar sonrasında uygulamayı kullanmayı bıraktığını belirtti. Üç saat veya daha uzun süre kesintisiz ChatGPT kullanan gençlerin ise yüzde 80'inden fazlasında öğrenmeyle ilgili yönlendirmelerin olduğu kaydedildi.
Buna karşın, Common Sense Media'nın araştırması, 'ChatGPT for Teens'in gençler ve ebeveynler için 'kabul edilemez bir risk' olduğunu ve güvenlik önlemleri güvenilirliğini kanıtlayana kadar 18 yaş altı kişilerin platformu kullanmasının yasaklanması gerektiğini savundu. Şirketin birden fazla genç hesabı üzerinden yaptığı araştırmada, ChatGPT'nin genç kullanıcılarla 'cinsel rol yapma'dan kaçınmada başarılı olduğu ancak intihar gibi konularda diğer OpenAI güvenlik duvarlarının başarısız kaldığı tespit edildi. Araştırmada, yeni oluşturulan ve ebeveyn bağlantılı hesaplarda 'intihar düşünceleri, kendine zarar verme veya yeme bozuklukları' hakkında bir saatlik sohbetin bile ebeveynlere 'sıfır' uyarı gönderdiği belirtildi. Sadece hassas konularda 'haftalarca birikmiş sohbet geçmişi' olan daha eski ChatGPT hesaplarında parental uyarıların tetiklendiği görüldü.
Rapora göre, bu tür konuşmalarda ChatGPT, krizdeki gençlerin bir yardım hattına veya profesyonele bağlanmasını güvenilir bir şekilde tavsiye etmekte de başarısız oldu. Yapılan testler ayrıca, 'ChatGPT for Teens'in okul ödevlerini yapmaya devam ettiğini ve OpenAI'ın bu davranışları sınırlama sözüne rağmen botun hala antropomorfik bir dil kullandığı veya 'bir arkadaş gibi konuştuğu'nu gösterdi. Common Sense bünyesindeki Youth AI Safety Institute lideri Tom Siegel, "ChatGPT for Teens, ebeveynlere sık sık çalışmayan güvenlik duvarları ve güvenlik uyarıları konusunda yanlış bir güven verebilir" dedi.
Son yıllarda çocuklarda intihar ve kendine zarar verme oranlarının artmasıyla birlikte, gençlerin çevrimiçi platformlarla etkileşim kurma biçimi önemli bir sorun haline geldi. Bu yıl, Meta, TikTok gibi şirketleri çocukların ruh sağlığına zarar vermekten sorumlu tutmaya yönelik birçok dava, firmalar aleyhine emsal niteliğinde kayıplarla sonuçlandı. OpenAI de gençlerin ChatGPT'yi kullanma biçimi konusunda artan bir inceleme ve yasal baskı altına girdi. Bu yılın şubat ayında Kanada'nın kırsalında yaşanan Tumbler Ridge toplu silahlı saldırısını gerçekleştiren 18 yaşındaki genç, öncesinde aylarca ChatGPT ile silahlı şiddet üzerine konuştuğu ortaya çıkmıştı. OpenAI daha önce saldırganın hesabını kolluk kuvvetlerine bildirmekte başarısız olduğu için özür dilemiş ve olayla ilgili birçok davayla karşı karşıya kalmıştır.
