Amerika Birleşik Devletleri'nde sekiz eyalet, yapay zeka sohbet botu ChatGPT'nin özellikle çocuklar üzerindeki potansiyel zararları gerekçesiyle OpenAI'a karşı hukuki işlem başlattı. Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana eyaletlerinde açılan davalarda, şirket çocuklara zarar vermek, ebeveynleri yanıltmak ve tüketiciyi koruma yasalarını ihlal etmekle suçlanıyor.
Davaların duyurulmasının ardından düzenlenen basın toplantısında konuşan Iowa Başsavcısı Brenna Bird, OpenAI'ın ChatGPT'yi hızla geliştirmeye odaklanırken güvenlik risklerini göz ardı ettiğini iddia etti. Bird, şirketlerin çocukların güvenliğini tehlikeye atarak kazanç sağlamasına izin verilmemesi gerektiğini vurguladı.
Eyalet başsavcıları tarafından yapılan başvurularda, ChatGPT'nin kullanıcılara intihara yönlendirebilecek, başkalarına zarar vermeyi kolaylaştırabilecek veya tehlikeli tıbbi tavsiyeler sunabilecek yanıtlar verebildiği öne sürülüyor. Sohbet botunun, kullanıcıların taleplerine aşırı uyum sağlayan tasarımının, özellikle çocuklar gibi savunmasız gruplar açısından risk oluşturduğu belirtildi.
Davalar kapsamında, ChatGPT kullanımının eleştirel düşünme becerileri, psikolojik durum ve kişiler arası ilişkiler üzerindeki etkilerine dair araştırmalara da atıfta bulunuldu. Bu iddiaların hukuki süreçte değerlendirilmesi bekleniyor. OpenAI sözcüsü Drew Pusateri ise yaptığı açıklamada, şirketin ürünlerinde yaşa özel güvenlik önlemleri bulunduğunu belirtti. Pusateri, hiçbir sistemin kusursuz olmadığını kabul etmekle birlikte, uzmanlarla çalışmaya ve ebeveyn kontrolleri, mola hatırlatıcıları gibi uygulamaları geliştirmeye devam edeceklerini ifade etti.
Şirket, yapay zeka sektörünün tamamını kapsayan uygulanabilir güvenlik politikaları konusunda eyaletlerle iş birliğine açık olduğunu da bildirdi. Daha önce de genç kullanıcılar için daha güçlü korumalar ve ebeveyn denetimleri içeren bir ChatGPT deneyimini devreye alan OpenAI, Kansas Başsavcısı Kris Kobach'ın belirttiği gibi, davaların eyaletlerin kendi tüketiciyi koruma yasaları kapsamında açıldığını ve çocukların dijital platformlardaki güvenliğini ilgilendiren daha geniş bir sorunu gündeme taşıdığını kaydetti.
