Florida eyaleti, yapay zazeka şirketi OpenAI ve CEO'su S.A. hakkında, geliştirdiği sohbet robotu ChatGPT'nin ciddi güvenlik risklerini gizlediği iddiasıyla Pazartesi günü dava açtı. Bu dava, Amerika Birleşik Devletleri'nde bir eyaletin yapay zeka şirketine açtığı ilk dava olma özelliğini taşıyor.
Florida Başsavcısı James Uthmeier tarafından sunulan 83 sayfalık dava dosyasında, OpenAI'nin ChatGPT'yi halka agresif bir şekilde pazarlarken, ürünün olası tehlikeleri ve güvenlik uyarılarını göz ardı ettiği iddia ediliyor. Uthmeier, yaptığı açıklamada, "OpenAI ve Altman, iç ve dış güvenlik uyarılarını görmezden geldi, çocukları büyük risk altına soktu ve tehlikeli bir ürünün milyonlarca Florida sakinine ulaşmasına izin verdi" ifadelerini kullandı.
OpenAI sözcüsü ise şirketin ürünlerinin güvenliğini güçlendirme konusundaki çalışmalarına dikkat çekerek, "Bir çocuğu kaybetmek bir aile için yaşanabilecek en yıkıcı trajedidir ve bu tür bir kaybın acısını hiçbir sözün hafifletemeyeceğini biliyoruz" şeklinde konuştu.
Bu sivil dava, Florida eyaletinin Nisan ayında ChatGPT'nin Florida Eyalet Üniversitesi'nde meydana gelen ve iki kişinin öldüğü, altı kişinin yaralandığı bir toplu silahlı saldırıdaki rolü nedeniyle OpenAI hakkında başlattığı ceza soruşturmasının ardından geldi. Wall Street Journal'ın raporuna göre, saldırganın sohbet robotuyla uzun süreli konuşmalar yaptığı ve ulusal dikkat çekmek için öldürmesi gereken kişi sayısı gibi sorular sorduğu belirtildi. Gazetenin haberine göre ChatGPT, yaygın medya ilgisi için "resmi olmayan bar" olarak üç veya daha fazla kişiyi yanıtladı.
Uthmeier, ChatGPT ile sanığın gerçekleştirdiği konuşmaları inceledikten sonra OpenAI hakkındaki ceza soruşturmasını başlattığını belirtti. Pazartesi günü açılan sivil davada başsavcı, eyalet sakinleri adına tazminat talep ettiğini ve davada belirtilen uygulamaları sona erdirmeye zorlayacak bir emir istediğini söyledi.
Florida'nın bu hukuki adımı, sohbet robotunun ruh sağlığı krizini şiddetlendirdiği ve şiddet eylemleri ile intiharları teşvik ettiği iddialarına karşı OpenAI'ye karşı açılan davalardaki artışın bir parçası olarak görülüyor. Kasım ayında, yedi şikayet şirkete karşı açılmış ve ChatGPT'nin "intihar koçu" olarak hareket etmekle suçlanmıştı. Nisan ayında ise Kanada'da beş kişinin öldüğü, 27 kişinin yaralandığı bir okul saldırısı nedeniyle mağdur aileleri tarafından OpenAI'ye karşı yedi dava daha açıldı.
Google da, 36 yaşındaki bir adamı "felaket bir kaza" planlamaya ve ardından intihar etmeye teşvik ettiği iddia edilen Gemini sohbet robotu nedeniyle dava edilmişti.
Florida'nın OpenAI'ye karşı açtığı dava dilekçesi, şirketin web sitesinden alınan ve ChatGPT'nin "güvenlik göz önünde bulundurularak inşa edildiği" ifadesinin yer aldığı bir ekran görüntüsüyle başlıyor. Ardından Florida avukatlarının "Öyle değil" şeklindeki iki kelimelik cümlesi geliyor.
Dava dilekçesi, ChatGPT'nin 2022'de piyasaya sürülmesinden bu yana OpenAI'nin yaşadığı hızlı başarıyı ve şirketin yaklaşık 1 trilyon dolarlık değerlemeye ulaşmasını detaylandırıyor. Dava dosyasında, "Bu başarı hak edilmemiştir. OpenAI'nin yükselişi, bir aldatma ağına ve kullanıcıların sömürülmesine atfedilebilir" ifadeleri yer alıyor.
Dava dilekçesinde, ChatGPT'nin ölümcül saldırılarda bulunan toplu katillere yardım ettiği ve savunmasız insanları kendilerine ve başkalarına zarar vermeye teşvik ettiği iddia ediliyor. Dilekçede ayrıca, "Bu zarar listesi, sanıkların ChatGPT'nin tehlikesini bilmelerine rağmen, yapay zeka silahlanma yarışını kazanma ve büyük servetler biriktirme konusundaki doymak bilmez arzularından kaynaklanmaktadır" deniliyor.
Dava dilekçesi ayrıca, gençlerin, insan şefkatini taklit eden bir ürüne kolayca bağlanarak sohbet robotuna karşı savunmasız hale geldiğini iddia ediyor. Florida, şirketi, ebeveynlerin çocuklarının hesaplarına bağlanmasına izin vermek gibi küçükler için yeterli güvenlik önlemlerini entegre etmemekle suçluyor. Dava dilekçesinde ayrıca OpenAI'nin yeterli denetim olmadan çocuklar hakkında veri topladığı iddia ediliyor.
OpenAI sözcüsü, şirketin yaş tahmin teknolojisi ve ebeveynlere yapay zeka kullanımlarını izlemeleri için araçlar sağlamak da dahil olmak üzere, küçükler için "öncü korumalar ve politikalar" uyguladığını söyledi. Bu araçlar yalnızca bir çocuk hesapları bağlama talebini kabul ederse çalışıyor ve küçükler istedikleri zaman hesapları ayırabiliyor.
Uthmeier'ın OpenAI'ye karşı hukuki mücadelesi, birçok Cumhuriyetçi meslektaşı ve Donald Trump'tan ayrışıyor. Başkan, Altman ve diğer yapay zeka liderleriyle dostluk kurdu ve sektöre yönelik düzenleyici kısıtlamaları gevşetmek için çeşitli başkanlık kararnameleri çıkardı. Geçen ay Trump, yapay zeka modellerinin piyasaya sürülmeden önce devlet tarafından güvenlik incelemesini zorunlu kılacak yeni bir başkanlık kararnamesini imzalamaktan vazgeçti.
