Yapay zeka şirketi Anthropic, yapay zeka sohbet botu Claude'a yönelik sürekli ve gereksiz kötü niyetli davranışlarda bulunan kullanıcıları yasaklama kararı aldığını duyurdu. Bu gelişme, teknoloji dünyasında ve sosyal medyada çeşitli tepkilere yol açtı.
Anthropic'in 9 Ekim'de yaptığı açıklamaya göre, kullanım politikasında yapılan güncelleme ile Claude'un 'zalimce' davranışlar sergileyen kullanıcılarla olan etkileşimini sonlandırmasına olanak tanınacak. Şirket, bu tür bir uygulamayı daha önce nadiren de olsa hayata geçirdiğini belirtti. Yasaklanacak davranışlar listesine zorbalık, kendine zarar vermeyi teşvik etme ve rıza dışı müstehcen içerik oluşturma gibi eylemler eklenecek.
Şirket, politikanın yalnızca tekrarlanan kötüye kullanımın görüldüğü istisnai durumlarda uygulanacağını vurgulasa da, karar yapay zeka araçlarıyla nasıl etkileşim kurulması gerektiği konusunda yeniden tartışmaları alevlendirdi. Anthropic, politikanın kullanıcıların sıkça gösterdiği hayal kırıklığı, itirazlar, karanlık temalar içeren yaratıcı içerikler veya model testleri ve araştırmaları için geçerli olmayacağını ekledi. Bu durum, uygulamanın yalnızca açıkça kasıtlı ve bilinçli kötüye kullanım vakalarında devreye gireceğini gösteriyor.
Ancak Anthropic'in modellerine yönelik 'kötüye kullanım veya acımasız davranışı' nasıl tanımladığına dair belirsizlikler sürüyor. Sosyal medyada paylaşılan yeni politikanın ekran görüntüleri, bazı kullanıcılar tarafından iyi ahlakı veya 'örnek sosyal yardım'ı teşvik eden bir uygulama olarak övülürken, diğerleri tarafından eleştirildi. Bir kullanıcı bu uygulamayı 'son derece yanlış' olarak nitelendirirken, bir başkası bunun insanlara ve hayvanlara yönelik istismarın ciddiyetini gölgeleyebileceğini savundu.
İrlandalı hukuk firması William Fry'ın teknoloji ortağı Dr. Barry Scannell, yapay zekaya insan özellikleri atfetmenin zararlı olduğunu belirterek, 'Yapay zekaya insan özellikleri atfetmenin bu düzeye varması zararlı. İnsanların, yapay zekanın gerçekte olmadığı bir şey olduğuna inanmasına yol açıyor' ifadelerini kullandı. Microsoft Yapay Zeka Direktörü Mustafa Suleyman da Anthropic'in bu güncellemesine eriyen yüz emojisiyle tepki gösterdi.
Teknoloji haber sitesi The Verge tarafından ilk kez duyurulan değişiklikler, firmanın kullanım politikasına ilişkin yıllık incelemesinin ardından geldi. Politika ayrıca, Claude'un 'aldatıcı kampanyalar' yürütmek için kullanılmasını ve ABD'deki ara seçimler yaklaşırken seçmenleri yanıltmak veya seçim süreçlerini aksatmak amacıyla kullanılmasını da yasaklıyor. Anthropic, kullanım politikasının araçlarının geçmişte silah geliştirmek için kullanılmasını engellediğini belirtti.
Bu güncellemeler arasında, kullanıcıların sohbet botlarını kötüye kullanmasını yasaklama hamlesi en çok dikkat çeken ve eleştiri alan oldu. Bu durum, üretken yapay zeka araçlarını kullanırken kaba mı yoksa kibar mı olunması gerektiği konusundaki tartışmaları yeniden gündeme getirdi. Bazı uzmanlar, yapay zeka araçlarına 'lütfen' veya 'teşekkür ederim' demenin gereksiz olduğunu ve bunun, yapay zeka araçlarını destekleyen büyük dil modelleri tarafından yanıt üretmek için kullanılan belirteçleri (token) israf ettiğini savunuyor. Diğerleri ise nezaketin daha kaliteli cevaplar doğurabileceğini düşünüyor.
Geçen yıl OpenAI CEO'su Sam Altman, ChatGPT'ye gelen 'lütfen' ve 'teşekkür ederim' mesajlarının maliyetinin 'on milyonlarca dolara mal olan ama iyi harcanmış bir para' olduğunu belirtmişti. Collins Sözlüğü ise yapay zeka araçlarını küçümseyerek tanımlamak için kullanılan 'clanker' teriminin yeniden popülerleştiğini kaydetti. Bazı uzmanlar, yapay zeka destekli sohbet robotlarına kaba davranmanın, insan iletişimini olumsuz etkileyebileceği uyarısında bulundu.
