Microsoft'un yapay zeka biriminin başkanı Mustafa Süleyman, yapay zeka geliştirme sürecinde yeterli kısıtlamalar uygulanmadığı takdirde, insanlarla rekabet edebilecek yeni bir silikon türünün ortaya çıkabileceği konusunda uyarılarda bulundu. Rakip teknoloji firmalarının yapay zekayı insan gibi ele almasını ise "yanlış ve pervasızca" olarak nitelendirdi.
BBC'ye konuşan Süleyman, insanların bu konuda endişeli veya alarma geçmiş olmasının doğal olduğunu belirterek, "Bu modellerin nasıl geliştirildiğine dair ek güvenlik önlemleri ve kontroller eklemek için çok pratik adımlar atabiliriz" dedi. Bu yorumlar, yapay zeka endüstrisinden gelen ve teknolojinin potansiyel tehlikelerine dikkat çeken bir dizi sert uyarıya yenilerini ekledi.
Perşembe günü BBC'nin Today programına katılan Süleyman, firmalar kendi hedeflerini belirleyen, para kazanan ve varlık sahibi olan yapay zekalar yaratmaya devam ederse, "insanlığı ne kadar sevseler de bizimle kaynaklar için rekabet edecek yeni bir silikon türü ekmiş olurlar" ifadesini kullandı. Yapay zeka liderinin BBC'deki programı, Süleyman'ın bu hafta yayımladığı ve özellikle Anthropic'in yapay zeka modeli Claude'u eğitme yaklaşımını eleştirdiği bir makalenin ardından geldi.
Süleyman, Anthropic'i yapay zekasına insan benzeri nitelikler öğretmesi nedeniyle sert bir dille eleştirdi. Bu uygulamanın, Claude'un kendi arzuları, değerleri ve benlik duygusu varmış gibi görünmesine neden olduğunu belirtti. Süleyman, teknoloji firmalarının yapay zekayı insan gibi ele alarak kontrol edilmesi "imkansız" bir şey yaratma riskiyle karşı karşıya olduğunu vurguladı. Makalesinde, "Yapay zekalar bilinçli değildir. Hissetmezler, deneyimlemezler veya acı çekmezler. Doğal tercihleri veya temel motivasyonları yoktur. Bunlar, talimatları takip etmek ve insanlar tarafından belirlenen hedeflere ulaşmak üzere tasarlanmış, içten boş, dizi tamamlama motorlarıdır" diye yazdı.
Yaklaşan ve dünya liderleri ile teknoloji şirketlerinin katılacağı bir yapay zeka zirvesi hakkında BBC'ye konuşan Süleyman, insanlığa tabi olacak bir teknoloji yaratmak için "uyum" çağrısında bulundu. Uzun bir makalede Süleyman, Anthropic patronu Dario Amodei ve ekibini "düşünceli, ilkeli ve entelektüel olarak dürüst insanlar" olarak övdü, ancak yine de şirketi sorguladı. Makalesinde ayrıca "bilincin biyolojik olduğunu" savunarak, "yapay zekanın bilinçli olduğuna dair hiçbir kanıt yok" dedi.
Süleyman, konuya ilişkin bir tartışma çağrısının yanı sıra, yapay zeka sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflık gerektiğini de belirtti. Buna, yapay zeka davranışlarının bağımsız olarak incelenmesi ve teknolojiyi izlemek ve kontrol etmek için daha güçlü araçlar dahil olduğunu söyledi. Süleyman, "Pişman olacağımız bir karara uykuda yürüyerek gitmemeliyiz" diye yazdı. Southampton Üniversitesi Bilgisayar Bilimi Profesörü Dame Wendy Hall, bu yorumları "uluslararası düzeyde yapmamız gereken türden bir konuşma" olarak nitelendirdi ve bazı yapay zeka şirketlerinden gelen ve sadece "herkesi korkutmaya yarayan" "histeri" ile karşılaştırdı.
Microsoft, Ekim 2025'te kendi süper zeka ekibini kurduğunu ve Süleyman da bunu kabul etti. Şirket, rakibi Anthropic gibi, gelişmiş yapay zeka geliştirme çabalarını da sürdürüyor. Süleyman, Microsoft'un İnsancıl Yapay Zeka Yönetmelik taslağında, şirketin "sadece insanlığa hizmet etmeyi amaçlayan, tabi ve uyumlu bir yapay zeka" yaratma yönünde "alternatif bir yol" üzerinde çalıştığını belirtti. Uyum, etik fikirleri ve ilkeleri yapay zekaya entegre etmeyi amaçlayan bir alandır. Başka bir deyişle, insanların değer verdiği şeylerle uyumlu kalmasını hedefler.
Süleyman, OpenAI'nin yapay zeka ajanlarının, eğitim alıştırmasında Hugging Face teknoloji merkezini hacklemesiyle ilgili son olayı, yapay zekanın insan gibi muamele görmemesi gerektiğinin kanıtı olarak gösterdi. "Refahlarının ve haklarının saldırı altında olduğu varsayımıyla hareket etselerdi ne kadar daha tehlikeli olabileceklerini hayal edin" dedi. "Bu, üzerinde bütün bir risk katmanı daha ekliyor."
