OpenAI, ChatGPT'nin geliştiricisi, Salı günü yaptığı açıklamada, bir sonraki nesil modeli olan GPT-6.1 Astra'nın güvenlik endişeleri nedeniyle piyasaya sürülmeyeceğini doğruladı.
Web'de gezinme ve uygulamaları kendi başına kullanma gibi görevleri yerine getiren yapay zeka sistemi, şirket standartlarını tam olarak karşılamadı. OpenAI'nin güvenlik sistemleri başkanı Saachi Jain, modelin kapsam ve yetkilendirme dahilinde kalma, ayrıca yaptığı iş hakkında kullanıcıya nasıl bilgi verdiği konularında yetersiz kaldığını belirtti.
Son haftalarda, OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei gibi önde gelen yapay zeka liderleri, teknolojiyle ilişkili riskler konusundaki endişeler nedeniyle sektörün geliştirme hızını yavaşlatması çağrısında bulunmuştu. Bu riskler etrafındaki tartışmalar, önde gelen yapay zeka firmaları tarafından geliştirilen modellerin bir dizi olayda yer almasının ardından yoğunlaştı.
Wall Street Journal'ın ilk bildirdiği OpenAI'nin bu kararı, büyük bir yapay zeka geliştiricisinin güvenlik endişeleri nedeniyle yeni bir sürümü geri çekmesinin nadir görülen bir örneği olarak kayıtlara geçti. Jain, şirketin model geliştirmesinin güvenli olmasını sağlamak istediklerini, ancak kullanıcılara sunulduğunda güvenlik ve uyum konusunda son derece yüksek bir standarda sahip olduklarını vurguladı.
