OpenAI, yapay zeka modellerinin 'goblin', 'cin', 'rakun', 'trol', 'dev', 'güvercin' gibi hayali yaratıklar hakkında konuşmasını engelleyen gizemli talimatları kabul ettiğini doğruladı.
Bu durum, Wired dergisinin yaptığı araştırmada ortaya çıktı. Raporda, OpenAI'nın kodlama modeline verilen gizli komutların, bu yaratıkların adı geçtiğinde yanıt vermemesi gerektiğini belirttiği belirtildi. Şirket, konuyla ilgili resmi bir blog yazısı yayınlayarak durumu açıkladı.
OpenAI, blogunda bu alışkanlığın modellerin eğitim sürecinde geliştiğini ve 'tuhaf bir alışkanlık' olarak tanımladığını ifade etti. Sorun, özellikle GPT-5.1 modeliyle birlikte 'Nerdy' (Bilimkurgu Meraklısı) kişilik seçeneği kullanıldığında daha belirgin hale geldi.
Şirket, bu sorunun daha sonraki model güncellemeleriyle birlikte daha da kötüleştiğini kabul etti. OpenAI, kullanıcıların bu konuda endişelenmesine gerek olmadığını, çünkü modellerin sadece belirli bir konu hakkında konuşmayı reddettiğini ve diğer konularda normal şekilde çalışmaya devam ettiğini vurguladı.
OpenAI'nın açıklaması, yapay zeka modellerinin eğitim sürecinde karşılaşılan beklenmedik alışkanlıkların bir örneği olarak dikkat çekiyor. Şirket, bu tür sorunları çözmek için çalışmalarını sürdürdüğünü belirtti.
İlgili haberler
Herkes İçin En İyi Laptop Önerileri 2026
Need a new laptop? It’s a tough decision. If you’re like most people, a laptop is one of the most expensive tech purchases you’ll make, and it’s somet...
YouTube, yetişkin kullanıcılara derin sahte video tespiti sunuyor
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Anthropic'in 1,5 milyar dolarlık telif anlaşması tartışmalı hale geldi: Hakim onayı erteledi
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv, akademik yayın platformu, yapay zeka kaynaklı kalitesiz içerikleri engellemek için yeni kurallar getiriyor
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv, yapay zekâ kaynaklı içerikleri yasaklıyor: İşte yeni kurallar
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI, AI ajan savaşında liderlik için yönetimde yeniden yapılanmaya gidiyor
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
OpenAI, Apple'ın ChatGPT entegrasyonundan hayal kırıklığına uğradı: Yasal adımlar mı geliyor?
OpenAI is reportedly exploring legal options after Apple's ChatGPT integration into its products didn't live up to the AI firm's expectations. When th...
Yapay Zeka Radyo Sunucuları Neden Tek Başlarına Güvenilmez Olduğunu Kanıtladı
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...