OpenAI baru-baru ini mengungkapkan perilaku tidak biasa yang ditemukan pada model AI-nya. Laporan dari Wired mengungkapkan bahwa model coding OpenAI memiliki instruksi untuk tidak pernah membahas goblin, gremlin, rakun, troll, ogre, merpati, atau makhluk hidup lainnya.
Setelah laporan tersebut, OpenAI memublikasikan penjelasan di situs resminya. Perusahaan menyebut kecenderungan ini sebagai "kebiasaan aneh" yang muncul akibat proses pelatihan model AI mereka. Menurut OpenAI, perilaku ini mulai terlihat sejak model GPT-5.1, terutama saat menggunakan opsi kepribadian "Nerdy".
Masalah ini dilaporkan semakin memburuk pada model-model AI berikutnya. OpenAI menjelaskan bahwa model-model tersebut secara tidak sadar mengembangkan asosiasi negatif terhadap makhluk-makhluk tersebut, sehingga menghindari pembahasannya dalam percakapan.
Perusahaan juga menekankan bahwa mereka sedang melakukan investigasi lebih lanjut untuk memahami akar permasalahan ini. OpenAI berkomitmen untuk meningkatkan transparansi dan akurasi model AI mereka agar tidak menimbulkan kesalahpahaman di masa depan.
Artikel terkait
YouTube Perluas Deteksi Deepfake AI untuk Semua Pengguna Dewasa
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Kasus Pelanggaran Hak Cipta Anthropic Terus Berlarut: Hakim Tunda Persetujuan $1,5 Miliar
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv Larang Peneliti Unggah Makalah Penuh 'AI Slop'
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
ArXiv Larang Konten AI yang Menyesatkan, Pelanggar Dikenai Sanksi Satu Tahun
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI Umumkan Reorganisasi Kembali, Fokus pada AI Agent
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
OpenAI Ancam Gugat Apple karena Integrasi ChatGPT yang Buruk
OpenAI is reportedly exploring legal options after Apple's ChatGPT integration into its products didn't live up to the AI firm's expectations. When th...
AI Penyiar Radio Gagal Bertahan Tanpa Campur Tangan Manusia
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google Perbarui Aturan Spam untuk Cegah Manipulasi AI dalam Hasil Pencarian
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...