La empresa Anthropic, conocida por su enfoque en la seguridad de la inteligencia artificial, enfrenta un revés tras admitir que su modelo Claude Mythos —cuya capacidad en ciberseguridad se consideraba demasiado peligrosa para liberar públicamente— fue accesible para un grupo no autorizado incluso antes de su lanzamiento oficial.
Según información de Bloomberg, un «pequeño grupo de usuarios no autorizados» tuvo acceso al sistema desde el mismo día en que Anthropic anunció planes para ofrecer Mythos a un grupo selecto de empresas con fines de prueba. La compañía ha confirmado que está investigando el incidente, lo que pone en duda su capacidad para garantizar la confidencialidad de sus desarrollos más sensibles.
Este suceso contrasta con la imagen pública de Anthropic, que ha construido su reputación precisamente en torno a la seguridad y el control estricto de sus modelos de IA. La filtración se produce tras la revelación inicial de Mythos a través de una fuga de información, lo que añade mayor gravedad al fallo en sus protocolos de protección.
El incidente ha generado escepticismo sobre la efectividad de los mecanismos de seguridad de Anthropic, especialmente cuando el modelo se promocionaba como una herramienta demasiado poderosa para ser liberada masivamente. Ahora, la empresa deberá demostrar cómo logró que un sistema tan «peligroso» cayera en manos equivocadas antes incluso de su despliegue controlado.
Artículos relacionados
YouTube activa detección de deepfakes con IA para todos los usuarios mayores de edad
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Juez frena acuerdo millonario de Anthropic por disputas sobre derechos de autor
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv prohibirá a investigadores que publiquen artículos con contenido generado por IA sin revisión
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv prohíbe envíos con 'alucinaciones' generadas por IA y endurece sus normas
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI reorganiza su equipo directivo para liderar la batalla de los agentes de IA
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
Experimentos con DJs de IA revelan riesgos de la autonomía total en medios
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google actualiza sus normas contra el spam e incluye intentos de manipular su IA en los resultados
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...
Podcast de Engadget: ¿Qué necesita Google Books cuando ya existe Android 17?
We also dive into all the new features in Android 17.