El dilema de Mythos: ¿Seguridad o amenaza?
Anthropic ha decidido no lanzar al público Mythos, su modelo de IA más avanzado, tras descubrir miles de vulnerabilidades de software desconocidas hasta ahora. Estos fallos, presentes en sistemas operativos y navegadores durante casi tres décadas, podrían haber sido explotados por ciberdelincuentes. La razón de la compañía es clara: las mismas capacidades que permiten a Mythos identificar y corregir fallos de seguridad podrían usarse para atacarlos.
Un solo agente de IA, advierte Anthropic, puede escanear debilidades a una velocidad y persistencia imposibles para equipos humanos. Este anuncio revela una verdad incómoda: los sistemas que las empresas despliegan como asistentes autónomos —gestionando citas, escribiendo código o automatizando flujos de trabajo— también son herramientas poderosas para sondear defensas digitales.
La paradoja de la identidad digital
Imaginemos un edificio donde todas las puertas tienen cerraduras diseñadas para manos humanas. Ahora, ese espacio está lleno de robots: algunos son mensajeros autorizados, otros intrusos. El problema es que las cerraduras no pueden distinguir entre unos y otros. Así funciona hoy la seguridad digital.
Hace años, bastaba con apuntar una contraseña en un post-it y dejar el ordenador abierto mientras se tomaba un café. Los sistemas de seguridad posteriores —contraseñas, preguntas de seguridad, autenticación en dos pasos— se basaron en una premisa inquebrantable: al otro lado siempre había una persona.
Los agentes de IA rompen esa lógica desde dos frentes. Por un lado, necesitan credenciales para actuar como humanos. Por ejemplo:
- OpenAI Operator: Navega por internet en tu nombre.
- Google Gemini: Planifica vacaciones familiares mientras duermes.
- Visa Intelligence Commerce Connect: Realiza compras por ti.
Estos no son prototipos de laboratorio, sino productos reales que operan en nombre de usuarios. Para ello, requieren acceso a tu identidad. Por otro lado, los adversarios pueden fingir humanidad a escala. La misma IA que actúa como asistente útil puede convertirse en un impersonador malicioso. No irrumpen en los sistemas: se cuelan por la puerta principal, aprovechando credenciales compartidas, portales de contratación, herramientas de colaboración o sistemas de aprovisionamiento.
El error de tratar la identidad como un problema de contraseñas
La mayoría de las organizaciones aún abordan la identidad como un problema de inicio de sesión. Las soluciones suelen limitarse a:
- Contraseñas más complejas.
- Autenticación multifactor.
- Capas adicionales de verificación.
Sin embargo, el verdadero desafío ahora es saber quién —o qué— ya tiene acceso. La línea entre humanos y máquinas se desvanece justo cuando los sistemas digitales se vuelven más autónomos. Cuando esa distinción se diluye, las consecuencias son tangibles:
- Un flujo de aprovisionamiento no puede distinguir entre un gerente humano y un agente de IA impostor, lo que lleva a emitir órdenes de compra fraudulentas.
- Los registros de cumplimiento no pueden determinar cómo se generaron transacciones o decisiones críticas.
- Los sistemas de detección de intrusos, diseñados para identificar comportamientos anómalos de usuarios, ignoran actividades legítimas realizadas por agentes de IA.
El futuro de la seguridad: más allá de las credenciales
El modelo tradicional de seguridad, centrado en autenticar identidades humanas, está obsoleto. Las empresas deben adoptar enfoques que:
- Verifiquen la intención: No basta con saber quién accede, sino qué intenta hacer. ¿Es una compra autorizada o un intento de fraude?
- Monitoricen el contexto: Analizar patrones de comportamiento, ubicaciones o dispositivos asociados a cada acción.
- Implementen controles dinámicos: Restringir permisos en tiempo real según el riesgo detectado.
- Educen a los equipos: Capacitar a empleados y desarrolladores sobre los riesgos específicos de los agentes de IA.
La pregunta ya no es si los agentes de IA revolucionarán la productividad, sino cómo protegeremos la identidad en un mundo donde humanos y máquinas comparten el mismo espacio digital.
Artículos relacionados
ArXiv sanciona con un año de exclusión a autores que envíen trabajos generados por IA
ArXiv, the open-access repository of preprint academic research, will ban authors of papers for a year if they submit obviously AI-generated work. Lat...
Detrás del blog: Música nueva y un polémico informe sobre ICE
This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we dis...
Cisco corrige grave vulnerabilidad zero-day explotada por grupo de amenazas persistente
Attackers returned once again to a common target with a massive user base by exploiting a max-severity zero-day vulnerability affecting Cisco Catalyst...
La Clínica Mayo usa inteligencia artificial para grabar consultas en urgencias sin consentimiento explícito
Mayo Clinic, the massive U.S. hospital network, is using what it describes as “Ambient Listening” to record patient interactions with nurses, includin...
La IA avanzada redefine la guerra: el Pentágono advierte sobre su impacto revolucionario
Advanced artificial intelligence models will “fundamentally change warfare as we know it,” a top cyber official at the Defense Department said Thursda...
La identidad digital es clave: expertos advierten sobre su protección en la era de la IA
As AI becomes more integrated into federal IT (and attacker toolsets) government agencies will need to focus their resources on regulating and monitor...
Foxconn sufre ciberataque de grupo de ransomware Nitrogen: fábricas en Norteamérica afectadas
Foxconn, one of the world’s largest manufacturers of electronics sold by major tech vendors, is recovering from a cyberattack that disrupted some of t...
Una app de IA recopila 150.000 imágenes de heces humanas para vender su base de datos
A few weeks ago, I came across a wild post on Reddit’s r/DHExchange, a subreddit for trading large datasets: “I hoarded a large database of something...