Anthropic advierte de los primeros indicios de una 'explosión de inteligencia' en la IA

Los primeros pasos hacia la automejora de la IA

Anthropic, el laboratorio de inteligencia artificial que ha centrado su labor en advertir sobre los riesgos asociados a esta tecnología, ha identificado los primeros indicios de que los sistemas de IA no solo son capaces de desarrollar sus propios productos, sino también de construir versiones mejoradas de sí mismos. Este fenómeno, conocido como automejora recursiva, podría acelerar exponencialmente el avance de la inteligencia artificial.

Una predicción con implicaciones globales

Según Jack Clark, cofundador de Anthropic y director del Anthropic Institute, existe más de un 60% de probabilidades de que, para finales de 2028, exista un modelo de IA capaz de entrenar a su sucesor de forma completamente autónoma. Durante una entrevista en la sede de la compañía en San Francisco, Clark explicó:

«Lo que estoy observando es una tendencia tecnológica en la que, si acaso, la velocidad se acelerará aún más».

Clark detalló que, hasta ahora, los avances en IA dependían de que los humanos propusieran mejoras externas al sistema. Sin embargo, si la tecnología logra generar ideas internas para optimizarse a sí misma, estaríamos ante un escenario sin precedentes.

El riesgo de una 'explosión de inteligencia'

En un documento de cinco páginas publicado por Anthropic, se advierte sobre la posibilidad de una explosión de inteligencia —un concepto teórico que hasta ahora solo se debatía en círculos especializados en seguridad de IA. Según Clark, este fenómeno se produciría cuando los sistemas de IA comenzaran a mejorar a un ritmo vertiginoso, lo que podría desencadenar tanto avances científicos sin precedentes como graves amenazas:

• Riesgos: Ciberataques masivos, ataques biológicos o fallos en infraestructuras críticas.
• Oportunidades: Avances acelerados en medicina, ciencia de materiales y otras áreas del conocimiento.

Clark planteó un desafío clave: ¿Cómo gestionar un crecimiento exponencial en múltiples campos científicos? Por ejemplo, en el desarrollo de fármacos, los sistemas actuales tienen limitaciones en la capacidad de procesamiento. Si la IA logra superar estas barreras, ¿están preparadas las instituciones actuales para absorber y aplicar este conocimiento?

El nuevo enfoque de Anthropic: investigación y alerta temprana

El Anthropic Institute actúa como un brazo de investigación y un sistema de alerta temprana, trabajando en colaboración con el Long-Term Benefit Trust de Anthropic. Su agenda de investigación se centra en cuatro áreas principales:

• Difusión económica: Impacto en el empleo, la productividad y la distribución de los beneficios.
• Amenazas y resiliencia: Riesgos cibernéticos, biológicos y de vigilancia.
• Sistemas de IA en el mundo real: Agentes autónomos y marcos de gobernanza.
• Investigación y desarrollo impulsados por IA: El desafío de la automejora recursiva.

Como parte de su compromiso con la transparencia, Anthropic se ha comprometido a publicar información detallada sobre cómo sus propias herramientas de IA han acelerado su trabajo interno, así como un análisis de las implicaciones de una posible automejora recursiva en los sistemas de inteligencia artificial.

¿El futuro de las empresas de IA?

Ante la posibilidad de que la IA se desarrolle a sí misma, surge una pregunta fundamental: ¿serán necesarias las empresas de IA en el futuro? Clark respondió:

«Nosotros y otras empresas vamos a tomar esta tecnología y tratar de aplicarla para hacer el bien en el mundo. Ayudar a avanzar en áreas como la biología, la medicina o la ciencia de materiales».

Aunque el escenario de una IA que se mejora a sí misma plantea desafíos éticos y de seguridad, Anthropic subraya que su objetivo sigue siendo el mismo: utilizar la IA para resolver problemas globales, siempre bajo un marco de responsabilidad y control.