Investigadores de IA y líderes de OpenAI y Anthropic advierten de una posible explosión de inteligencia

Un informe cofirmado por el premio Nobel Geoffrey Hinton y el informático Yoshua Bengio advierte de que la investigación automatizada en inteligencia artificial podría desencadenar una explosión de inteligencia y concentrar en meses, o incluso menos, avances técnicos que normalmente exigirían años. The Guardian informó sobre esta advertencia el 28 de septiembre de 2026.

El posible desencadenante

Los autores se centran en la mejora recursiva: sistemas de IA que utilizan sus capacidades para mejorar los sistemas que los suceden. Sostienen que la investigación y el desarrollo automatizados de IA son la vía más plausible hacia una aceleración de este tipo, porque las mejoras podrían desplegarse rápidamente una vez desarrolladas.

El documento tiene más de 20 autores, entre ellos Jack Clark, cofundador de Anthropic, y Jakub Pachocki, científico jefe de OpenAI. Su escenario central sigue siendo una posibilidad, no una previsión establecida. Los autores señalan que las ganancias actuales de productividad derivadas de la investigación asistida por IA todavía no han alcanzado el nivel necesario para iniciar una explosión de inteligencia, aunque los sistemas más recientes podrían estar acercándose.

Por qué preocupa a los autores

El informe afirma que unos sistemas capaces de realizar investigación de IA a nivel experto podrían dar a un solo desarrollador acceso a una fuerza de trabajo comparable a millones de investigadores humanos destacados. Esto podría acelerar el progreso científico y tecnológico, pero también reducir el papel de las personas a la hora de dirigir o limitar el desarrollo de la IA.

Entre los riesgos identificados figuran amenazas biológicas y cibernéticas que avancen más rápido que las medidas de respuesta, un control humano más débil sobre sistemas cada vez más capaces y la posibilidad de que los gobiernos conviertan una ventaja moderada en ámbitos como el ciberespacio en una superioridad decisiva. Los autores reconocen que las cadenas de suministro, la regulación y otras limitaciones prácticas podrían ralentizar los efectos, y que la IA también podría acelerar la reducción de riesgos.

Medidas de política propuestas

El informe reclama información transparente sobre los avances de la investigación y el desarrollo de IA, con auditores independientes integrados en las empresas. También propone limitar la velocidad a la que pueden mejorar los sistemas, establecer acuerdos con centros de datos para pausar determinados proyectos, aislar los sistemas de investigación automatizada y preparar planes de emergencia para posibles escenarios.

La evidencia de los sistemas actuales

Anthropic afirma que la IA produce el 80 % de su propio código, mientras que OpenAI utiliza agentes autónomos en tareas como el entrenamiento de nuevos modelos. Son declaraciones de las empresas recogidas por The Guardian, no mediciones independientes. El documento también sostiene que, para 2028, la IA podría automatizar proyectos de investigación que a los humanos les llevarían meses, aunque subraya que tanto el momento como las consecuencias de una eventual explosión de inteligencia siguen siendo inciertos.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: AI godfathers warn of runaway ‘intelligence explosion’