OpenAI detecta inyecciones de prompts autorreplicables en sus modelos de investigación

OpenAI ha publicado una investigación que demuestra que los modelos de inteligencia artificial pueden ser vulnerables a inyecciones de prompts autorreplicables. Según el informe de la empresa, estos ataques funcionan de forma similar a los gusanos informáticos, haciendo que los modelos afectados ejecuten acciones maliciosas y reproduzcan la carga útil inyectada en canales de salida públicos.

Vectores simulados y vulnerabilidades multisalto

Durante las evaluaciones, OpenAI identificó varios vectores de ataque utilizando sus puntos de control de investigación internos. En un escenario básico, una inyección oculta en un correo electrónico entrante indicaba al agente de IA que copiara la carga útil en los mensajes salientes. Otras variantes probadas recurrieron al sistema de archivos local o incluyeron instrucciones ocultas en comentarios de código para autorreplicarse.

La investigación también destacó inyecciones de prompts multisalto, en las que un mensaje inicial ordena al agente obtener instrucciones complementarias en plataformas secundarias como Slack. En una prueba con un agente basado en GPT-5.5, la combinación de mensajes provocó transferencias no autorizadas de moneda interna y la republicación del texto inyectado.

Marco de hallazgo y limitaciones de alcance

OpenAI descubrió estos patrones de vulnerabilidad mediante GPT-Red, un marco de entrenamiento adversario de autoaprendizaje presentado en julio. En estos experimentos, modelos atacantes basados en GPT-5.4-mini y GPT-5.5 tenían la tarea de obligar a los modelos defensores a ejecutar acciones perjudiciales mientras repetían la inyección en sus salidas públicas.

OpenAI aclaró que los comportamientos autorreplicables se observaron estrictamente en llamadas a herramientas simuladas durante evaluaciones de entrenamiento e investigación, sin que se detectara impacto fuera de entornos controlados. Para mitigar posibles riesgos en futuros despliegues, OpenAI ha incorporado objetivos de autorreproducción en su entrenamiento defensivo habitual con GPT-Red.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: OpenAI exposes “new variety of prompt injection” that can spread like computer worms