Los agentes de IA exponen fallos de seguridad en la verificación de identidad tradicional

La infraestructura de confianza digital basada en contraseñas y autenticación de doble factor fue diseñada para verificar la identidad del usuario, pero el rápido despliegue de agentes de IA autónomos está exponiendo vacíos críticos de seguridad. Según el proveedor de servicios de identidad Digidentity, los sistemas de verificación actuales confirman si las credenciales son válidas, pero no logran determinar quién autorizó a un agente de IA a actuar ni qué límites específicos aplican a su tarea.

Más allá de las comprobaciones de identidad tradicionales

Las arquitecturas de seguridad modernas distinguen entre autenticación, identidad y autoridad. Los controles informáticos actuales abordan eficazmente la autenticación y la identidad al validar las credenciales del usuario y los documentos oficiales. Sin embargo, a medida que los agentes de IA gestionan cada vez más transacciones financieras y flujos de trabajo administrativos, verificar solo la identidad no demuestra si un agente tiene permiso para realizar una acción específica. Aunque sectores como los servicios financieros y la atención médica añaden la elegibilidad basada en roles a las comprobaciones de identidad, el auge de los delegados de software hace necesaria la verificación explícita de la autoridad en todas las aplicaciones empresariales.

Mitigar el riesgo del acceso amplio

Conceder a los agentes de IA permisos amplios o permanentes simplifica la configuración, pero expone a las organizaciones a graves riesgos de seguridad. Si un agente con privilegios amplios se desconfigura o se ve comprometido, puede realizar acciones no autorizadas, como aprobar pagos indebidos. Digidentity aboga por aplicar el principio de la autoridad mínima necesaria, donde un agente recibe únicamente un mandato acotado y específico para la tarea, en lugar de una copia completa de los permisos del usuario. Bajo este modelo, las organizaciones evalúan cinco criterios fundamentales antes de que un agente actúe: qué entidad está actuando, quién otorgó la autorización, qué acciones están permitidas, qué límites operativos existen y si la autoridad concedida sigue activa.

Adaptar los marcos regulatorios para delegados de software

Las estructuras regulatorias existentes, como la Ley de Datos (Uso y Acceso) del Reino Unido y el Marco de Confianza de los Servicios de Verificación Digital (DVS), proporcionan un respaldo legal para la identidad digital y la delegación humana. Sin embargo, estas directrices aún no especifican cómo debe funcionar la autoridad delegada cuando el destinatario es un software autónomo. Los estándares del sector, como la delegación en nombre de terceros («on-behalf-of»), ofrecen una base para crear mandatos verificables por máquinas, los cuales podrían almacenarse y revocarse dentro de monederos digitales. Actualizar las normas técnicas y regulatorias para incluir a los delegados de software será esencial para mantener los mecanismos de control alineados con los despliegues automatizados.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: Who's really behind the login? AI agents are forcing a rethink