El sector financiero afronta nuevos retos de gobernanza ante el despliegue de agentes de IA autónomos

Las instituciones de servicios financieros están evolucionando desde modelos de IA conversacionales hacia sistemas basados en agentes capaces de ejecutar tareas operativas de múltiples pasos, lo que plantea nuevos desafíos de gobernanza en el sector. De acuerdo con diversos análisis de la industria, esta transición traslada el riesgo regulatorio desde los errores directos en las respuestas del modelo hacia flujos de trabajo operativos automatizados e inexplicables en áreas clave como la investigación de fraudes, la tramitación de reclamaciones y el soporte de cumplimiento normativo.

La brecha de control en los flujos de trabajo basados en agentes

La supervisión tradicional de la IA se ha enfocado en la explicabilidad del modelo; sin embargo, los sistemas basados en agentes operan seleccionando herramientas, consultando datos en múltiples plataformas de software y ejecutando acciones posteriores de forma independiente. Según cifras procedentes de ejecutivos de servicios financieros del Reino Unido, aunque el 48 % afirma utilizar IA basada en agentes en sus organizaciones, más de una cuarta parte opera con controles específicos limitados o nulos para garantizar el cumplimiento normativo.

Sin la orquestación operativa adecuada, los agentes autónomos pueden distribuir la toma de decisiones entre sistemas fragmentados sin dejar un registro claro de responsabilidad. Como consecuencia, una sola alucinación o error de procesamiento puede derivar rápidamente en restricciones de cuenta no autorizadas, comunicaciones automatizadas con clientes o informes regulatorios inexactos antes de que los operadores humanos detecten el fallo.

Limitaciones de la supervisión humana básica

Los marcos regulatorios, tales como las directrices de resiliencia operativa de la Autoridad de Conducta Financiera del Reino Unido (FCA) y las advertencias del Comité del Tesoro sobre regulación, destacan la necesidad de mantener una visibilidad operativa completa. Situar a un supervisor humano en un punto de aprobación a menudo resulta insuficiente para ejercer un control efectivo si el revisor carece de acceso al historial completo de fuentes de datos, pasos intermedios e interacciones entre sistemas utilizados por el agente de IA.

Una gobernanza eficaz requiere establecer trazabilidades de auditoría contextuales que registren qué herramientas utilizó el agente, qué reglas se aplicaron y en qué momento intervino un ser humano. Garantizar una autonomía delimitada —respaldada por permisos granulares y un seguimiento entre sistemas— asegura que decisiones de gran impacto, como rechazar reclamaciones o congelar cuentas, sigan siendo rastreables y reversibles.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: Financial Services’ next AI risk is the workflow nobody can explain