Setor financeiro enfrenta novo desafio de governança com a ação autônoma de agentes de IA

As instituições de serviços financeiros estão migrando de modelos de IA conversacionais para sistemas agênticos capazes de executar tarefas operacionais em múltiplas etapas, criando novos desafios de governança no setor. De acordo com análises do setor, essa transição transfere o risco regulatório de simples erros na resposta do modelo para fluxos de trabalho operacionais automatizados e difíceis de explicar em funções centrais, como investigação de fraudes, processamento de sinistros e suporte à conformidade.

A lacuna de governança nos fluxos agênticos

A supervisão tradicional de IA foca na explicabilidade do modelo, mas os sistemas agênticos operam selecionando ferramentas, resgatando dados em várias plataformas de software e executando ações subsequentes de forma independente. Dados de executivos de serviços financeiros do Reino Unido revelam que, embora 48% relatem o uso de IA agêntica em suas organizações, mais de um quarto opera com controles específicos limitados ou inexistentes para garantir a conformidade regulatória.

Sem uma orquestração operacional adequada, agentes autônomos podem pulverizar a tomada de decisões em sistemas fragmentados sem deixar um rastro claro de responsabilidade. Consequentemente, uma única alucinação ou erro de processamento pode se espalhar rapidamente, gerando restrições não autorizadas de contas, comunicações automatizadas com clientes ou relatórios regulatórios incorretos antes que operadores humanos identifiquem a falha.

Limites das salvaguardas básicas de participação humana

Estruturas regulatórias, como as diretrizes de resiliência operacional da Autoridade de Conduta Financeira do Reino Unido (FCA) e os alertas do Comitê do Tesouro sobre regulamentação, destacam a necessidade de visibilidade operacional. Posicionar um supervisor humano em um ponto de aprovação frequentemente falha em fornecer uma supervisão efetiva se o revisor não tiver acesso ao histórico completo das fontes de dados, etapas intermediárias e interações entre sistemas utilizadas pelo agente de IA.

Uma governança eficaz exige o estabelecimento de trilhas de auditoria contextuais que rastreiem quais ferramentas o agente acessou, quais regras foram aplicadas e onde ocorreu intervenção humana. O estabelecimento de uma autonomia delimitada — apoiada por permissões granulares e rastreamento entre sistemas — garante que decisões de alto impacto, como a recusa de sinistros ou o bloqueio de contas, permaneçam rastreáveis e reversíveis.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: Financial Services’ next AI risk is the workflow nobody can explain