Agentes de IA expõem falhas de segurança na verificação de identidade tradicional

A infraestrutura de confiança digital criada em torno de senhas e autenticação multifator foi projetada para confirmar a identidade dos usuários, mas a rápida implantação de agentes de IA autônomos está evidenciando lacunas críticas de segurança. Segundo a provedora de serviços de identidade Digidentity, os sistemas de verificação atuais conseguem validar se as credenciais são legítimas, mas falham em determinar quem autorizou um agente de IA a agir ou quais limites específicos se aplicam à sua tarefa.

Além das verificações tradicionais de identidade

As arquiteturas de segurança modernas estabelecem distinções claras entre autenticação, identidade e autoridade. Os controles de TI atuais gerenciam com eficácia a autenticação e a identidade ao validar credenciais de usuários e documentos oficiais. No entanto, à medida que agentes de IA passam a intermediar transações financeiras e fluxos administrativos, verificar apenas a identidade não comprova se o agente possui permissão para executar uma ação específica. Embora setores como serviços financeiros e saúde adicionem camadas de elegibilidade baseadas em funções sobre as checagens de identidade, o avanço de delegados de software torna indispensável a verificação explícita de autoridade em todos os aplicativos corporativos.

Mitigando o risco de acessos amplos

Conceder permissões amplas ou permanentes a agentes de IA simplifica a configuração inicial, mas expõe as organizações a graves riscos de segurança. Se um agente com privilégios extensos for configurado incorretamente ou comprometido, ele poderá realizar ações não autorizadas, como aprovar pagamentos indevidos. A Digidentity defende a aplicação do princípio da autoridade mínima necessária, no qual o agente recebe apenas um mandato restrito e específico para a tarefa, em vez de uma cópia integral das permissões do usuário. Sob esse modelo, as empresas devem avaliar cinco critérios essenciais antes que o agente atue: qual entidade está agindo, quem concedeu a autorização, quais ações são permitidas, quais são os limites operacionais e se a autoridade concedida permanece ativa.

Adaptando estruturas para delegados de software

Estruturas regulatórias existentes, como a Lei de Dados (Uso e Acesso) do Reino Unido e o Framework de Confiança dos Serviços de Verificação Digital (DVS), oferecem respaldo jurídico para a identidade digital e a delegação humana. Contudo, essas diretrizes ainda não detalham como a autoridade delegada deve funcionar quando o destinatário é um software autônomo. Padrões da indústria, como a delegação em nome de outro ("on-behalf-of"), servem como base para criar mandatos verificáveis por máquina, que poderiam ser armazenados e revogados em carteiras digitais. A atualização dos padrões técnicos e regulatórios para incluir delegados de software será fundamental para manter os mecanismos de controle alinhados às implantações automatizadas.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: Who's really behind the login? AI agents are forcing a rethink