Red Hat leva a segurança de agentes de IA além das proteções do modelo

A Red Hat defende uma arquitetura de segurança baseada em sistemas para agentes de IA empresariais. Segundo a empresa, as proteções do modelo não podem ser a principal barreira quando um software é capaz de acionar ferramentas, acessar credenciais e atuar em sistemas corporativos. Em uma publicação de 28 de setembro, a companhia apresentou controles independentes destinados a restringir um agente mesmo quando suas instruções, dependências ou comportamento falham.

A autoridade precisa de limites externos

A abordagem proposta trata o agente de IA como uma carga de trabalho poderosa, que pode se comportar de maneira inesperada ou ser comprometida. Identidade e autorização determinam quais recursos ele pode acessar, enquanto restrições de ferramentas, sandboxing, isolamento de cargas de trabalho e políticas de rede limitam suas ações e comunicações. Observabilidade e AgentOps fornecem registros do uso de ferramentas, das atividades e dos resultados produzidos.

Aplicação de controles em toda a pilha

A Red Hat afirma que esses mecanismos devem operar em várias camadas independentes, incluindo modelo e aplicação, runtime do agente, sistema operacional, rede e infraestrutura. Sua arquitetura reúne Red Hat OpenShift AI, Red Hat OpenShift, Red Hat Enterprise Linux e Red Hat AI Inference, além de tecnologias de computação, rede e IA da NVIDIA no Red Hat AI Factory with NVIDIA.

A empresa não considera que um controle isolado de plataforma seja suficiente para proteger um agente. O princípio central do projeto é a defesa em profundidade: a aplicação das restrições deve continuar eficaz sem depender da capacidade do agente de reconhecê-las ou obedecê-las.

Políticas precisam se tornar controles testáveis

A Red Hat também aponta uma lacuna entre as políticas de governança das organizações e as regras técnicas que podem ser efetivamente aplicadas. A comunidade de código aberto asago, fundada pela Red Hat com a NVIDIA e outros colaboradores da indústria e da pesquisa, investiga formas de converter políticas em riscos identificados, cenários de teste e controles, com um caminho auditável até a implementação. A arquitetura ainda está evoluindo, e a publicação cita runtimes de agentes como o OpenShell como um possível ponto de aplicação desses controles.

Limites deslocados para fora do host

A Open Agent Safety Platform da NVIDIA acrescenta outra possível barreira. O OpenShell oferece mecanismos de sandboxing e políticas, enquanto as unidades de processamento de dados NVIDIA BlueField podem executar determinadas funções de rede, segurança, políticas ou supervisão em um ambiente isolado por hardware e separado das aplicações no host. A Red Hat apresenta essa separação como um complemento aos controles de identidade, runtime, sistema operacional e plataforma, e não como uma solução completa para a segurança de agentes.

O mesmo raciocínio em camadas se estende abaixo dos controles de runtime. Segundo a Red Hat, vulnerabilidades em frameworks, serviços e dependências de código aberto afetam a segurança das aplicações agênticas. Sua iniciativa Lightwell com a IBM se concentra em medidas para a cadeia de suprimentos de software, incluindo correções validadas, artefatos assinados e procedência do software.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: Securing AI agents requires securing the systems around them