Amazon Bedrock traz recuperação baseada em agentes para aplicações RAG no LangChain

A Amazon Web Services detalhou recursos de recuperação agêntica nas Bases de Conhecimento gerenciadas do Amazon Bedrock, permitindo que aplicações de Geração Aumentada por Recuperação (RAG) construídas com LangChain executem planejamento de consultas em múltiplas etapas. Disponibilizada por meio do pacote langchain-aws, a funcionalidade substitui as buscas padrão por similaridade de vetor único por um ciclo iterativo que decompõe perguntas complexas em subconsultas direcionadas.

Recuperação em múltiplas etapas substitui busca de vetor único

Ao lidar com perguntas comparativas ou de várias partes — como avaliar múltiplos produtos em diferentes características —, a recuperação tradicional de etapa única depende de apenas um vetor de embedding para representar a consulta. Segundo a AWS, essa abordagem de vetor único frequentemente retorna trechos tematicamente relevantes, mas perde intenções essenciais presentes em prompts complexos.

A API AgenticRetrieveStream resolve essa limitação executando um modelo interno de planejamento. O sistema realiza recuperações especulativas, divide a consulta do usuário em subconsultas distintas, avalia se o contexto recuperado oferece evidências suficientes e aciona ciclos de busca adicionais caso permaneçam lacunas. Se trechos específicos de contexto forem insuficientes, o planejador pode invocar chamadas de expansão de documentos completos para recuperar os arquivos de origem na íntegra.

Ganhos em testes de desempenho com conjuntos de dados complexos

A AWS avaliou o mecanismo de recuperação agêntica no teste de desempenho público multi-hop MuSiQue, relatando uma melhora no recall de recuperação em comparação com as buscas de etapa única. Os maiores ganhos ocorreram em perguntas multi-hop complexas que exigiam coleta de contexto em várias etapas, enquanto consultas simples de etapa única mostraram aumentos de recall inferiores a cinco pontos.

Além do planejamento de consultas em várias etapas, a recuperação agêntica permite que as aplicações consultem até cinco bases de conhecimento distintas em uma única requisição. O modelo de planejamento direciona subconsultas individuais para repositórios específicos com base nas descrições em linguagem natural atribuídas a cada base de conhecimento.

Compromissos em latência, custo e comportamento de API

Apesar dos ganhos de recall, a recuperação agêntica acarreta maior latência e custos financeiros mais elevados devido às múltiplas chamadas a modelos de fundação durante a execução. O processo depende de um limite de iterações controlado pelo parâmetro maxAgentIteration, que varia de dois a dez e tem valor padrão igual a cinco. Configurações abaixo de quatro impedem a decomposição da consulta, resultando em um comportamento de busca de etapa única, mas cobrado nas faixas de preço agênticas.

Desenvolvedores que estão migrando da recuperação padrão precisam se adaptar a diferenças estruturais na API. Ao contrário da API Retrieve padrão, os resultados da recuperação agêntica não incluem campos tipados de pontuação de relevância nos metadados de saída. Além disso, a aplicação de proteções (guardrails) na recuperação agêntica está restrita ao modo BLOCK por meio de configurações de política específicas, enquanto a recuperação padrão oferece opções de integração mais amplas.

Ilustração editorial gerada por IA; não é uma fotografia documental.

Fonte: Agentic retrieval with LangChain and Amazon Bedrock Knowledge Bases