Arquiteturas de referência e cases reais

Quase toda arquitetura de GenAI na AWS é uma recombinação de cinco padrões. O Bedrock nunca aparece sozinho: ele é o núcleo de inferência cercado por Lambda, API Gateway, filas, storage e bancos vetoriais. Reconhecer qual padrão o seu problema pede é metade do trabalho de arquitetura — a outra metade é ligar os serviços certos em volta.

O coração é a API RetrieveAndGenerate do bedrock-agent-runtime: numa única chamada ela busca os trechos na Knowledge Base (respaldada por um OpenSearch Serverless vetorial) e manda o modelo gerar a resposta já com as citações de origem. O Guardrail entra no meio, avaliando entrada e saída — bloqueia PII, tópicos proibidos e resposta sem fonte. O histórico vai para o DynamoDB, chaveado por sessão. Repare que há dois tempos: o fluxo online (acima) e a ingestão offline, que roda separada — S3 recebe os documentos, um sync da Knowledge Base os fragmenta, gera embeddings e grava no OpenSearch. É o padrão do DoorDash e da Adobe. Tudo serverless: escala a zero, você paga por request.

Aqui o gatilho é um arquivo, não um humano. O S3 emite o evento de upload, o EventBridge (ou uma fila SQS na frente) desacopla produção de consumo e te dá retry com backoff e dead-letter queue de graça. A Lambda escolhe a arma: para documentos padronizados em volume, o Bedrock Data Automation entrega extração pronta; para casos sob medida, a Converse com um bloco document e um prompt que exige JSON contra um schema dá controle total. O resultado estruturado cai no DynamoDB. É o padrão por trás do IDP do BDM/LOUIS e do processamento de documentos da Amazon Pharmacy. A fila é o que segura pico: 10.000 uploads às 9h não derrubam nada, drenam no ritmo da quota.

Use este padrão quando a resposta certa depende de um dado que o modelo não pode inventar: saldo de conta, status de pedido, estoque agora. O agent recebe o objetivo, decide que precisa de um fato determinístico e chama um action group — na prática, uma Lambda que consulta uma API interna ou um banco e devolve o valor real. O modelo (Claude ou Nova) faz o raciocínio e o encadeamento; a Lambda faz a parte que não pode errar. O AgentCore é o runtime que leva isso para produção com memória, identidade e observabilidade. A regra de ouro: LLM para linguagem e decisão, action group para verdade e ação. É como a Thomson Reuters montou platform engineering agêntico.

Quando não há usuário esperando — enriquecer um catálogo, classificar milhões de tickets, gerar embeddings de um data lake — batch é a resposta certa e cerca de 50% mais barato que on-demand. O CreateModelInvocationJob recebe um JSONL no S3 e devolve outro JSONL; a Step Functions orquestra, com um Map state paralelizando lotes dentro dos limites de quota, e o DynamoDB funciona como inventário: cada job com seu status, para você retomar de onde parou sem reprocessar o que já terminou. Trocar batch por on-demand aqui é queimar metade do orçamento à toa — e trocar on-demand por batch num chatbot é servir resposta com horas de atraso. Casar carga e modo de cobrança é decisão de arquitetura, não detalhe.

O efeito de digitação ao vivo não é enfeite: sem ele, o usuário encara segundos de tela parada. A API única que resolve isso para qualquer modelo é a ConverseStream — ela padroniza o streaming independentemente do provedor, então você não reescreve nada ao trocar Claude por Nova. O canal até o browser tem duas opções. API Gateway WebSocket dá controle fino: a Lambda itera o stream e faz post_to_connection a cada chunk, mas você gerencia conexões, timeouts e toda a plumbing. AppSync Events entrega o mesmo pub/sub com muito menos código de infraestrutura. Se você já vive no ecossistema AppSync/Amplify, é o caminho mais curto; se precisa de controle total do socket, WebSocket puro.

Nenhum dos cinco padrões usa o Bedrock sozinho. Vale fixar o mapa mental de quem orbita o núcleo de inferência e para quê — porque escolher o serviço errado na borda costuma custar mais caro que escolher o modelo errado.

Padrão sem prova social é slide. Estas são empresas que rodam Bedrock em produção — com número quando há fonte pública. Repare quantas são brasileiras: não é mercado emergente de IA, é produção real.

Estes são os erros que aparecem em toda revisão de arquitetura de GenAI em produção. Nenhum é exótico — são o feijão com arroz que todo mundo pula na pressa de lançar.

1. Não usar prompt caching. É o desperdício de custo número 1: system prompts e contexto de RAG que se repetem a cada chamada podem ser cacheados e sair muito mais baratos. Ligar isso costuma ser a maior economia de uma linha que existe.
2. Ignorar quotas até o dia do launch. Throttling no Bedrock é por conta e por região — peça aumento no Service Quotas cedo e faça teste de carga antes, não depois do incidente.
3. Sem retry com backoff exponencial e jitter. ThrottlingException e erros transitórios são normais; sem retry decente, um pico vira erro na cara do usuário.
4. Deixar o Cross-Region Inference desligado. É grátis, melhora throughput e resiliência — não ligar é abrir mão de capacidade de graça.
5. Model lock-in mental. Acoplar o código a um provedor específico em vez de abstrair pela Converse, e depois pagar caro para trocar quando sai um modelo melhor.
6. Observabilidade fraca. Se você não loga tokens de entrada e saída, custo, latência, modelo e versão do prompt desde o dia 1, está voando às cegas quando a conta ou a latência sobe.
7. Crescimento silencioso do prompt. Histórico de conversa e trechos de RAG incham o contexto sem ninguém notar — a conta sobe token a token até alguém investigar.
8. Confiar cegamente na Knowledge Base gerenciada ao escalar. Ela resolve o começo; em escala, avalie retrieval custom (chunking, reranking, filtros) antes que a qualidade da resposta caia.
9. Errar batch vs on-demand. Carga offline deve usar batch (cerca de 50% mais barato); usar on-demand para isso é queimar metade do orçamento — e o inverso serve resposta atrasada.
10. Pular Guardrails e avaliação. Colocar em produção sem filtro de entrada/saída e sem medir qualidade é terceirizar o QA para o usuário final.
11. Não usar human-in-the-loop onde ele importa. Em financeiro e saúde, o modelo sugere e a pessoa decide — foi assim que o C6 Bank colocou GenAI no atendimento sem terceirizar a responsabilidade.