Quando fine-tune vs RAG vs prompt engineering
Ao terminar: Você escolhe entre prompt, RAG e fine-tuning pelo tipo de problema — comportamento, conhecimento ou formato — em vez de ir direto pra opção mais cara.
A pergunta que decide, e ela não é sobre tecnologia
Prompt, recuperação e ajuste fino não competem — eles resolvem problemas diferentes. A confusão nasce de tratá-los como três níveis de sofisticação, como se ajuste fino fosse a versão avançada de um prompt bem escrito. Não é.
A pergunta que separa os três é: o que está faltando ao modelo? Se falta instrução, é prompt. Se falta informação, é recuperação. Se falta formato ou comportamento consistente, é ajuste fino. São três carências distintas, e usar a ferramenta errada é caro de duas maneiras — gasta dinheiro e não resolve.
| O que falta | Ferramenta | Por quê |
|---|---|---|
| Instrução clara sobre a tarefa | Prompt | O modelo sabe fazer, só não entendeu o que você quer. Iteração de minutos, custo zero |
| Fato que o modelo não tem, ou que muda | Recuperação | Política revisada mensalmente, catálogo de produto, documento interno. Ajuste fino congelaria o fato no momento do treino |
| Formato ou tom consistente, sempre | Ajuste fino | Ensinar forma exige exemplos, e muitos. É o único caso em que treinar ganha de instruir |
| Jargão de domínio que o modelo interpreta mal | Ajuste fino + recuperação | O ajuste ensina o vocabulário; a recuperação traz o conteúdo atual. Nenhum dos dois resolve sozinho |
Por que ajuste fino não é para fato
É o erro mais caro e o mais comum. Treinar o modelo com a documentação da empresa parece resolver "ele não conhece nossos produtos" — e resolve, no dia do treino.
- O fato fica congelado. Quando o produto muda, é preciso treinar de novo — e cada rodada custa dinheiro e tempo, contra uma reindexação de minutos.
- Não há citação. O modelo passa a afirmar coisas sem poder apontar a fonte, e num domínio regulado isso inviabiliza o uso.
- Não há como remover. Descobriu que um documento estava errado? Com recuperação, você apaga o trecho. Com ajuste fino, o erro está diluído nos pesos.
- A confusão é pior que a ausência. Modelo treinado em dois documentos contraditórios mistura os dois numa resposta plausível, em vez de admitir a divergência.
A regra prática que resolve 90% dos casos
Se a informação pode mudar, ela não vai para os pesos. "Muda toda semana" elimina ajuste fino imediatamente — e essa única frase basta para descartar a alternativa errada em boa parte das provas de certificação e das reuniões de arquitetura.
Qual é a ordem correta de tentativa ao adaptar um modelo a um caso de uso?
Combinar é a norma, não a exceção
Sistemas sérios costumam usar os três ao mesmo tempo, cada um no seu papel. Um assistente de atendimento típico:
📋 Por onde começar num projeto novo
Iteração de minutos, custo próximo de zero, e serve de linha de base. Sem essa referência medida, não há como saber se recuperação ou ajuste fino melhoraram algo. Boa parte dos projetos que "precisavam de ajuste fino" descobre que precisava de um prompt melhor e de bons exemplos.
Alt: Recuperação de saída — Vale quando o problema é claramente de informação ausente — aí é o segundo degrau, não o primeiro
Alt: Ajuste fino de saída — É o degrau mais caro: exige conjunto curado, treino, avaliação e manutenção. Só depois de a linha de base provar que o limite é de forma, não de instrução
O sinal de que chegou a hora do ajuste fino
Você tem um prompt longo, cheio de exemplos, que funciona — e o custo por chamada incomoda, ou a consistência ainda oscila. Aí o ajuste fino move para os pesos aquilo que você vinha reenviando a cada requisição, e a conta fecha.
Perguntas frequentes
❓ Prompt, RAG ou ajuste fino: como decidir?
❓ Quando NÃO fazer ajuste fino?
❓ Dá para combinar os três?
Fixando
Que sinal indica que prompt não resolverá e é hora de subir um degrau?
E que sinal indica que recuperação não basta e o ajuste fino se justifica?
Terminou de ler?
Marcar como concluído registra o XP, mantém sua sequência e coloca 3 cartas deste módulo na fila de revisão espaçada.
Próximos passos sugeridos
Temas deste módulo
Discussão
Carregando comentários…