RAG vs fine-tuning para atendimento: qual abordagem escolher
Fine-tuning ajusta os pesos do modelo com exemplos. RAG mantém o modelo fixo e fornece informações no momento da resposta. Comparação por custo, atualização, rastreabilidade e risco de resposta inventada.
Quando uma empresa decide que o agente de IA precisa "saber sobre o negócio", surgem duas abordagens: treinar o modelo com os dados da empresa (fine-tuning) ou dar ao modelo as informações no momento da resposta (RAG). Elas resolvem problemas diferentes, e escolher a errada custa tempo e dinheiro. Este comparativo define cada uma, compara por critérios objetivos e indica quando usar cada abordagem em atendimento.
Definições
Fine-tuning: processo de continuar o treinamento de um modelo de linguagem com um conjunto de exemplos (pares de entrada e saída). Os pesos do modelo são ajustados. O resultado é um modelo novo, que tende a responder no estilo e no formato dos exemplos.
RAG (retrieval-augmented generation): o modelo permanece igual. Antes de cada resposta, o sistema recupera trechos relevantes de uma base de conhecimento e os inclui no contexto entregue ao modelo. O funcionamento detalhado está em como funciona RAG em agentes de IA.
Comparação por critério
| Critério | Fine-tuning | RAG |
|---|---|---|
| O que ensina | Comportamento, estilo, formato. | Fatos e informações atuais. |
| Atualizar uma informação | Novo ciclo de treinamento. | Editar a base; efeito imediato. |
| Custo inicial | Alto: dados rotulados, treinamento, avaliação. | Baixo: organizar documentos. |
| Custo de manutenção | Alto a cada mudança relevante. | Baixo: manter documentos. |
| Rastreabilidade da resposta | Baixa: não dá para saber de onde veio. | Alta: a resposta aponta para um trecho. |
| Risco de resposta inventada | Continua existindo; fatos ficam "diluídos" nos pesos. | Reduzido quando a base tem a informação. |
| Separação por cliente (agências) | Um modelo por cliente, caro de operar. | Uma base por cliente, mesmo modelo. |
| Exige equipe técnica | Sim. | Não necessariamente. |
| Quando brilha | Formatos muito específicos, jargão, classificação. | Conhecimento que muda: preços, horários, políticas. |
Por que fine-tuning é ruim para ensinar fatos
Um modelo treinado com "atendemos das 8h às 18h" não guarda essa frase como um registro consultável. Ele ajusta probabilidades. Quando o horário muda, não existe um lugar para corrigir; é preciso treinar de novo e torcer para o modelo "desaprender" o antigo. Para informação que muda, essa abordagem é frágil e cara.
Por que RAG não resolve estilo
Se o problema é o agente escrever de um jeito que não combina com a marca, ou seguir um formato de resposta muito particular, colocar mais documentos na base não ajuda. Isso é comportamento, e comportamento se ajusta com instruções (a forma mais barata) ou, em casos extremos, com fine-tuning.
Recomendação para atendimento
Para a grande maioria das operações de atendimento, suporte e vendas:
- Use RAG para os fatos. Serviços, políticas, horários, perguntas frequentes. É o que muda e o que o cliente pergunta.
- Use instruções para o comportamento. Objetivo, tom de voz, limites e quando transferir para uma pessoa. Instruções bem escritas resolvem quase todo problema de estilo.
- Considere fine-tuning só quando instruções não bastam, há volume de exemplos rotulados de qualidade e existe equipe para manter o modelo.
Como isso aparece na Cavori
A Cavori usa RAG com uma base de conhecimento por empresa e instruções montadas com a Vori (objetivo, tom de voz e limites). O que muda entre agentes é o conhecimento e as instruções, e isso pode ser ajustado a qualquer momento e testado no simulador antes de publicar. A página RAG para atendimento descreve o mecanismo e suas limitações.