Cinco escolhas que definem o custo de um agente de atendimento
O custo de um agente de IA depende de cinco escolhas feitas antes da primeira linha de código.
Quando alguém com pequena empresa pergunta quanto custa um agente de IA para atendimento, não respondo com número. O custo depende de cinco decisões que não aparecem na demonstração.
Cada decisão pode aumentar ou diminuir o custo final. Várias só recebem atenção quando o sistema quebra em produção (durante o uso real).
1. Canal e volume
Um agente que responde pelo chat do site tem um perfil de custo. Um agente que responde pelo WhatsApp, com áudio e durante o horário comercial, tem outro.
O volume importa mais que o canal. Com 30 perguntas por dia, um modelo local pequeno pode dar conta com qualidade aceitável e custo quase zero. Ele roda nos seus próprios equipamentos. Com 3.000 perguntas, talvez ele não responda rápido o bastante. Cada pergunta que passa para um modelo na nuvem também usa tokens (unidades de texto que podem gerar cobrança).
A primeira decisão é medir quantas conversas chegam por dia, por quais canais e em quais horários. Sem esses números, qualquer orçamento é invenção.
2. O que entra na base de informações e quem cuida dela
RAG é um sistema que busca informações na base antes de gerar uma resposta. A qualidade das respostas depende do conteúdo consultado. A base pode ter um manual desatualizado, perguntas frequentes genéricas e um PDF escaneado torto. Nesse caso, o agente responde com confiança e erra com convicção.
Alguém precisa decidir o que entra na base, manter os arquivos atualizados e testar as respostas. Esse trabalho humano é contínuo. Não é treinar o modelo, ou seja, ensinar o programa com exemplos. É cuidar do conteúdo. Nos sistemas que construí, a entrada dos documentos é automática, mas uma pessoa ainda verifica a qualidade. Sem alguém nessa função, o custo real são as respostas erradas que o agente vai dar.
3. Modelo por tarefa e passagem do modelo local para a nuvem
Nem toda pergunta precisa do modelo mais caro. "Qual é o horário de funcionamento?" pode ser respondida por um modelo local pequeno. "O produto X cobre o caso Y segundo a regra Z?" talvez precise de um modelo maior na nuvem.
O padrão que uso é o roteamento: o modelo local tenta primeiro. Se a confiança ficar abaixo de um valor mínimo, a pergunta passa para a nuvem. O mesmo vale quando ela exige um raciocínio que o modelo local comprovadamente não consegue fazer.
Assim, nem toda pergunta paga o preço cheio. Só as perguntas difíceis pagam esse valor. Com muito volume, essa diferença pode fazer a conta caber no orçamento.
4. Quando o agente diz "não sei" e chama uma pessoa
RAG sempre devolve um primeiro resultado. A similaridade cosseno compara vetores (listas de números que representam os trechos). Ela só ordena os resultados; não decide se um trecho é relevante. Como escrevi em outro artigo, um bom sistema sabe quando o trecho encontrado não serve.
Em termos de custo, o agente que nunca diz "não sei" dá respostas erradas com uma fonte. O que diz "não sei" demais frustra o cliente. Entre os dois existe uma decisão de produto: abaixo de qual valor de similaridade o agente chama uma pessoa?
Essa escolha define quantos atendentes você ainda precisa manter. Atendentes humanos são a linha mais cara da planilha.
5. Registros e custo por conversa
Sem registros das atividades, você não sabe quanto custa cada conversa. Sem saber o custo, não sabe se o sistema se paga.
Métricas mínimas:
- tokens usados por conversa;
- proporção de conversas resolvidas sem chamar uma pessoa;
- latência p95 (tempo de resposta respeitado por 95% das conversas);
- custo em reais por conversa.
Na semana 1, o custo é baixo. Na semana 12, pode ter triplicado se ninguém olhar. Isso pode acontecer porque alguém subiu um PDF de 400 páginas que o agente lê inteiro a cada pergunta.
Onde isso quebra
Um agente de atendimento não é um projeto que termina. É um produto que exige manutenção. Se você o trata como projeto, entrega, testa e encerra, ele funciona por um tempo. Isso dura até a base ficar desatualizada, o volume dobrar ou o fornecedor do modelo na nuvem mudar o preço. Isso acontece.
Se quer avaliar essa ideia para o seu negócio, me conte o contexto.