Por que a IA inventa resposta no atendimento e como impedir

O cliente pergunta se a troca vale para produto comprado na promoção. A IA responde que sim, com toda a segurança, e a política da loja diz o contrário. Agora alguém da sua equipe precisa desmentir a IA ou aceitar a troca.

Por que a IA inventa resposta?

Um modelo de linguagem aprendeu a escrever lendo uma quantidade enorme de texto. Diante de uma pergunta, ele monta a resposta que soa mais provável, palavra por palavra. Da sua empresa, ele conhece o que você entregou para ele: o site, a base de conhecimento, o catálogo e as regras.

Sem a informação, o modelo continua escrevendo. Ele completa a frase com o que costuma aparecer em respostas parecidas: entrega em 3 dias úteis, parcelamento em 10 vezes, troca em até 30 dias. A frase sai bem escrita, no tom da marca, com um número que ninguém da empresa aprovou. Esse erro tem nome técnico: alucinação.

O cliente que insiste piora o quadro. Quem pergunta “mas faz por menos?” ou “chega até sexta, né?” puxa a IA para a resposta que agrada, e sem uma regra clara a IA concorda.

Quais erros da IA aparecem no atendimento?

Preste atenção em quatro assuntos, porque o cliente decide a compra ou a visita com base neles:

Assunto	Exemplo de resposta inventada	O que acontece depois
Preço	”A mensalidade do curso de inglês é R$ 290”, com a tabela já reajustada	O aluno cobra o valor que a IA prometeu
Prazo	”Seu pedido chega amanhã”, sem consultar o rastreio	O cliente reclama e pede o cancelamento
Política	”Pode trocar mesmo usado”	A loja escolhe entre desmentir a IA ou aceitar a troca
Disponibilidade	”Tem horário às 15h com a Dra. Paula”, sem olhar a agenda	O paciente chega e não encontra horário

Nos quatro casos, a IA soa tão confiante quanto soaria com a informação certa. O cliente não tem como perceber a diferença, e a sua equipe descobre o erro quando ele volta cobrando.

Como impedir que a IA invente resposta?

Use três defesas juntas:

1. Base de conhecimento completa. Escreva o que o cliente pergunta, com números: valores, prazos, condições, horários, políticas e exceções. A informação que mora na cabeça da equipe fica fora do alcance da IA.
2. A regra do “vou verificar”. Oriente a IA a responder “vou verificar e te retorno” quando a pergunta cair fora da base. Para a promessa valer, alguém da equipe precisa receber a pergunta e responder ao cliente.
3. Passagem para uma pessoa. Desconto fora da tabela, exceção na política e cliente irritado pedem alguém com autonomia. A IA avisa o cliente, chama a equipe e para de responder.

A Meta também exige a terceira defesa. A Política de Mensagens do WhatsApp Business permite automatizar as respostas dentro da janela de 24 horas, desde que a empresa ofereça caminhos de escalonamento rápidos, claros e diretos, como a transferência para um atendente humano na conversa. Explicamos em que situações a IA deve chamar alguém em Quando a IA deve passar o atendimento do WhatsApp para uma pessoa.

Como conferir as respostas da IA depois?

Mesmo com as três defesas, reserve um horário na semana para ler o que a IA respondeu:

• Comece pelos assuntos de risco. Separe as conversas que a IA atendeu sozinha e que citam preço, prazo, política ou horário.
• Compare cada número com a base. Se a IA citou um valor que não está na base, você achou uma lacuna.
• Leia as passagens para a equipe. Em cada uma, você encontra uma pergunta que a base ainda não cobre.
• Cadastre o que faltou no mesmo dia. A próxima pessoa que fizer a mesma pergunta já recebe a resposta certa.

Na Venzor, um segundo modelo de IA compara as respostas com a base de conhecimento e com a pergunta do cliente depois do envio. Quem abre a conversa no painel vê um selo na mensagem suspeita, e o gestor recebe um alerta quando a resposta parece ter inventado preço, prazo ou política. O selo e o alerta chegam depois que o cliente recebeu a mensagem e servem para a sua equipe achar a lacuna e corrigir a base.

Como montar a base de conhecimento passo a passo?

1. Junte as perguntas reais. Exporte as conversas de um mês e liste as dúvidas que se repetem, com as palavras que os clientes usam.
2. Responda com número. Escreva valor, prazo e condição como você diria ao cliente. “Entregamos em até 3 dias úteis na capital” ajuda mais do que “entregamos rápido”.
3. Escreva as políticas com as exceções. Troca, cancelamento, reembolso e remarcação, com o que a empresa aceita e o que ela recusa.
4. Diga o que a empresa não faz. Com frases como “não entregamos fora da cidade” e “não parcelamos acima de 6 vezes”, a IA para de oferecer o que você não vende.
5. Dê prazo ao que vence. Cadastre promoção, feriado e recesso com data de início e de fim, e confira se saíram da base quando venceram.
6. Defina o que vai para uma pessoa. Liste os assuntos que a IA não decide: desconto fora da tabela, reembolso, reclamação grave.
7. Revise toda semana. Leia as passagens para a equipe e as respostas suspeitas, cadastre o que faltou e rode de novo as perguntas que falharam. O roteiro está em Como testar um agente de IA antes de ligar para os clientes.

Nas passagens, a sua equipe responde o que a base ainda não cobre. Na Venzor, a resposta que o gestor dá numa passagem vira um rascunho, e o rascunho só entra na base depois que alguém aprova no painel. Preço fica fora desse caminho: ele entra na base quando alguém da equipe cadastra à mão.