- Definição
- Alucinação: Alucinação é quando um assistente de IA afirma, com toda a confiança, algo que não é verdade, como um endereço, um preço ou um serviço que a empresa não tem. Acontece principalmente quando falta uma fonte clara para a informação.
Por que acontece
Um LLM escreve respostas escolhendo, palavra por palavra, a continuação que parece mais provável. Ele não consulta um banco de verdades. Quando tem uma boa fonte na frente, como no processo de RAG, costuma acertar. Quando não tem, preenche o espaço com o que soa plausível.
Para uma empresa conhecida, com muita informação consistente publicada, o plausível costuma ser o verdadeiro. Para um negócio pequeno, com pouca informação disponível, o plausível pode ser qualquer coisa: o horário padrão de lojas daquele tipo, o endereço de outra empresa com nome parecido, um serviço que “empresas assim costumam oferecer”.
Os casos mais comuns para pequenos negócios
- Horário errado. O assistente diz que a loja abre domingo, e ela não abre.
- Endereço antigo. A empresa mudou, mas o endereço velho ainda está espalhado pela internet.
- Serviço inexistente. O assistente diz que a clínica atende um convênio que ela não aceita.
- Mistura de empresas. Duas empresas com nomes parecidos em cidades diferentes viram uma só.
- Preço inventado. Um valor que nunca foi cobrado.
Cada um desses erros pode custar um cliente, que vai até a porta fechada ou desiste antes de ligar.
Por que importa para o seu negócio
Você não controla o que o assistente responde. Mas controla a qualidade da fonte que ele encontra. As alucinações sobre uma empresa ficam menos prováveis quando:
- O site pode ser lido. Sem bloqueio no robots.txt e com o texto no HTML, não dependente de JavaScript.
- A informação está escrita, não só em imagem. Um cardápio em foto não é lido como texto.
- Os dados são explícitos. Dados estruturados com nome, endereço, telefone e horário tiram a ambiguidade.
- Tudo é consistente. O mesmo horário no site, no Google e no Instagram.
- A informação é atual. Mudou algo? Atualize a página e a data de atualização.
Um exemplo
Uma pizzaria passou a abrir às segundas. O site ainda diz “de terça a domingo” num banner em imagem, e o texto da página não fala de horário. Quando alguém pergunta a um assistente se a pizzaria abre segunda, ele não encontra nada legível no site e responde com base em informações antigas de outros lugares: “não abre”. O cliente vai para a concorrente.
Com o horário escrito em texto na página e marcado em dados estruturados, o assistente que pesquisa na hora encontra a informação certa.
Como o Mecita olha para isso
O diagnóstico não pergunta nada aos assistentes, então não mede alucinações diretamente. Ele verifica as condições que as reduzem: acesso dos robôs, texto legível, dados estruturados de identidade e trechos citáveis. Perguntas reais aos assistentes vão fazer parte do Mecita Monitor, que chega em breve.
Perguntas frequentes
Dá para pedir para a IA corrigir uma informação errada sobre a minha empresa?
Alguns assistentes têm botões de feedback nas respostas, mas não há garantia de correção. O caminho mais confiável é garantir que a informação certa esteja clara, acessível e consistente no seu site e nos seus perfis oficiais.
Alucinação é mentira proposital?
Não. O modelo não tem intenção. Ele gera o texto que parece mais provável para o contexto, e às vezes o mais provável não é o verdadeiro.
Faltou algum termo? Veja o glossário completo.