Alucinação de IA: como reconhecer e reduzir respostas inventadas

Alucinação de IA é uma resposta incorreta ou incompatível com o contexto que pode parecer convincente. Você reduz o risco ao pedir limites claros, fornecer evidências e conferir as afirmações que importam.

Este roteiro não promete eliminar erros. A ideia é reconhecer pontos que precisam de revisão antes de usar a saída como informação ou decisão.

1. Procure precisão sem apoio

Desconfie de números exatos, títulos de estudos e citações atribuídas a pessoas quando nenhuma evidência verificável acompanha a informação. Isso é um convite à checagem, não prova automática de erro.

Um endereço pode existir e ainda não sustentar a frase. Abra a referência e confira o trecho que a resposta diz representar.

2. Compare a resposta com o material enviado

Quando a tarefa é resumir ou extrair dados, verifique se a saída preserva nomes, unidades e condições. Uma informação pode ser plausível em geral e continuar errada para aquele documento.

Por exemplo, trocar “pode ocorrer” por “ocorrerá” altera o grau de certeza. Uma revisão deve observar esse tipo de mudança, além de procurar fatos completamente inventados.

3. Dê uma saída para a incerteza

A documentação da Anthropic sobre redução de alucinações recomenda permitir que o sistema reconheça limites. Na prática, diga qual comportamento espera quando falta informação.

Use somente o material fornecido para responder.
Diferencie informação explícita, interpretação e ponto não encontrado.
Quando faltar apoio, escreva “não foi possível confirmar neste material”.
Não crie números, referências ou exemplos apresentados como fatos.
Liste as afirmações que eu deveria verificar antes de usar a resposta.

Uma instrução assim organiza a tarefa, mas também precisa ser testada. Não trate a declaração “verificado” gerada pelo modelo como uma auditoria independente.

4. Verifique a parte que muda sua ação

Comece por prazos, custos, requisitos e outras informações que afetam o próximo passo. Priorizar não significa aceitar o restante sem leitura, mas usar o tempo de revisão de forma consciente.

Pergunta	Próxima ação
A afirmação está no documento?	Localizar o trecho
Depende de uma informação atual?	Consultar fonte primária recente
A fonte não foi encontrada?	Marcar como não verificada
É apenas uma sugestão?	Identificar como proposta, não fato

5. Corrija sem reforçar a premissa errada

Se encontrar um erro, forneça a evidência correta e peça uma revisão das conclusões afetadas. Não limite a correção a substituir um nome quando todo o raciocínio depende dele.

Observe também se a resposta está apenas concordando com sua hipótese. Faça perguntas que permitam uma conclusão diferente, sustentada no material.

6. Registre o que continua desconhecido

Uma resposta útil pode terminar com uma lacuna explícita. Isso permite pesquisar o ponto necessário sem carregar uma certeza falsa para a próxima etapa.

Use o roteiro para conferir fontes e a revisão de resumos quando a tarefa envolver documentos.

Perguntas frequentes

Uma resposta confiante é um sinal de que está certa?

Não. Fluência e segurança no tom não substituem evidências ou conferência dos fatos.

Pedir para a IA não inventar resolve o problema?

Não sozinho. Combine instruções, material de referência e revisão das afirmações importantes.

Toda divergência entre duas respostas é alucinação?

Não. Pode haver diferença de interpretação, informação desatualizada ou critérios distintos; localize a afirmação e confira a evidência.