7 min read
Você pede ao ChatGPT um post curto de blog sobre cuidados com botas de couro para a sua sapataria. O texto volta caprichado e confiante, com uma estatística bem arrumadinha: “Segundo um estudo do setor de 2023, 68% dos danos em botas são causados por secagem inadequada”. Parece ótimo. Você quase clica em publicar. Aí uma vozinha pergunta: que estudo?
Há uma boa chance de esse estudo não existir. Quando uma ferramenta de IA afirma algo que parece verdade mas é inventado, isso se chama alucinação de IA, e aprender a identificá-la é uma das habilidades mais valiosas que o dono de um pequeno negócio pode desenvolver. A boa notícia é que não exige nenhum conhecimento técnico. Este guia para iniciantes explica o que são alucinações, por que acontecem, onde causam problemas reais e um hábito simples de cinco minutos para pegá-las.
O que é, de fato, uma alucinação de IA
Uma alucinação de IA é uma resposta apresentada como fato, mas que é falsa ou inventada. Pode ser uma estatística falsa, uma citação que ninguém disse, um livro que nunca foi escrito, uma lei que não diz o que a IA afirma ou um recurso de produto que não existe. A parte complicada é que as alucinações parecem exatamente iguais às respostas corretas. Mesmo tom confiante, mesma formatação caprichada.
O termo é amplamente usado no setor; o verbete da Wikipédia sobre alucinação de IA é um bom resumo simples se você quiser o contexto. Você não precisa decorar a definição. Só precisa lembrar disto: uma resposta de IA pode ser fluente e errada ao mesmo tempo.
Por que as ferramentas de IA inventam coisas
Ferramentas de chat como ChatGPT, Claude e Gemini funcionam com os chamados grandes modelos de linguagem, nome técnico para um software treinado com enormes quantidades de texto para prever quais palavras vêm a seguir. Eles são extremamente bons em produzir textos que soam certos. Eles não consultam fatos em uma base de dados confiável, a menos que estejam pesquisando especificamente na web ou lendo um documento que você forneceu.
A OpenAI explicou parte do motivo no texto sobre por que os modelos de linguagem alucinam: o jeito como esses modelos são treinados e testados tende a recompensar um palpite confiante em vez de um honesto “não sei”. Então, quando o modelo não tem uma resposta sólida, muitas vezes preenche a lacuna com algo plausível.
Modelos mais novos alucinam menos que os antigos, e ferramentas que pesquisam na web ou trabalham com seus próprios documentos são mais fundamentadas. Mas nenhuma ferramenta de IA atual está livre de alucinações, e isso provavelmente vai continuar assim por um tempo.
Onde as alucinações mais prejudicam um pequeno negócio
Um fato inventado num brainstorm não custa nada. Um fato inventado que chega a um cliente pode custar dinheiro e confiança. Estas são as zonas de perigo:
- Números e estatísticas em posts de blog, anúncios e páginas de vendas.
- Políticas e promessas em respostas a clientes, como regras de reembolso, prazos de entrega ou cobertura de garantia.
- Questões jurídicas, fiscais e de licenças, em que uma resposta errada e confiante pode fazer você pular uma exigência real.
- Detalhes de produtos e ferramentas, como preços, recursos ou compatibilidade, principalmente de qualquer coisa lançada recentemente.
- Nomes, citações e fontes, incluindo referências falsas que parecem artigos reais.
Existe um exemplo real bem conhecido da segunda categoria. Em 2024, um tribunal canadense decidiu contra a Air Canada depois que o chatbot do site da companhia deu a um viajante informações incorretas sobre tarifas para luto, e a empresa foi responsabilizada pelo que o chatbot disse. Vale a pena ler a cobertura da BBC sobre o caso. A lição para quem empreende sozinho é simples: se a sua IA disse algo a um cliente, foi você quem disse.
O hábito de checagem de cinco minutos
Você não precisa desconfiar da IA. Só precisa de uma rotina que pegue as partes arriscadas antes que saiam das suas mãos. Aqui está uma que leva cerca de cinco minutos por conteúdo.
Passo 1: Destaque cada afirmação “checável”
Leia o rascunho da IA uma vez e marque tudo o que for número, data, nome, citação, preço, regra ou “estudos mostram”. Todo o resto (tom, estrutura, conselhos gerais) é de baixo risco. Normalmente, só algumas frases precisam de checagem.
Passo 2: Pergunte à IA de onde veio cada afirmação
Pergunte: “Para cada estatística e afirmação factual da sua resposta, me dê a fonte e um link. Se não tiver certeza de uma fonte, diga”. Uma boa ferramenta muitas vezes vai admitir que não consegue apontar nenhuma. Essa admissão é o seu sinal para cortar ou substituir a afirmação.
Passo 3: Abra o link você mesmo
Mesmo quando a IA fornece um link, clique nele. Confirme que a página existe e que ela realmente diz o que a IA afirma. Citações falsas ou que não batem estão entre as alucinações mais comuns.
Passo 4: Substitua, suavize ou apague
Se encontrar uma fonte real, use. Se não encontrar, suavize a afirmação para algo que você sabe que é verdade (“muitos donos de botas as secam rápido demais”) ou apague. Uma frase vaga e verdadeira sempre vale mais que uma precisa e falsa.
Passo 5: Tenha seus próprios fatos à mão
A maioria das alucinações em respostas a clientes acontece porque a IA estava chutando sobre o seu negócio. Escreva uma “ficha de fatos” de uma página com seus preços, políticas, horários e área de atendimento, e cole (ou salve como instruções na sua ferramenta de IA) sempre que redigir textos para clientes. Quando a IA tem seus fatos na frente, tem muito menos motivo para inventá-los.
Jeitos simples de ter menos alucinações desde o início
- Entregue o material de origem. Peça à IA para trabalhar a partir de um documento, página da web ou anotações que você fornecer, em vez de usar a memória.
- Diga que “não sei” é permitido. Acrescente uma linha como “Se não tiver certeza, diga isso em vez de chutar”.
- Use modos com pesquisa para fatos recentes. Para qualquer coisa sobre preços, produtos novos ou notícias recentes, use um modo que pesquise na web, e ainda assim confira os links.
- Mantenha uma pessoa na etapa final. A IA rascunha, você aprova. Isso importa principalmente em avaliações, políticas e qualquer coisa traduzida, como explicamos no nosso guia sobre nunca publicar tradução de IA sem revisão.
Seu primeiro passo hoje
Escolha um conteúdo escrito por IA que você já publicou ou enviou: um post de blog, uma descrição de produto ou uma resposta salva para clientes. Faça a checagem de cinco minutos nele. A maioria dos donos encontra pelo menos uma afirmação que não consegue comprovar, e corrigir agora sai muito mais barato do que explicar para um cliente depois.
Depois, transforme isso em rotina. Alucinações não são motivo para parar de usar IA; são motivo para usá-la como você usaria um assistente novo, rápido e animado: grato pelo rascunho, cuidadoso com os fatos. Já pegou uma ferramenta de IA inventando algo? Conte nos comentários o que ela inventou; isso vai ajudar outros leitores a saber o que observar.
Leituras relacionadas
- A tradução por IA é boa o bastante para o primeiro rascunho do seu site. Nunca publique sem revisar
- Como responder todas as avaliações do Google em cinco minutos por semana com IA (sem parecer um robô)
- Seus clientes agora conseguem detectar textos do ChatGPT? 5 mitos sobre a nova marca d’água de texto da OpenAI
- O que as novas leis estaduais de IA significam para um negócio de uma pessoa só? Um guia inicial em linguagem simples
