7 min read
Vous demandez à ChatGPT d’écrire un court article de blog sur l’entretien des bottes en cuir pour votre atelier de cordonnerie. Le texte revient soigné et sûr de lui, avec une statistique bien propre : « Selon une étude sectorielle de 2023, 68 % des dommages aux bottes sont dus à un mauvais séchage. » Ça sonne bien. Vous êtes sur le point de publier. Puis une petite voix vous demande : quelle étude ?
Il y a de fortes chances que cette étude n’existe pas. Quand un outil d’IA affirme quelque chose qui semble vrai mais qui est inventé, on parle d’hallucination de l’IA, et apprendre à la repérer est l’une des compétences les plus précieuses qu’un patron de petite entreprise puisse acquérir. Bonne nouvelle : aucune connaissance technique n’est nécessaire. Ce guide du débutant explique ce que sont les hallucinations, pourquoi elles se produisent, où elles causent de vrais problèmes, et une habitude simple de cinq minutes pour les repérer.
Ce qu’est vraiment une hallucination de l’IA
Une hallucination de l’IA est une réponse présentée comme un fait, mais qui est fausse ou inventée. Il peut s’agir d’une fausse statistique, d’une citation que personne n’a prononcée, d’un livre jamais écrit, d’une loi qui ne dit pas ce que l’IA prétend, ou d’une fonctionnalité de produit qui n’existe pas. Le piège, c’est que les hallucinations ressemblent trait pour trait aux bonnes réponses. Même ton assuré, même mise en forme impeccable.
Le terme est largement utilisé dans tout le secteur ; l’article de Wikipédia sur l’hallucination de l’IA offre un bon aperçu accessible si vous voulez le contexte. Inutile d’apprendre la définition par cœur. Retenez simplement ceci : une réponse d’IA peut être fluide et fausse à la fois.
Pourquoi les outils d’IA inventent des choses
Les outils de chat comme ChatGPT, Claude et Gemini reposent sur ce qu’on appelle des grands modèles de langage, le nom technique d’un logiciel entraîné sur d’énormes quantités de texte pour prédire les mots qui suivent. Ils excellent à produire un texte qui sonne juste. Ils ne vérifient pas les faits dans une base de données fiable, sauf s’ils font précisément une recherche sur le web ou lisent un document que vous leur avez fourni.
OpenAI a expliqué une partie de la raison dans son article sur pourquoi les modèles de langage hallucinent : la façon dont ces modèles sont entraînés et évalués tend à récompenser une supposition assurée plutôt qu’un honnête « je ne sais pas ». Ainsi, quand le modèle n’a pas de réponse solide, il comble souvent le vide avec quelque chose de plausible.
Les modèles récents hallucinent moins que les anciens, et les outils qui cherchent sur le web ou travaillent à partir de vos propres documents sont mieux ancrés dans le réel. Mais aucun outil d’IA actuel n’est exempt d’hallucinations, et cela restera probablement vrai pendant un moment.
Là où les hallucinations font le plus de mal à une petite entreprise
Un fait inventé lors d’un brainstorming ne vous coûte rien. Un fait inventé qui arrive jusqu’à un client peut vous coûter de l’argent et de la confiance. Voici les zones à risque :
- Chiffres et statistiques dans les articles de blog, les publicités et les pages de vente.
- Politiques et promesses dans les réponses aux clients, comme les conditions de remboursement, les délais de livraison ou la couverture de garantie.
- Questions juridiques, fiscales et de licences, où une réponse fausse mais assurée peut vous faire passer à côté d’une vraie obligation.
- Détails sur les produits et les outils, comme les prix, les fonctionnalités ou la compatibilité, surtout pour tout ce qui est sorti récemment.
- Noms, citations et sources, y compris de fausses références qui ressemblent à de vrais articles.
Il existe un exemple réel bien connu de la deuxième catégorie. En 2024, un tribunal canadien a donné tort à Air Canada après que le chatbot de son site a fourni à un voyageur des informations erronées sur les tarifs pour deuil, et la compagnie a été tenue responsable de ce qu’avait dit son chatbot. La couverture de l’affaire par la BBC vaut la lecture. La leçon pour un entrepreneur solo est simple : si votre IA le dit à un client, c’est vous qui l’avez dit.
L’habitude de vérification en cinq minutes
Inutile de vous méfier de l’IA. Il vous faut simplement une routine qui attrape les passages risqués avant qu’ils ne quittent vos mains. En voici une qui prend environ cinq minutes par contenu.
Étape 1 : Surlignez chaque affirmation « vérifiable »
Lisez une fois le brouillon de l’IA et marquez tout ce qui est un chiffre, une date, un nom, une citation, un prix, une règle ou un « les études montrent ». Tout le reste (ton, structure, conseils généraux) présente peu de risque. En général, seules quelques phrases sont à vérifier.
Étape 2 : Demandez à l’IA d’où vient chaque affirmation
Demandez : « Pour chaque statistique et chaque affirmation factuelle de ta réponse, donne-moi la source et un lien. Si tu n’es pas sûr d’une source, dis-le. » Un bon outil admettra souvent qu’il ne peut en citer aucune. Cet aveu est votre signal pour supprimer ou remplacer l’affirmation.
Étape 3 : Ouvrez le lien vous-même
Même quand l’IA fournit un lien, cliquez dessus. Vérifiez que la page existe et qu’elle dit réellement ce que l’IA affirme. Les citations fausses ou mal attribuées font partie des hallucinations les plus courantes.
Étape 4 : Remplacez, nuancez ou supprimez
Si vous trouvez une vraie source, utilisez-la. Sinon, nuancez l’affirmation pour en faire quelque chose que vous savez vrai (« beaucoup de propriétaires font sécher leurs bottes trop vite ») ou supprimez-la. Une phrase vague mais vraie vaut toujours mieux qu’une phrase précise mais fausse.
Étape 5 : Gardez vos propres faits sous la main
La plupart des hallucinations dans les réponses aux clients surviennent parce que l’IA devinait des choses sur votre entreprise. Rédigez une « fiche de référence » d’une page avec vos prix, vos politiques, vos horaires et votre zone d’intervention, et collez-la (ou enregistrez-la comme instructions dans votre outil d’IA) chaque fois que vous rédigez un texte destiné aux clients. Quand l’IA a vos faits sous les yeux, elle a beaucoup moins de raisons de les inventer.
Des moyens simples d’avoir moins d’hallucinations dès le départ
- Donnez-lui la matière source. Demandez à l’IA de travailler à partir d’un document, d’une page web ou de notes que vous fournissez, plutôt que de mémoire.
- Dites-lui que « je ne sais pas » est permis. Ajoutez une ligne comme « Si tu n’es pas certain, dis-le au lieu de deviner. »
- Utilisez les modes avec recherche pour les faits récents. Pour tout ce qui concerne les prix, les nouveaux produits ou l’actualité récente, utilisez un mode qui cherche sur le web, et vérifiez quand même les liens.
- Gardez un humain à l’étape finale. L’IA rédige, vous validez. C’est surtout important pour les avis, les politiques et tout ce qui est traduit, comme nous l’avons expliqué dans notre guide pour ne jamais publier une traduction IA sans relecture.
Votre première étape aujourd’hui
Choisissez un contenu rédigé par l’IA que vous avez déjà publié ou envoyé : un article de blog, une description de produit ou une réponse client enregistrée. Passez-le à la vérification de cinq minutes. La plupart des patrons trouvent au moins une affirmation qu’ils ne peuvent pas étayer, et la corriger maintenant coûte bien moins cher que de devoir l’expliquer à un client plus tard.
Ensuite, faites-en une routine. Les hallucinations ne sont pas une raison d’arrêter d’utiliser l’IA ; ce sont une raison de l’utiliser comme vous le feriez avec un nouvel assistant rapide et enthousiaste : reconnaissant pour le brouillon, prudent avec les faits. Avez-vous déjà surpris un outil d’IA en train d’inventer quelque chose ? Racontez-nous en commentaire ce qu’il a inventé ; cela aidera les autres lecteurs à savoir à quoi faire attention.
À lire aussi
- La traduction par IA suffit pour le premier jet de votre site. Ne la publiez jamais sans relecture
- Comment répondre à tous vos avis Google en cinq minutes par semaine avec l’IA (sans avoir l’air d’un robot)
- Vos clients peuvent-ils désormais repérer vos textes ChatGPT ? 5 idées reçues sur le nouveau filigrane textuel d’OpenAI
- Que signifient les nouvelles lois des États américains sur l’IA pour une entreprise solo ? Un guide de démarrage en langage simple
