Qu'est-ce qu'une hallucination d'IA ?
On parle d'hallucination quand un modèle de langage produit une information fausse ou sans fondement, rédigée de façon aussi convaincante qu'une information exacte. Le modèle ne ment pas, faute d'intention : il ne fait pas la différence entre ce qu'il a appris et ce qu'il complète pour que la phrase tienne debout.
Le mot est emprunté à la psychologie, où il désigne la perception de quelque chose qui n'existe pas. Il circulait dans la recherche sur le traitement du langage avant les assistants grand public : en 2020, l'article de Patrick Lewis et de ses coauteurs sur le RAG relevait déjà que les modèles de langage ne peuvent pas facilement étendre ou corriger leur mémoire, ni expliquer leurs prédictions, et qu'ils peuvent produire des « hallucinations ».
Pourquoi un modèle de langage hallucine-t-il ?
Un modèle hallucine parce qu'il est conçu pour produire un texte plausible, pas pour consulter une base de faits.
- Il prédit, il ne vérifie pas : un LLM choisit la suite la plus probable. Pour lui, une date ou un numéro de contrat vraisemblables sont aussi « probables » que les vrais.
- Ses connaissances s'arrêtent à une date : la documentation d'Anthropic indique pour ses modèles actuels une date limite de connaissances fiables fixée à juin 2026. Interrogé sur un fait postérieur sans outil de recherche, un modèle peut combler le vide.
- Il ignore vos données : vos tarifs, vos clients et vos procédures ne figurent pas dans ses données d'entraînement.
- La question pousse à répondre : une formulation qui présuppose une réponse, comme « quel article du contrat prévoit la pénalité de retard ? », l'incite à en fournir une, même si cet article n'existe pas.
Exemples d'hallucinations en entreprise
| Situation | Hallucination typique | Conséquence possible |
|---|---|---|
| Recherche juridique interne | Un article de loi ou une décision de justice cités, mais inexistants | Un argument qui s'effondre devant l'interlocuteur |
| Chatbot du site | Une politique de retour ou un délai de livraison inventés | Une promesse faite à un client au nom de l'entreprise |
| Lecture de factures scannées | Un champ illisible complété par une valeur plausible | Une écriture comptable fausse, découverte au rapprochement |
| Rédaction commerciale | Une certification attribuée à un produit qui ne l'a pas | Une allégation inexacte dans une offre ou une fiche produit |
| Veille sur une entreprise | Des services, une adresse ou des dirigeants erronés | Une décision prise sur une base fausse |
Les hallucinations touchent aussi l'image de votre propre entreprise, quand un assistant décrit mal vos services ou vos coordonnées. YMHB Web a construit VISIA pour mesurer la présence d'une marque dans les réponses de quatre assistants IA, et la méthode manuelle est expliquée dans comment savoir si ChatGPT cite mon entreprise.
Comment réduire les hallucinations dans un logiciel ?
On réduit les hallucinations en changeant ce que l'on donne au modèle et ce que l'on fait de sa réponse.
- Fournir les sources : avec un RAG, le modèle répond à partir de vos documents et indique le passage utilisé. Les auteurs de l'article de 2020 constataient un langage plus précis et plus factuel qu'avec un modèle seul.
- Autoriser l'absence de réponse : la consigne prévoit en toutes lettres la réponse « cette information ne figure pas dans les documents ».
- Imposer un format contrôlable : pour une extraction, le modèle remplit des champs typés (date, montant, SIREN) que le logiciel vérifie : total égal à la somme des lignes, SIREN valide, date cohérente.
- Relire par le code ce qui peut l'être : un prix se lit dans la base tarifaire, jamais dans le texte produit par le modèle.
- Faire valider par un humain tout ce qui engage l'entreprise : envoi au client, écriture comptable, réponse juridique.
- Mesurer avec un jeu de questions de test et de réponses attendues, rejoué à chaque changement de modèle ou de consigne.
Les idées reçues sur les hallucinations
- « Le prochain modèle n'hallucinera plus. » Les modèles progressent, mais le principe de prédiction reste le même : un logiciel sérieux est conçu pour encaisser une réponse fausse sans dommage.
- « Une réponse qui cite une source est forcément juste. » La source peut être inventée, ou réelle mais mal résumée. Le lien doit mener au passage exact, que l'utilisateur peut ouvrir.
- « C'est rare, donc négligeable. » Ce qui compte est le coût d'une erreur : une seule hallucination suffit si elle se retrouve dans un contrat ou une facture.
- « Un agent qui enchaîne les étapes se corrige tout seul. » C'est souvent l'inverse : Anthropic souligne que l'autonomie des agents expose à des erreurs qui se cumulent d'une étape à l'autre.
Termes voisins
- LLM : le grand modèle de langage, dont le fonctionnement par prédiction explique les hallucinations.
- Agent IA : un système où une hallucination peut déclencher une action, d'où l'importance des validations.
- Intégrer l'IA dans un logiciel métier : les cas d'usage, les contrôles et les obligations à prévoir.
Questions fréquentes
- Pourquoi dit-on qu'une IA hallucine ?
- On dit qu'une IA hallucine par analogie avec la psychologie, où une hallucination est la perception de quelque chose qui n'existe pas. Un modèle de langage qui hallucine affirme un fait, une source ou un chiffre qui n'existent pas, avec autant d'assurance que pour une information exacte. Le terme était employé dans la recherche avant l'arrivée des assistants grand public.
- Peut-on supprimer complètement les hallucinations ?
- Non, on ne peut pas supprimer complètement les hallucinations d'un modèle de langage, car elles découlent de son fonctionnement par prédiction. On peut en revanche les rendre rares et sans conséquence : fournir les documents de référence au modèle, lui permettre de répondre qu'il ne sait pas, vérifier ses sorties par le code et faire valider par un humain ce qui engage l'entreprise.
- Comment repérer une hallucination ?
- Pour repérer une hallucination, vérifiez chaque fait précis d'une réponse d'IA (chiffre, date, nom, référence de texte, citation) sur une source indépendante. Méfiez-vous des réponses très détaillées à une question floue, des références impossibles à retrouver et des citations sans lien. Dans un logiciel, l'affichage systématique du passage source permet à l'utilisateur de contrôler la réponse en quelques secondes.
- Qui est responsable si un chatbot donne une fausse information à un client ?
- Le client s'adresse à l'entreprise qui exploite le chatbot, pas au fournisseur du modèle de langage : c'est elle qui devra traiter la réclamation et, selon les cas, en répondre. La répartition des responsabilités avec les prestataires dépend des contrats signés. Pour un cas précis, un avocat est le bon interlocuteur ; en amont, des réponses limitées aux documents validés réduisent le risque.
À lire aussi
- RAG (génération augmentée par récupération) : définition
- LLM (grand modèle de langage) : définition et exemples
- Intégrer l'IA dans un logiciel métier : cas, limites, AI Act
- VISIA : mesurer la visibilité d'un site dans les assistants IA
- Comment savoir si ChatGPT cite mon entreprise ?
- Automatiser la saisie avec l'IA : mails, PDF, factures