Hallucination
Réponse inventée mais plausible
Hallucination, qu'est-ce que c'est ?
Une hallucination est une réponse fausse produite avec la même assurance qu'une réponse juste : un article de loi qui n'existe pas, un numéro de référence inventé, une date fabriquée. Elle découle du fonctionnement même des modèles de langage, qui produisent la suite la plus probable d'un texte et non la plus exacte. On ne l'élimine pas, on la rend détectable et rare.
Aussi appelé : confabulation, réponse inventée.
Hallucination : qu'est-ce que ça change pour une PME ?
C'est le risque à regarder en face avant tout déploiement. Une IA qui invente une référence produit dans un devis client coûte plus cher que le temps qu'elle fait gagner. La question n'est donc pas « est-ce que ça hallucine » - la réponse est oui - mais « qu'est-ce qui se passe quand ça arrive » : qui relit, qu'est-ce qui est bloqué, et sur quelles tâches on refuse de l'utiliser.
Comment nous traitons Hallucination
Trois garde-fous systématiques. Le RAG, pour que la réponse s'appuie sur vos documents et cite ses sources. La consigne explicite de répondre « je ne sais pas » plutôt que de combler un vide. Et une revue humaine avant toute sortie qui engage l'entreprise - c'est écrit dans chacun de nos schémas d'intégration, ce n'est pas une clause de style.
À retenir
- Une réponse fausse a exactement le même ton qu'une réponse juste
- Le RAG la réduit fortement mais ne la supprime pas
- Les chiffres, dates, références et citations sont les plus à risque
- Le bon réflexe est de concevoir la relecture, pas d'espérer la perfection