Hallucinations et confabulations IA

Pourquoi ce concept est utile

Si un patient vous montre un échange avec ChatGPT où l'IA cite un article scientifique qui n'existe pas, ou si un collègue s'inquiète que « l'IA ment », il s'agit probablement d'une hallucination. Ce terme prête à confusion car il suggère une pathologie — or il s'agit du fonctionnement normal d'un algorithme probabiliste.

Comprendre ce mécanisme permet au clinicien de dédramatiser le phénomène (ce n'est pas de la tromperie), de contextualiser les limites des outils IA utilisés par les patients, et surtout de s'appuyer sur un parallèle riche avec la cognition humaine : nous aussi, nous « hallucinons » — la perception et la mémoire humaines sont des reconstructions probabilistes, pas des enregistrements fidèles.

Un décalage fondamental d'attentes

Le problème central n'est pas tant que les LLM hallucinent — c'est intrinsèque à leur fonctionnement — mais que nous projetons sur eux des attentes issues de nos logiciels classiques. Nous traitons les IA conversationnelles comme si elles appartenaient à l'une de ces trois catégories familières :

Le parallèle avec la confabulation humaine

Ce parallèle est particulièrement éclairant pour des psychologues cliniciens : la « confabulation » — terme emprunté à la neuropsychologie — décrit mieux que « hallucination » ce que font réellement les LLM.

La confabulation en neuropsychologie

Dans le syndrome de Korsakoff ou certaines lésions frontales, le patient « remplit les trous » de sa mémoire avec des informations plausibles mais fausses. Il ne ment pas délibérément — il génère une représentation cohérente à partir d'informations incomplètes. C'est un mécanisme adaptatif poussé à l'extrême pathologique.

Le mécanisme cognitif normal

• 1. Nos souvenirs sont des reconstructions, pas des enregistrements. Elizabeth Loftus a démontré que les faux souvenirs peuvent être implantés par de simples questions suggestives.
• 2. Nous complétons les informations manquantes par des prototypes et des schémas. Frederic Bartlett a montré dès 1932 que la mémoire reconstruit les récits en les conformant à nos attentes culturelles.
• 3. La perception elle-même est une « hallucination contrôlée » selon Anil Seth : le cerveau génère en permanence des prédictions perceptives qu'il compare aux signaux sensoriels entrants.
• 4. Les heuristiques cognitives (Kahneman & Tversky) sont des raccourcis qui génèrent des réponses rapides, plausibles — mais parfois erronées.

LLM et cerveau humain : convergences et divergences

Mécanismes de réduction et analogies humaines

Plusieurs techniques permettent de réduire les hallucinations des LLM. Chacune a un parallèle intéressant avec les stratégies humaines de fiabilisation cognitive.

En pratique pour le clinicien

• Recadrer le terme : l'« hallucination » IA n'est pas comparable à l'hallucination psychiatrique. Préférer « confabulation » ou « génération d'informations non vérifiées » pour éviter la confusion diagnostique.
• Nommer le décalage : quand un patient se dit « trompé » par une IA, explorer ses attentes implicites. Attendait-il d'un chatbot qu'il fonctionne comme Google, comme un médecin, comme un livre ? Ce décalage est souvent le vrai problème.
• Utiliser le parallèle humain : rappeler que nous aussi « confabulons » — faux souvenirs, biais de confirmation, interprétations hâtives. Cela dédramatise les limites de l'IA tout en ouvrant un travail sur nos propres mécanismes cognitifs.
• Éduquer à la vérification : un LLM qui confabule n'est pas inutile — un clinicien aussi fait parfois des interprétations hâtives ou des projections théoriques. La question n'est pas l'infaillibilité mais la conscience de la limite et les mécanismes de vérification.

Ce concept dans nos fiches outils

Les hallucinations et confabulations de l'IA sont abordées dans nos fiches outils sous l'angle des risques concrets pour les patients et des stratégies de vérification.