Hallucination IA : pourquoi elle invente, et comment la repérer

Un collègue vous montre un compte-rendu produit par une IA générative, bien écrit, complet, avec une décision chiffrée dedans. Le problème, c'est que personne n'a pris cette décision. Ce n'est pas une coquille ni une faute de style : c'est une hallucination, et elle ne ressemblait en rien à ce qu'on imagine quand on pense qu'une IA « invente ».

Ce que le mot recouvre, en une phrase

Un modèle de langage ne stocke pas de faits dans une mémoire qu'il consulterait avant de répondre. Il prédit, mot après mot, la continuation la plus probable d'un texte compte tenu de ce qu'il a lu pendant son entraînement et de ce qu'on lui a soumis dans la conversation. Tant que cette continuation reste ancrée dans des éléments réels, la réponse tient. Dès qu'un trou apparaît, une information manquante, une question sans réponse claire dans les sources fournies, le modèle continue quand même à produire du texte cohérent, et ce texte peut alors contenir une affirmation qui ne repose sur rien de vérifiable.

Le terme vient de la psychiatrie par analogie, ce qui trompe un peu sur la nature du phénomène : il n'y a ni intention de tromper, ni perception faussée, seulement un mécanisme statistique qui ne sait pas distinguer, au moment de générer, ce qu'il sait de ce qu'il devine.

Pourquoi les cas dangereux sont ceux où le modèle a raison sur la forme

L'erreur grossière ne pose presque jamais de problème réel. Une date impossible, un nom qui ne correspond à personne dans l'entreprise, une réponse hors sujet : ces hallucinations-là sautent aux yeux et se corrigent en quelques secondes. Le vrai risque se loge ailleurs, dans les réponses où tout est juste sauf un détail, écrit avec exactement le même sérieux que le reste.

C'est très précisément ce qui s'est produit dans un exercice réel du programme Finance d'Aiffut. Une contrôleuse de gestion a demandé à une IA de transformer ses notes de clôture mensuelle en compte-rendu propre. Ses notes mentionnaient un point resté ouvert, une provision pour créances douteuses à trancher avec le directeur administratif et financier. Le premier jet ne s'est pas contenté de reformuler : il a ajouté une ligne que personne n'avait écrite, une décision chiffrée présentée comme actée. Rien dans le style, la ponctuation ou le ton ne distinguait cette phrase inventée des phrases exactes qui l'entouraient. Notre article sur l'IA en cabinet comptable détaille ce cas dans son contexte complet.

C'est le point que la plupart des définitions manquent : une hallucination ne se reconnaît presque jamais à un signal de forme, hésitation, formulation vague, avertissement du modèle. Elle porte la même assurance rédactionnelle que le reste du texte, ce qui la rend indétectable à la lecture seule.

Pourquoi le modèle complète justement là où il y avait un trou

Le mécanisme se comprend mieux une fois qu'on regarde où l'invention est apparue dans l'exemple ci-dessus : exactement à l'endroit où les notes de la contrôleuse laissaient une question ouverte. Un modèle entraîné à produire des documents complets et bien formés traite un point resté en suspens comme un manque à combler, pas comme une limite à respecter. Il ne sait pas faire la différence entre « ce point reste à trancher, je le signale comme tel » et « ce point reste à trancher, je vais écrire ce qui ressemble à une conclusion plausible ». Sans instruction contraire explicite, la seconde option gagne presque toujours, parce qu'elle produit un texte plus fluide.

Cette mécanique explique aussi pourquoi les tâches de pure reformulation, sans trou d'information à combler, produisent beaucoup moins d'hallucinations que les tâches où le modèle doit compléter, résumer sous contrainte de longueur, ou répondre à une question dont il ne connaît pas vraiment la réponse.

La procédure de vérification, et elle change selon la tâche

Vérifier « toute réponse de l'IA » de la même façon revient à sur-vérifier les tâches sans risque et sous-vérifier celles qui comptent. La procédure utile distingue ce que fait réellement la tâche, pas l'outil utilisé pour la faire.

Ce qui réduit vraiment le risque : contraindre le prompt, pas se fier à sa vigilance

La vigilance humaine s'use, surtout sur une tâche répétitive où l'IA a raison neuf fois sur dix. Ce qui tient dans la durée, c'est un cadrage posé une fois dans le prompt plutôt que rappelé à chaque échange : interdiction explicite d'inventer une donnée manquante, obligation de signaler un point resté ouvert au lieu de le compléter, obligation de citer la ligne source d'une valeur reprise. Notre article sur le chiffre en cabinet comptable montre ce même cadrage à l'œuvre sur un cas réel : une fois la consigne posée noir sur blanc, le compte-rendu redevient fidèle, sans qu'aucune information légitime ne disparaisse.

Cette discipline se construit plus facilement en pratiquant sur des cas concrets qu'en lisant une charte, ce que travaille justement une acculturation IA bien construite : répéter le réflexe de vérification sur des exemples proches du métier de chacun, plutôt que l'énoncer une fois en séance plénière et espérer qu'il reste.

Ce que ça change au quotidien

Une hallucination n'est pas un bug qu'on corrigera un jour, c'est une conséquence directe de la façon dont un modèle de langage fonctionne. Elle ne disparaîtra pas avec la prochaine version. Ce qui change, en revanche, c'est la capacité d'une équipe à repérer les endroits où elle se loge le plus souvent, les trous d'information, les chiffres, les décisions, et à y appliquer une vérification adaptée plutôt qu'un doute généralisé et intenable.

Ce réflexe s'inscrit dans un dispositif plus large : notre guide sur la gouvernance de l'IA en PME situe la vérification des productions IA parmi les autres pièces à mettre en place, à côté de la charte et du référent désigné. Nos programmes de formation par métier construisent précisément ce réflexe sur des exercices tirés de cas réels, plutôt que sur une liste de risques à apprendre par cœur.