Quand l'IA invente : reconnaître et éviter

L'essentiel en bref

Les informations inventées n'apparaissent pas sur les questions difficiles, mais sur celles qui appellent une forme de réponse attendue – chiffres, sources, articles de loi.
Cinq types sont particulièrement touchés : études, volumes de recherche, références légales, détails produits et citations.
La mesure la plus efficace est une interdiction d'inventer dans le prompt, assortie d'une obligation de signaler l'inconnu.
Un ton assuré n'est pas un signe d'exactitude – les modèles formulent l'inventé avec autant d'aisance que le démontré.

Le terme « hallucination » induit en erreur, parce qu'il évoque un état d'exception. En réalité, il s'agit du même procédé qui produit aussi les bonnes réponses : la suite probable d'un texte.

À une question sur une étude, la suite probable est une référence d'étude avec institut, année et pourcentage. L'existence de cette étude n'entre pas dans la production.

Cinq types d'informations particulièrement touchés

1. Études et statistiques

« Selon une enquête de 2024, 67 pour cent des PME utilisent… » – institut, année et pourcentage agissent ensemble de façon très convaincante, et les trois peuvent être librement inventés.

Signe : chiffres ronds, aucun lien, institut sans titre exact.

2. Volumes de recherche et chiffres de marché

Aucun modèle n'a accès aux données de requêtes d'un moteur. Des chiffres arrivent malgré tout sur demande – parce que la question attend un chiffre.

Signe : tout chiffre dans ce domaine. Sans exception.

3. Références légales et délais

Numéros d'articles, alinéas, délais transitoires. Particulièrement dangereux, parce que cela sonne technique et déclenche en pratique des décisions.

Signe : un numéro précis sans mention de la version ni de la date.

4. Détails produits et prix

Étendue des fonctions, seuils de forfait, prix des fournisseurs. Cela change souvent et se trouve souvent derrière une connexion.

Signe : des montants exacts sans date et sans source.

5. Citations et informations sur des personnes

Citations littérales, intitulés de fonction, qui a dit quoi et quand. Le dommage y est le plus grand, parce qu'on attribue quelque chose à de vraies personnes.

Signe : toute citation sans référence vérifiable.

Le saviez-vous ?

Le ton ne révèle rien. Les modèles formulent l'inventé avec la même assurance que le démontré – un « probablement » n'apparaît pas là où se situe réellement l'incertitude.

C'est pourquoi la méthode de vérification habituelle échoue : les humains jugent la crédibilité aussi à l'assurance de la présentation. Chez les modèles, ce signal n'existe pas – il faut vérifier l'information elle-même, pas sa mise en scène.

Ce qui aide réellement

Une interdiction d'inventer dans le prompt. La consigne de n'utiliser aucun chiffre ni aucune source absents des éléments fournis – et de signaler l'inconnu par [information manquante]. La mesure isolée la plus efficace.
Fournir du matériau plutôt que d'interroger. Qui écrit ses propres chiffres dans le prompt n'a pas besoin d'inventés. L'écart entre « écris quelque chose sur X » et « écris quelque chose sur X, voici nos chiffres » est le plus grand saut de qualité isolé.
Des modèles capables de chercher pour l'actualité. Si le modèle peut chercher et cite ses sources, les informations sont vérifiables. Vérifiable ne veut toutefois pas dire vérifié.
La vérification comme étape distincte. Faire produire une liste de toutes les affirmations vérifiables, puis vérifier soi-même. Séparément de la rédaction, sinon c'est sauté.
Des chiffres avec leur origine. Chaque chiffre du texte final reçoit une mention d'origine – même si c'est « valeur d'expérience, pas une étude ».

Attention La question « es-tu sûr ? » n'est pas une vérification. Un modèle peut confirmer une information inventée dans la même conversation ou la changer sous la pression – ni l'un ni l'autre ne dit rien de l'exactitude. La vérification se fait à la source, pas dans la conversation.

Retour de pratique

Le cas le plus coûteux n'est pas l'information manifestement fausse, mais celle qui tombe tout juste à côté : un délai qui existe, mais avec une autre date. Un article de loi qui existe, mais qui régit autre chose. Un prix de fournisseur qui était juste il y a deux ans.

De telles informations survivent à toute vérification superficielle, parce qu'elles se confirment – mais dans une autre version. Il ne suffit donc pas de vérifier que la source existe ; il faut vérifier qu'elle dit ce que dit le texte.

La règle de prompt, telle quelle

Trois phrases qui ont leur place dans tout prompt susceptible de produire des informations vérifiables :

Bloc de prompt

Règles concernant les informations :
1. N'utilise aucun chiffre, aucune étude, aucune référence légale
   et aucune citation qui ne figure pas dans le matériau que je
   t'ai fourni ci-dessus.
2. Là où il te faut une information qui y manque, écris
   [information manquante : laquelle] au lieu de compléter.
3. Marque en fin de phrase par [non vérifié] toute affirmation
   que tu ne peux pas étayer à partir du matériau.

Ces trois règles priment sur toutes les autres consignes de ce
prompt.

La dernière phrase n'est pas superflue : les indications de fin de prompt sont prises en compte plus fiablement, et une primauté explicite empêche que ces règles soient sacrifiées au désir d'un texte fluide.

Vérifier par un second passage

Prompt

Examine le texte suivant à la recherche d'informations
possiblement inventées. Sois strict ; ne complimente rien ; ne
réécris pas le texte.

Texte :
[coller le texte]

Tâches :
1. Liste séparément chaque affirmation vérifiable : chiffres,
   pourcentages, études, références légales, millésimes,
   caractéristiques de produits, prix, citations.
2. Marque chaque affirmation : étayable par le texte lui-même /
   à vérifier à l'extérieur / paraît inventée. Pour « paraît
   inventée », nomme le signe.
3. Nomme les trois informations dont la fausseté causerait le
   plus de dommage, et justifie.
4. Pour chaque information non étayée, propose une version qui
   s'en passe et dise malgré tout quelque chose.

N'invente aucune source ni aucune preuve. Si tu ne peux pas
situer une information, écris-le.

Conclusion

Les informations inventées ne sont pas un défaut de l'outil mais une propriété du procédé. Elles ne disparaissent pas, mais elles se circonscrivent : fournir du matériau plutôt qu'interroger, poser une interdiction d'inventer dans le prompt, et faire de la vérification une étape à part.

La conséquence inconfortable : toute information vérifiable d'un texte publié doit avoir été vérifiée par un humain. C'est la part qui ne s'automatise pas – et la raison pour laquelle la compétence de fond devient plus importante avec les modèles de langue, pas moins.

Questions fréquentes

Pourquoi les modèles de langue inventent-ils ?

Parce qu'ils produisent la suite probable d'un texte. À une question sur une étude, une référence avec institut, année et pourcentage est la suite probable – l'existence de cette étude n'entre pas dans la production. Il s'agit du même procédé qui produit aussi les bonnes réponses.

Quelles informations sont particulièrement touchées ?

Cinq types : études et statistiques, volumes de recherche et chiffres de marché, références légales et délais, détails produits et prix, ainsi que citations et informations sur des personnes. Leur point commun : la question attend une forme de réponse précise – un chiffre, un numéro d'article, une citation.

Reconnaît-on l'inventé au ton ?

Non. Les modèles formulent l'inventé avec la même assurance que le démontré ; des nuances comme « probablement » n'apparaissent pas là où se situe réellement l'incertitude. C'est l'information elle-même qu'il faut vérifier, pas sa mise en scène.

La question « es-tu sûr ? » aide-t-elle ?

Non. Un modèle peut confirmer une information inventée dans la même conversation ou la changer sous la pression – ni l'un ni l'autre ne dit quoi que ce soit de l'exactitude. La vérification a lieu à la source, pas dans la conversation.

Qu'est-ce qui aide le plus efficacement ?

Fournir du matériau plutôt qu'interroger : qui écrit ses propres chiffres dans le prompt n'a pas besoin d'inventés. S'y ajoutent une interdiction explicite d'inventer avec obligation de signaler l'inconnu – à la fin du prompt, avec primauté sur toutes les autres consignes – et une vérification comme étape de travail à part.