Hallucinations de l'IA : pourquoi les chatbots inventent des faits et comment s'en protéger

En une phrase : Une hallucination est une affirmation fausse mais plausible qu'un modèle de langage produit avec assurance ; elle découle de la façon dont ces modèles sont entraînés et évalués, et la seule parade fiable reste de vérifier chaque fait important à sa source.

Demande à un chatbot la date de naissance d'un chercheur peu connu, le titre d'une thèse ou la référence d'un jugement : il répondra souvent quelque chose de précis, bien tourné… et faux. C'est ce qu'on appelle une hallucination. Le mot est trompeur : le modèle ne « voit » rien. Il produit un texte vraisemblable qui ne correspond à aucun fait. Ce phénomène touche tous les modèles de langage, des plus petits aux plus récents, et il a déjà eu des conséquences très concrètes, en particulier devant les tribunaux.

Ce qu'est une hallucination, cas à l'appui

Les chercheurs distinguent deux grandes familles. L'hallucination dite « intrinsèque » contredit ce que l'utilisateur vient d'écrire. L'hallucination « extrinsèque » contredit la réalité ou les données d'entraînement : une date inventée, une citation qui n'existe pas, une source fantôme.

L'article « Why Language Models Hallucinate », publié sur arXiv le 4 septembre 2025 par trois chercheurs d'OpenAI et un chercheur de Georgia Tech, s'ouvre sur des cas de ce genre. Interrogé trois fois sur la date d'anniversaire de l'un des auteurs, Adam Tauman Kalai, avec la consigne de ne répondre que s'il la connaissait, DeepSeek-V3 a donné trois dates différentes, toutes fausses. Questionnés sur le titre de sa thèse, ChatGPT (GPT-4o), DeepSeek et Llama ont chacun proposé un titre, une université et une année différents ; aucun n'était juste. Les auteurs précisent qu'aucun de ces modèles ne faisait de recherche sur le web au moment de l'essai, mené en mai 2025.

Autre cas tiré du même article : à la question « combien de D dans DEEPSEEK ? », DeepSeek-V3 a répondu « 2 » ou « 3 » sur dix essais indépendants, et les auteurs écrivent que Meta AI et Claude 3.7 Sonnet se sont comportés de façon similaire, avec des réponses allant jusqu'à « 6 » et « 7 ». Le mot n'en contient qu'un. Ici, l'erreur ne vient pas d'un fait manquant mais d'une tâche que le modèle exécute mal.

Pourquoi les modèles inventent

Pendant le pré-entraînement, un modèle apprend à imiter la distribution des textes qu'on lui montre. L'article d'OpenAI montre que, même avec des données d'entraînement parfaitement exactes, cet objectif statistique conduit forcément à des erreurs. Le raisonnement passe par un problème plus simple : décider si une phrase donnée est valide ou non. Un modèle qui ne sait pas faire ce tri sans se tromper ne peut pas non plus générer sans se tromper. Pour l'orthographe, le tri est facile, d'où le peu de fautes. Pour des faits isolés sans régularité, comme la date de naissance d'une personne peu connue, il est impossible à apprendre.

Les auteurs en tirent une estimation parlante, détaillée dans leur article : si 20 % des dates d'anniversaire présentes dans les données d'entraînement n'y apparaissent qu'une seule fois, on doit s'attendre à ce que le modèle de base se trompe sur au moins 20 % de ces dates. Moins un fait est répété sur le web, plus le risque d'invention est élevé.

Reste à comprendre pourquoi les étapes suivantes de l'entraînement, censées corriger ces défauts, n'y parviennent pas. La réponse des chercheurs tient dans une analogie avec l'école. Face à un QCM noté sans points négatifs, un élève qui ne sait pas a intérêt à cocher au hasard : une réponse blanche rapporte zéro, une réponse devinée a une chance de rapporter un point. Or la plupart des tests de référence qui servent à classer les modèles fonctionnent ainsi. Selon l'article, « les modèles de langage sont optimisés pour être de bons candidats aux examens, et deviner en cas d'incertitude améliore les résultats aux tests » (traduction Le Latent). Un modèle qui dit honnêtement « je ne sais pas » finit donc moins bien classé qu'un modèle qui bluffe.

La solution proposée n'est pas d'ajouter de nouveaux tests spécialisés, mais de changer la notation des tests existants : annoncer dans la consigne qu'une erreur coûte des points et qu'une abstention n'en coûte pas. Les auteurs citent le cas d'une consigne du type « ne réponds que si tu es sûr à plus de 75 % », avec une erreur pénalisée de 2 points, une bonne réponse qui en rapporte 1 et un « je ne sais pas » qui vaut 0, comme dans certains concours qui pratiquent les points négatifs (article de septembre 2025).

Les auteurs ajoutent que la recherche documentaire et le raisonnement ne sont pas des remèdes miracles : brancher un moteur de recherche ou un système de RAG réduit les hallucinations, mais ne les supprime pas quand la recherche ne trouve rien de sûr, et ne corrige pas une erreur de calcul comme le comptage de lettres.

Ce que disent les chiffres publics

Mesurer les hallucinations est difficile, et chaque test mesure une chose différente. Deux mesures publiques permettent d'en donner une idée, à condition de lire leur méthode.

Le test SimpleQA, présenté par des chercheurs d'OpenAI le 7 novembre 2024, pose 4 326 questions factuelles courtes, à réponse unique, choisies pour être difficiles. Chaque réponse est classée juste, fausse ou « non tentée ». Dans les résultats publiés à l'époque, GPT-4o répondait juste à 38,2 % des questions et faux à 60,8 %, en ne s'abstenant que sur 1 %. Claude 3.5 Sonnet (version du 20 juin 2024) répondait juste à 28,9 %, faux à 36,1 %, et s'abstenait sur 35 % des questions. Ces chiffres datent de fin 2024 et portent sur des modèles qui ont depuis été remplacés ; ils illustrent surtout l'écart entre un modèle qui tente tout et un modèle qui sait se taire.

Le classement de l'entreprise Vectara mesure autre chose : la fidélité d'un résumé. Chaque modèle doit résumer plus de 7 700 articles en n'utilisant que leur contenu, puis un modèle d'évaluation conçu par Vectara (HHEM-2.3, commercial) repère les affirmations absentes du texte d'origine. Dans la version du 22 octobre 2026, les taux d'hallucination rapportés vont de 1,8 % à 24,2 % selon les modèles. Parmi les modèles grand public, la page indique notamment 6,5 % pour gpt-6-sol d'OpenAI, 9,9 % pour claude-opus-5-5 d'Anthropic et 10,4 % pour gemini-3.1-pro-preview de Google. Ces chiffres sont ceux de Vectara, obtenus avec son propre évaluateur, sur un exercice de résumé : ils ne disent pas à quelle fréquence un chatbot invente quand on lui pose une question ouverte.

Pour suivre les sorties de modèles et leurs fiches techniques, voir notre rubrique Modèles.

Quand l'hallucination arrive au tribunal

L'affaire la plus documentée reste Mata contre Avianca. Roberto Mata poursuivait la compagnie aérienne pour une blessure au genou subie lors d'un vol. Dans un document déposé le 1er mars 2023, ses avocats ont cité des décisions de justice qui n'existaient pas. Le 22 juin 2023, le juge P. Kevin Castel, du tribunal fédéral du district sud de New York, a rendu une décision de sanctions de 43 pages qui détaille l'enchaînement.

L'avocat qui avait fait la recherche, Steven A. Schwartz, a déclaré à l'audience avoir supposé à tort que ChatGPT était une sorte de « super moteur de recherche » (traduction Le Latent). Il lui a demandé de la jurisprudence ; selon la décision, quand il lui a demandé de « fournir de la jurisprudence » ou de « montrer plus de décisions », « le chatbot s'est exécuté en les inventant » (traductions Le Latent). Six décisions, dont une prétendue « Varghese v. China Southern Airlines », ont été reconnues comme fabriquées. Interrogé directement pour savoir si « Varghese » existait, ChatGPT a répondu qu'il s'agissait de vraies décisions consultables dans les bases juridiques Westlaw et LexisNexis, selon les captures d'écran versées au dossier. Le juge a sanctionné les deux avocats et leur cabinet d'une amende de 5 000 dollars et leur a ordonné d'écrire à leur client et à chaque juge présenté à tort comme l'auteur d'une fausse décision (décision du 22 juin 2023).

Le juge ne reproche pas l'usage de l'IA en soi : il écrit qu'il n'y a « rien d'intrinsèquement inapproprié à se faire aider par un outil d'intelligence artificielle fiable » (traduction Le Latent), mais que l'avocat garde la responsabilité de l'exactitude de ce qu'il dépose. Ce qui a aggravé la sanction, selon la décision, c'est d'avoir continué à défendre ces fausses décisions après que le tribunal en eut mis en doute l'existence.

L'affaire n'est pas isolée. Damien Charlotin tient une base de données publique des décisions de justice qui constatent, ou dans certains cas évoquent, l'utilisation de contenus hallucinés par une IA, le plus souvent de fausses références. Au 29 octobre 2026, date de sa dernière mise à jour, elle recensait 2 241 décisions dans le monde, dont 14 en France. Son auteur précise qu'elle ne couvre pas toutes les fausses citations déposées devant les tribunaux, seulement celles qu'une juridiction a relevées.

Les outils spécialisés ne sont pas immunisés. Une étude de chercheurs de Stanford, publiée sur arXiv le 30 mai 2024, a testé des assistants juridiques professionnels qui s'appuient sur des bases de jurisprudence et dont les éditeurs mettaient en avant la fiabilité ; LexisNexis promettait même des citations « sans hallucination » (traduction Le Latent). Selon ses auteurs, Lexis+ AI de LexisNexis et les outils de Thomson Reuters hallucinaient dans 17 % à 33 % des cas, moins que GPT-4 utilisé seul, mais bien plus que zéro.

Comment s'en protéger au quotidien

Il n'existe pas de réglage qui supprime les hallucinations. Quelques habitudes en réduisent l'impact.

• Se méfier des détails précis sur des sujets rares. Dates, chiffres, noms de personnes peu connues, références d'articles ou de jugements : c'est exactement le terrain où, selon l'article d'OpenAI, les modèles inventent le plus, parce que ces faits apparaissent peu dans les données.
• Exiger des sources, puis les ouvrir. Un lien affiché ne prouve rien tant qu'on n'a pas vérifié qu'il existe et qu'il dit bien ce que l'IA lui fait dire. L'affaire Avianca montre qu'un chatbot peut confirmer avec aplomb l'existence d'une source qu'il a lui-même inventée.
• Ne pas demander à l'IA de se vérifier elle-même. Lui demander « es-tu sûr ? » ne remplace pas une vérification extérieure : dans le dossier Avianca, c'est précisément ce qu'a fait l'avocat.
• Autoriser le « je ne sais pas ». Préciser dans ta demande que tu préfères une absence de réponse à une réponse inventée va dans le sens de ce que recommandent les chercheurs d'OpenAI, même si cela ne garantit rien.
• Préférer les outils qui citent des documents précis pour les recherches factuelles, en gardant en tête qu'ils peuvent mal citer, comme l'a montré l'étude de Stanford.

Ces réflexes valent aussi pour les devoirs et les exposés : voir notre rubrique École. Pour les autres notions de base, rendez-vous sur le hub Comprendre, et pour l'éditeur de ChatGPT, sur la fiche OpenAI.

Pour aller plus loin : comment fonctionne le RAG, qui fait chercher des documents à l’IA avant de répondre, et pourquoi un modèle de raisonnement n’est pas à l’abri des erreurs.