Quand une IA d'entreprise hallucine, la réaction la plus fréquente consiste à changer de modèle ou à réécrire les prompts. Cela peut aider à la marge. Mais dans beaucoup de cas, le problème principal reste la qualité du contexte fourni pour répondre.
La page context engineering donne un bon point d'entrée pour comprendre ce changement de perspective.
Trois formes d'hallucinations que les entreprises rencontrent
Avant de chercher une solution, il est utile de distinguer ce que l'on appelle « hallucination » dans un contexte d'entreprise. Il y en a au moins trois types distincts, avec des causes et des remèdes différents.
- L'hallucination de contenu : le modèle invente une information qui n'existe pas dans les sources. C'est la version la plus visible du problème, et paradoxalement, souvent la moins courante en production bien configurée.
- L'hallucination de référence : le modèle cite un document qui existe mais le résume incorrectement, ou attribue une formulation à la mauvaise source. C'est fréquent quand les métadonnées des chunks sont absentes ou mal structurées.
- L'hallucination de synthèse : le modèle reçoit plusieurs documents contradictoires et produit une réponse qui « fusionne » des versions incompatibles. C'est souvent la conséquence d'un corpus non dédupliqué où coexistent des versions périmées et des versions actuelles.
La première nécessite d'améliorer le retrieval. La deuxième nécessite de mieux structurer les métadonnées. La troisième nécessite une gouvernance documentaire active.
Les causes les plus fréquentes
- Le bon document n'est pas récupéré au bon moment - la recherche vectorielle seule manque les correspondances exactes sur les termes métier.
- Le contexte contient des versions obsolètes ou contradictoires - sans gouvernance calendaire, les anciens documents restent accessibles.
- L'IA doit répondre à partir d'un corpus qui n'a pas été structuré pour cet usage - des documents pensés pour être lus par des humains ne se découpent pas naturellement en chunks efficaces pour le RAG.
Pourquoi les bons modèles ne suffisent pas
Un modèle performant raisonne mieux, reformule mieux et synthétise mieux. Mais il travaille sur ce qu'on lui soumet. Si le contexte injecté dans la requête est incomplet, ambigu ou contradictoire, même le meilleur modèle produira une réponse fragile.
C'est une limite intrinsèque à l'architecture des LLMs : ils optimisent la cohérence narrative de la réponse par rapport au contexte reçu. Quand le contexte est mal formé, ils comblent les lacunes avec ce qui semble « plausible ». C'est une source principale des hallucinations de production.
Le rôle décisif de la qualité du retrieval
Le retrieval - la mécanique qui sélectionne quels fragments de documents sont envoyés au modèle - est souvent le maillon le plus négligé. Deux stratégies se complètent pour le rendre robuste :
- Recherche sémantique (vectorielle) : efficace pour les requêtes sur des concepts, des intentions ou des idées. Moins précise sur les termes exacts, les noms propres ou les références techniques.
- Recherche lexicale (BM25) : efficace pour retrouver des termes précis, des codes produit, des noms de procédures. Moins bonne sur les requêtes sémantiques larges.
Un retrieval hybride qui combine les deux approches réduit significativement le taux de mauvaise récupération. C'est souvent le premier levier à activer avant même de toucher au modèle.
Mesurer avant de corriger
Sans mesure objective, il est difficile de savoir si les ajustements apportés améliorent réellement la situation. Les métriques RAGAS offrent un cadre structuré :
- Faithfulness : la réponse est-elle entièrement fondée sur le contexte fourni ? Ce score révèle le taux d'invention nette.
- Context recall : les fragments nécessaires pour répondre ont-ils tous été récupérés ? Un score bas indique un retrieval incomplet.
- Context precision : les fragments récupérés sont-ils tous utiles, sans bruit parasite ? Un score bas indique du contexte superflu qui dilue la pertinence.
Ces métriques permettent de diagnostiquer précisément si le problème est dans le retrieval, dans la structure des documents, ou dans la gouvernance du corpus. Voir aussi : comment mesurer la qualité de votre contexte.
Le levier plus utile
Il faut améliorer le couple retrieval + gouvernance du contexte : meilleure sélection des sources, hiérarchie plus claire, suivi de la qualité et traçabilité plus explicite. C'est précisément ce que Dataloma relie entre la plateforme et la gouvernance IA.
Conclusion
Si votre IA hallucine encore, regardez moins le modèle et davantage le contexte qu'elle reçoit. Identifiez le type d'hallucination, mesurez avec RAGAS, améliorez le retrieval et gouvernez votre corpus. C'est là que se joue la fiabilité réelle du système.