Créer une base de connaissances IA (RAG) en entreprise

Les manuels produits dorment sur un disque partagé, les procédures sur l’intranet et les règles de prix dans la tête du directeur commercial : une seule question peut obliger à solliciter trois personnes. Une base de connaissances IA permet aux salariés ou aux clients de poser leurs questions en langage courant et d’obtenir une réponse tirée de vos propres documents, source à l’appui. Voici comment fonctionne le RAG, comment en créer un en six étapes, quelle configuration choisir et ce qu’il faut savoir sur les coûts et la sécurité.

À retenir

Une base de connaissances IA d’entreprise se construit généralement avec le RAG (génération augmentée par récupération) : le système retrouve les passages pertinents dans vos propres documents, puis un modèle de langage répond à partir de ces passages et les cite. La qualité dépend surtout de contenus propres, d’une bonne recherche et de droits d’accès conçus dès le départ, bien plus que du modèle choisi. Les plateformes low-code sont le moyen le plus rapide de lancer un pilote, les modèles ouverts auto-hébergés gardent les données en interne, et le développement sur mesure se justifie quand la base doit s’intégrer en profondeur à vos systèmes.

Qu’est-ce qu’une base de connaissances IA (RAG) ?

Une base de connaissances IA répond à des questions en langage naturel à partir des documents de votre entreprise, et la façon la plus courante d’en construire une est le RAG, pour retrieval-augmented generation (génération augmentée par récupération). Le terme vient d’un article de 2020 de Lewis et al. (en anglais), chercheurs de Facebook AI Research, de l’University College London et de l’université de New York, qui combinait ce qu’un modèle de langage apprend à l’entraînement avec un index de documents externe consulté au moment de répondre.

Chaque réponse passe par trois étapes :

1. Récupérer : la question est convertie en vecteur (une suite de nombres qui en capture le sens) et comparée aux fragments indexés de vos documents.
2. Enrichir : les passages les plus pertinents sont transmis au modèle avec la question.
3. Générer : le modèle répond à partir de ces passages et indique les documents utilisés.

Comme l’index se trouve en dehors du modèle, notent les auteurs de l’article, les connaissances peuvent être mises à jour sans réentraînement : on remplace un fichier, on le réindexe, et les réponses suivent.

RAG, ChatGPT ou fine-tuning : quelle différence ?

La différence tient à l’endroit où vivent les connaissances de l’entreprise : ChatGPT et les autres assistants généralistes ne connaissent que les contenus publics sur lesquels ils ont été entraînés, le fine-tuning intègre des connaissances ou un style dans le modèle lui-même, et le RAG conserve les connaissances dans une bibliothèque externe interrogée à chaque question.

• Un assistant généraliste ne connaît ni les caractéristiques de vos produits, ni vos règles de prix, ni vos procédures. Lui envoyer des fichiers dépanne, mais sans version unique à jour ni droits d’accès par personne.
• Le fine-tuning réentraîne un modèle sur vos données. Il aide pour un format fixe, un ton ou une tâche étroite, mais c’est un mauvais moyen de stocker des faits : quand les documents changent, il faut réentraîner, et les réponses ne peuvent pas citer de source. L’article fondateur du RAG note d’ailleurs que les modèles purement paramétriques doivent être réentraînés pour mettre à jour leurs connaissances et peinent à indiquer d’où vient une information.
• Le RAG prend en compte les documents mis à jour dès leur réindexation, cite ses sources et peut filtrer les contenus selon la personne qui pose la question.

Pour la plupart des bases de connaissances d’entreprise, commencez par le RAG et n’ajoutez du fine-tuning que pour un format ou un ton précis.

Où une base de connaissances IA est la plus utile

Le RAG fonctionne le mieux pour les questions dont la réponse est écrite quelque part, mais noyée dans trop de documents : questions internes (notes de frais, procédures informatiques, intégration des nouveaux arrivants), service client à partir des manuels, des conditions de retour et des anciens tickets sur votre site web ou WhatsApp (voir comment créer un chatbot IA pour le service client), supports commerciaux comme les fiches techniques, les comparatifs et les clauses types, procédures qualité citées article par article, et manuels techniques.

Deux types de tâches s’y prêtent mal. Les données en temps réel, comme les stocks ou le statut d’une commande, doivent venir directement de vos systèmes, par exemple via une API ou un serveur MCP relié à votre ERP, et non d’un export de tableur peut-être périmé. Et l’analyse complète d’un contrat clause par clause ne se résout pas en récupérant quelques passages.

Comment créer une base de connaissances IA en six étapes

Créer une base de connaissances IA se fait en six étapes : auditer et nettoyer les contenus, les découper et les vectoriser, mettre en place la recherche et le reclassement, appliquer les droits d’accès, citer les sources, puis évaluer et tenir à jour. Les deux premières fixent le plafond de qualité.

1. Auditer et nettoyer les contenus

Recensez où se trouvent les connaissances (disques partagés, intranet, e-mails, outils de tickets), dans quels formats et qui les maintient. Supprimez les anciennes versions et les doublons, passez les documents scannés à l’OCR, restructurez les tableaux complexes et étiquetez chaque document avec le service, le niveau de confidentialité, la zone géographique et la date d’entrée en vigueur. Si vos documents se contredisent, l’IA se contredira aussi. Rassemblez également les vraies questions posées par les gens, pour les tests.

2. Découper et vectoriser

Les documents sont découpés en fragments (chunks), convertis en vecteurs par un modèle d’embedding et stockés dans une base de données vectorielle. Découpez selon la structure du document : titres, clauses, paires question-réponse. À titre de repère, le service de recherche d’OpenAI (en anglais) utilise par défaut des fragments de 800 tokens avec un chevauchement de 400, et les réglages de découpage de Dify (en anglais) proposent un mode parent-enfant qui fait la correspondance sur de petits fragments mais renvoie la section complète comme contexte.

Le problème le plus courant est la perte de contexte. Les travaux d’Anthropic sur la Contextual Retrieval (en anglais) donnent l’exemple d’un fragment indiquant que le chiffre d’affaires a progressé de 3 % par rapport au trimestre précédent, sans préciser de quelle entreprise ni de quel trimestre il s’agit. La solution consiste à faire précéder chaque fragment du titre du document, de la section et d’une courte description. Pour des contenus multilingues, choisissez un modèle d’embedding qui prend en charge toutes vos langues.

3. Rechercher et reclasser

La recherche vectorielle seule rate ce qui exige une correspondance exacte, comme les références produits ou les numéros de clause ; la plupart des systèmes ajoutent donc une recherche par mots-clés comme BM25 (« recherche hybride »), puis un modèle de reclassement (reranking). Dans les tests d’Anthropic sur plusieurs domaines de connaissances, ajouter du contexte aux fragments a réduit de 35 % la part de contenus pertinents absents des 20 premiers résultats ; y ajouter la recherche par mots-clés, de 49 % ; y ajouter le reclassement, de 67 % (de 5,7 % à 1,9 %). Les réglages de recherche de Dify (en anglais) proposent de même la recherche vectorielle, plein texte et hybride, avec reclassement en option.

4. Appliquer les droits d’accès

Les droits d’accès doivent s’appliquer au moment de la recherche : les documents sont filtrés selon la personne qui pose la question avant que quoi que ce soit n’atteigne le modèle, généralement grâce à des métadonnées comme le service ou le niveau de confidentialité. Le service de recherche d’OpenAI peut filtrer les fichiers par attributs avant la recherche sémantique, et le filtrage par métadonnées de Dify (en anglais) restreint la recherche selon des champs de métadonnées. Séparez la base destinée aux clients de la base interne. Un prompt qui demande au modèle de garder des secrets n’est pas un contrôle d’accès.

5. Citer les sources

Chaque réponse doit indiquer sa source : document, section et idéalement un lien. Demandez au modèle de répondre uniquement à partir des passages récupérés et de le dire quand ils ne couvrent pas la question. Les citations renforcent la confiance et montrent quel document corriger quand une réponse est fausse ; Dify appelle cette fonction « Citation and Attribution ».

6. Évaluer et tenir à jour

Avant le lancement, testez avec vos vraies questions : le bon document a-t-il été retrouvé, la réponse est-elle juste, la citation est-elle exacte ? Ensuite, examinez les questions restées sans réponse et les réponses inutiles, et ajustez. Attribuez un responsable à chaque ensemble de documents, réindexez quand les fichiers changent et retirez les documents expirés.

Plateforme, sur mesure ou auto-hébergé : comment choisir

La bonne configuration dépend de la vitesse à laquelle vous voulez lancer un pilote, de la sensibilité des données et du degré d’intégration nécessaire avec vos systèmes.

Les plateformes low-code (comme Dify ou Coze) permettent de charger des fichiers et de configurer la recherche dans une interface visuelle, ce qui convient aux prototypes, aux pilotes et aux cas d’usage standards ; notre comparatif n8n vs Dify vs Coze détaille les différences entre ces plateformes. Dify et Coze Studio, l’édition open source de Coze, peuvent tous deux être auto-hébergés avec Docker (voir le guide Docker Compose de Dify, en anglais). Vérifiez les licences : Coze Studio est sous Apache 2.0, tandis que la licence de Dify ajoute des conditions à la licence Apache 2.0, par exemple l’obligation d’obtenir une licence commerciale pour exploiter un service multi-locataire. Des modèles de droits complexes ou des intégrations profondes peuvent dépasser ce qu’une plateforme permet.

Le développement sur mesure consiste à construire soi-même la chaîne de traitement (analyse des documents, découpage, base vectorielle, recherche hybride, droits d’accès) au sein de votre ERP, de votre CRM, de votre intranet ou de votre site web. Il offre le plus de contrôle et réutilise vos identifiants et rôles existants, au prix d’un investissement initial plus important et d’une maintenance continue.

L’auto-hébergement fait tourner des modèles à poids ouverts sur vos propres serveurs ou sur un cloud dédié, de sorte que documents et questions restent en interne. DeepSeek et Qwen font partie des choix courants : le code et les poids de DeepSeek-R1 sont sous licence MIT et le projet indique qu’ils autorisent l’usage commercial, et l’équipe de Qwen3 indique que ses modèles à poids ouverts sont sous licence Apache 2.0. Vérifiez la licence de chaque modèle : les versions distillées de DeepSeek-R1 sont construites sur des modèles Qwen ou Llama, et le projet renvoie aux licences d’origine de ces modèles de base. Le matériel dépend de la taille : DeepSeek-R1 complet compte 671 milliards de paramètres, tandis que les versions distillées officielles vont de 1,5 à 70 milliards et sont bien plus légères ; testez-les sur vos propres questions.

Ces options se combinent bien, par exemple un Dify auto-hébergé relié à un modèle ouvert local.

De quoi dépend le coût d’une base de connaissances IA

Il n’existe pas de prix standard : le coût se compose de travaux ponctuels et de coûts de fonctionnement.

• Ponctuel : préparation des contenus (la partie la plus sous-estimée, qui augmente avec la dispersion des sources, les documents scannés et les tableaux), configuration ou développement, intégrations comme l’authentification unique (SSO), le site web, WhatsApp ou le CRM, et phase de tests et de réglages.
• Fonctionnement : utilisation du modèle (facturation au token dans le cloud, ou achat ou location de serveurs GPU en auto-hébergement), appels d’embedding et de reclassement (la documentation de Dify précise que le reclassement consomme des tokens du modèle de reranking), stockage vectoriel, abonnements ou licences de plateforme, et exploitation : serveurs, mises à jour de sécurité, entretien des contenus et supervision.

Les principaux facteurs sont le volume et la complexité des documents, le nombre d’utilisateurs et de questions, les droits d’accès, les langues, le mode de déploiement et le niveau de précision exigé. Lancez un pilote avec un seul service, mesurez le coût réel par réponse, puis décidez s’il faut étendre.

Sécurité des données : droits d’accès, conformité et empoisonnement

Une base de connaissances IA concentre les informations de l’entreprise en un seul endroit : la sécurité doit être pensée dès la conception.

• Droits d’accès : le Top 10 OWASP pour les applications LLM 2025 (en anglais) classe les faiblesses des vecteurs et des embeddings parmi les risques : des contrôles d’accès insuffisants exposent des contenus sensibles, et des équipes ou des clients qui partagent une même base vectorielle peuvent voir les données des autres. L’OWASP recommande des bases vectorielles qui tiennent compte des droits et une journalisation détaillée des recherches.
• Données personnelles : pour les données personnelles de personnes situées dans l’UE, le RGPD impose de ne traiter que le nécessaire (article 5), une sécurité adaptée au risque (article 32), un contrat avec tout prestataire traitant des données pour votre compte (article 28) et des transferts licites hors de l’UE (chapitre V). Beaucoup de cas d’usage ne nécessitent aucune donnée personnelle.
• Empoisonnement : l’exemple de l’OWASP est un CV contenant un texte caché, blanc sur blanc, qui demande à l’IA de recommander le candidat, envoyé à un système de recrutement qui trie les CV avec du RAG. N’indexez que des sources fiables et contrôlez ce qui est chargé.
• Conditions des fournisseurs : avec des modèles dans le cloud, vérifiez si les données servent à l’entraînement, où elles sont stockées et pendant combien de temps, et fixez une durée de conservation pour les historiques de conversation. Notre comparatif ChatGPT, Claude ou Gemini en entreprise fait ce point pour les offres entreprise de ces trois assistants.

Erreurs fréquentes

• Tout y verser : les documents périmés et contradictoires dégradent les réponses.
• Croire que le RAG supprime les hallucinations : il les réduit sans les éliminer ; faites en sorte que le modèle admette quand il ne sait pas et vérifiez les réponses importantes.
• Se limiter à la recherche vectorielle : les codes et les noms propres passent à la trappe.
• Ajouter les droits d’accès après coup : une information qui a fuité ne se récupère pas.
• Utiliser le RAG sans en avoir besoin : Anthropic note qu’une base de connaissances de moins de 200 000 tokens (environ 500 pages) peut simplement être placée dans le prompt, si la fenêtre de contexte du modèle peut la contenir.
• Aucun jeu de tests ni responsable : personne ne peut dire si la qualité progresse, et les contenus vieillissent.

Questions fréquentes

Comment créer une base de connaissances IA pour son entreprise ?

On crée une base de connaissances IA en six étapes : auditer et nettoyer les documents, les découper et les vectoriser, rechercher avec une recherche hybride et un reclassement, filtrer selon les droits de l’utilisateur, citer les sources dans chaque réponse, puis évaluer avec de vraies questions tout en tenant les contenus à jour. L’entreprise fournit les documents avec un responsable pour chacun, un ensemble de vraies questions et les règles indiquant qui peut voir quoi.

Quelle est la différence entre RAG et fine-tuning ?

Le RAG récupère des passages dans une bibliothèque de documents externe au moment de la question : les documents mis à jour sont pris en compte dès leur réindexation et les réponses peuvent citer leurs sources. Le fine-tuning réentraîne le modèle sur vos données ; il convient à un format fixe, à un ton ou à une tâche étroite, mais tout changement de faits impose un nouvel entraînement et les réponses ne peuvent pas indiquer de source. La plupart des bases de connaissances d’entreprise commencent par le RAG.

Une base de connaissances IA peut-elle fonctionner entièrement sur nos propres serveurs ?

Oui. La plateforme (par exemple Dify ou Coze Studio auto-hébergés), la base de données vectorielle et un modèle à poids ouverts comme DeepSeek ou Qwen peuvent tous tourner sur vos propres serveurs ou sur un cloud dédié, de sorte que documents et questions restent en interne. C’est alors à vous de fournir et d’exploiter le matériel GPU : vérifiez la licence de chaque modèle et testez d’abord des modèles plus petits sur vos propres questions.

UsualMatrix crée des bases de connaissances IA pour des entreprises du monde entier, sur une plateforme low-code, en développement sur mesure ou avec des modèles open source sur vos propres serveurs, et peut les relier à un service client IA sur votre site web ou WhatsApp. Nous communiquons en chinois, en espagnol et en anglais. Découvrez nos solutions d’intelligence artificielle ou contactez-nous pour parler de vos documents et de vos cas d’usage.

Remarque : les informations sur le RGPD contenues dans cet article sont générales, à jour à la date de publication, et ne constituent pas un avis juridique. Les fonctionnalités et licences des outils tiers évoluent : consultez la documentation officielle de chaque éditeur.