Interroger ses documents internes avec l’IA

Par Elisha Bajemon, Ingénieur IA chez TW3 Partners. Dernière mise à jour : 2 octobre 2026.

En bref

Une IA interrogée sur des documents internes retrouve d’abord les passages pertinents dans un index, puis rédige une réponse à partir de ces passages, en citant la source. Ce mécanisme, appelé génération augmentée de récupération (RAG), consiste selon les questions-réponses de la CNIL sur l’IA générative (18 juillet 2024) « à intégrer un mécanisme de recherche d’informations dans une base de données vectorisée ». Relié aux outils métiers, l’assistant ne se limite plus à lire : il consulte la GED, SharePoint, l’ERP ou le CRM par leurs API ou par un protocole standard comme le Model Context Protocol.

Selon l’Insee Première n° 2120 (juillet 2026), 18 % des entreprises implantées en France utilisaient au moins une technologie d’IA en 2025, et 58 % des entreprises de 250 salariés ou plus. La qualité d’un tel assistant se mesure sur un jeu de questions validé par les métiers, avec le taux de réponses appuyées sur une source et le taux de refus justifiés. Un premier projet se cadre sur trois décisions : le périmètre documentaire, la volumétrie et le calendrier.

1. Comment un assistant répond-il à partir des documents internes ?

Un assistant documentaire désigne un système qui répond aux questions des utilisateurs à partir d’un fonds de documents de l’organisation, en retrouvant les passages utiles avant de rédiger. Le modèle de langage ne connaît pas vos documents ; on les lui présente au moment de la question. Le procédé a été formalisé dans l’article « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks » de Patrick Lewis et ses coauteurs (22 mai 2020) : la mémoire du modèle y est complétée par un index de documents.

Le guide RAG de Mistral AI décrit les étapes : découper les documents en morceaux, calculer pour chacun une représentation numérique (« embedding »), stocker ces représentations dans une base vectorielle, retrouver les morceaux les plus proches de la question, puis faire répondre le modèle à partir de ces morceaux.

La documentation Azure AI Search de Microsoft (page datée du 4 août 2026) ajoute deux pratiques courantes : combiner recherche par mots-clés et recherche vectorielle, puis reclasser les résultats selon le sens. Son exemple : l’utilisateur demande la politique de congés des télétravailleurs alors que les documents parlent de « time off » et de « telecommute ».

Phase	Ce qui se passe	Ce que le décideur doit vérifier
Indexation	Collecte, conversion (PDF, Word, courriels), découpage, calcul des représentations, enregistrement avec les métadonnées	Quels fonds sont inclus, à quelle fréquence l’index est rafraîchi
Recherche	Sélection des passages les plus proches de la question, filtrés selon les droits de l’utilisateur	Que les droits d’accès d’origine sont respectés
Génération	Le modèle rédige à partir des passages retenus et cite le document et la page	Que l’assistant signale l’absence d’information plutôt que d’inventer

2. Que veut dire « relié aux outils métiers » ?

Relié aux outils métiers, l’assistant accède aux applications de l’organisation au lieu de dépendre d’une copie de documents. En lecture, il interroge la GED, SharePoint, l’ERP ou le CRM au moment de la question, ce qui garantit une information à jour. En écriture, il crée une fiche ou ouvre un ticket dans l’application ; on passe alors de l’assistant à l’agent, avec les règles de validation qui vont avec.

Le Model Context Protocol (MCP) est un standard ouvert pour connecter les applications d’IA à des systèmes externes ; son site le compare à un port USB-C. Son architecture relie un hôte (l’application d’IA) à des serveurs qui exposent des outils (fonctions exécutables), des ressources (données de contexte) et des invites (modèles d’interaction) ; le transport HTTP accepte les jetons d’authentification et le protocole recommande OAuth.

Dans son rapport « Agentic AI in organisations » (16 septembre 2026, entretiens avec 25 organisations), l’OCDE relève que MCP est fréquemment cité comme mécanisme privilégié pour une connexion aux outils authentifiée et gouvernée, et que de nombreux clients refusent encore tout accès externe à leurs données sensibles.

Mode de liaison	Ce que fait l’assistant	Point de vigilance
Indexation par connecteur	Copie et vectorise les documents d’une GED ou d’un site SharePoint	Reprendre les droits d’accès de la source dans l’index
Interrogation à la demande	Consulte l’ERP ou le CRM pendant la conversation, par API ou par serveur MCP	Authentifier chaque appel et le journaliser
Action dans l’application	Crée ou modifie un enregistrement	Validation humaine avant toute action à effet

La page L’IA dans vos applications de TW3 Partners décrit ce principe : l’agent travaille dans Salesforce, SAP, Moodle, Microsoft 365, SharePoint ou HubSpot avec les droits de la personne qui l’utilise, par API, par MCP ou, en l’absence d’API, par l’interface.

3. Que sait faire l’assistant, et que ne sait-il pas faire ?

L’assistant sait retrouver, résumer et citer ; il ne sait ni vérifier un fait absent de ses sources ni arbitrer entre deux documents contradictoires sans règle donnée. Le guide ANSSI-PA-102 (29 avril 2024) rappelle que les grands modèles de langage « ont pour la plupart un comportement non-déterministe » et « peuvent également être sujet à des hallucinations » ; la CNIL rappelle que « les utilisateurs finaux devraient toujours porter un regard critique » sur les résultats.

Ce que l’assistant fait bien	Ce qu’il ne fait pas
Retrouver un passage par le sens, même avec d’autres mots que ceux du document	Répondre sur un document qui n’a pas été indexé ou auquel l’utilisateur n’a pas accès
Rassembler plusieurs sources dans une synthèse citée	Garantir l’exactitude sans relecture : la citation sert précisément à vérifier
Signaler qu’une information ne figure pas dans le fonds	Choisir entre une procédure de 2019 et sa version de 2025 si la règle de priorité n’est pas définie
Répondre en plusieurs langues sur un fonds multilingue	Lire un document scanné de mauvaise qualité sans OCR adapté

La liste OWASP Top 10 for LLM Applications 2025 (17 novembre 2024) nomme les risques propres à ces systèmes, dont l’injection de requête (LLM01), la divulgation d’informations sensibles (LLM02), l’autonomie excessive (LLM06) et les faiblesses des vecteurs et des représentations (LLM08). Un document indexé contenant des instructions cachées peut détourner l’assistant ; la recommandation R27 de l’ANSSI limite pour cette raison les actions automatiques déclenchées par des entrées non maîtrisées.

4. Quels droits d’accès et quelle confidentialité ?

La règle est simple : l’assistant ne montre à un utilisateur que ce qu’il aurait le droit d’ouvrir lui-même. Microsoft la formule ainsi dans sa documentation : « Users and agents must only retrieve authorized content », avec un filtrage au niveau du document et la reprise des permissions SharePoint ou de l’annuaire d’entreprise. L’ANSSI pose le même principe du besoin d’en connaître (recommandation R8) et demande une revue des droits d’accès des outils d’IA sur les applications métier dès leur activation, puis à intervalle régulier (R35).

Trois autres recommandations encadrent la confidentialité.

Ne pas envoyer de données sensibles à un service grand public. La R34 de l’ANSSI interdit d’intégrer des données sensibles de l’entité (personnelles, contractuelles, juridiques, financières, secrets informatiques) dans les requêtes adressées à des services d’IA générative sur Internet. La CNIL recommande de « privilégier le déploiement de solutions « sur site » » lorsque des données personnelles sont traitées, et une charte des usages autorisés et interdits.
Cloisonner et tracer. La fiche de la CNIL « Garantir la sécurité du développement d’un système d’IA » (22 juillet 2025) demande de contrôler les accès aux données, de cloisonner les jeux de données sensibles et de « gérer les habilitations, tracer les accès, analyser les traces ».
Limiter les droits des connecteurs. Les bonnes pratiques de sécurité du MCP prescrivent un modèle de droits progressif, à moindre privilège, et interdisent à un serveur d’accepter un jeton qui ne lui a pas été explicitement délivré. La R26 de l’ANSSI exige des flux documentés, filtrés, chiffrés, authentifiés et journalisés avec les autres applications.

5. Comment mesure-t-on la qualité des réponses ?

La qualité se mesure sur un jeu de questions dont les réponses attendues ont été validées par les métiers ; une démonstration réussie ne constitue pas une mesure. Prenons une direction technique qui prépare une centaine de questions tirées des demandes réelles de ses équipes, avec pour chacune le document et la page de la réponse : ce jeu précède le développement et sert à chaque mesure.

Quatre indicateurs suffisent à piloter un premier projet.

Fidélité de la réponse. La métrique « faithfulness » du cadre d’évaluation Ragas divise le nombre d’affirmations de la réponse appuyées par le contexte retrouvé par le nombre total d’affirmations, sur une échelle de 0 à 1.
Taux de réponses sourcées. Part des réponses qui renvoient à un document et à une page exacts. La documentation Microsoft décrit un suivi intégré des citations.
Taux de refus justifiés. Sur des questions dont la réponse ne figure pas dans le fonds, part des cas où l’assistant le dit au lieu d’inventer.
Précision de la recherche. Part des questions pour lesquelles le bon passage figure parmi les passages retenus, mesurée avant la génération.

Ces mesures supposent des journaux : la recommandation R29 de l’ANSSI demande de journaliser les requêtes, les traitements avant l’envoi au modèle, les appels aux outils et aux données additionnelles, les filtres en sortie et les réponses. L’OCDE note que les organisations interrogées réclament des évaluations à l’échelle du système, au-delà du seul modèle.

6. Que demande un premier projet d’IA sur les documents internes ?

Un premier projet demande trois décisions avant toute ligne de code : le périmètre documentaire, la volumétrie et le calendrier. Le contexte est celui d’une adoption rapide : d’après Eurostat (11 décembre 2025), 20,0 % des entreprises de l’Union européenne de 10 salariés ou plus utilisaient des technologies d’IA en 2025, contre 13,5 % en 2024, et l’usage le plus répandu est l’analyse de langage écrit (11,8 %).

Décision	Questions à trancher	Conséquence sur le projet
Périmètre documentaire	Quels fonds, quels formats, quelle date de validité, quels documents exclus	Détermine les connecteurs et les règles de priorité entre versions
Volumétrie	Nombre de documents et de pages, part de documents scannés, langues	Détermine le besoin d’OCR, le coût d’indexation et le rythme de rafraîchissement
Calendrier	Date du pilote, utilisateurs pilotes, critères d’arrêt ou d’extension	Détermine l’ordre d’indexation des fonds et la date de la première mesure

Le pilote se conduit sur un fonds borné et des utilisateurs identifiés, avec la mesure décrite plus haut comme critère d’extension. La documentation Microsoft rappelle que la qualité dépend de la préparation du contenu : découpage des documents longs, analyse de plus de 50 langues, OCR pour les PDF et les images. Un fonds mal préparé produit des réponses mal sourcées, quel que soit le modèle ; le périmètre documentaire reste donc la première décision d’un projet d’IA sur les documents internes.

7. FAQ

Faut-il réentraîner un modèle sur nos documents ?
Non dans la plupart des cas. La CNIL distingue le réglage fin, qui modifie les paramètres du modèle, et le RAG, qui produit « des réponses enrichies par des données externes, potentiellement plus spécifiques et plus faciles à actualiser que le modèle lui-même ». Un document ajouté à l’index est utilisable sans réentraînement.

L’assistant peut-il lire des documents scannés ?
Oui, avec une étape d’OCR adaptée. La documentation Azure AI Search cite l’OCR, l’analyse d’images et l’extraction de documents parmi les traitements de préparation. La qualité de cette lecture se vérifie sur un échantillon avant d’indexer tout le fonds.

Nos documents sont-ils transmis à un fournisseur d’IA ?
Cela dépend de l’hébergement retenu. La CNIL recommande de privilégier un déploiement sur site lorsque des données personnelles sont traitées, car cela « limite les risques d’extraction de données auprès d’un tiers ». L’ANSSI interdit l’envoi de données sensibles vers des services grand public (R34).

Que se passe-t-il si un utilisateur demande un document auquel il n’a pas accès ?
L’assistant ne doit pas le retrouver. Le filtrage selon les droits s’applique au moment de la recherche, avant la génération, et reprend les permissions de la source. L’ANSSI demande une revue de ces droits dès l’activation de l’outil, puis à intervalle régulier (R35).

Un document piégé peut-il détourner l’assistant ?
Oui, c’est l’injection de requête indirecte, premier risque de la liste OWASP 2025. Les parades sont le filtrage des entrées et des sorties, la limitation des actions automatiques déclenchées par des contenus non maîtrisés (ANSSI R27) et la journalisation des appels.

Quelle différence avec un agent IA ?
L’assistant documentaire lit et cite ; l’agent agit dans les applications. Dès qu’une action a un effet, l’ANSSI exige une validation humaine pour les actions critiques (R9), et le périmètre des droits accordés aux connecteurs devient le point le plus sensible du projet.

Interroger ses documents internes avec l’IA : fonctionnement d’un assistant relié aux outils métiers