Stratégie & Gouvernance · N° 192
RAG et confidentialité : quand l'index vectoriel expose des documents que personne n'aurait dû retrouver
Un index construit sans filtre de droits a rendu accessibles des notes RH à des managers non habilités. Alvorèse a reconstruit l'index en injectant les règles d'habilitation à la source — leçon : la sécurité du RAG est une question d'annuaire, pas de modèle.

Le premier démonstrateur a bluffé tout le monde. Le lundi 6 juillet 2026, j'ai demandé ce qui se passait quand la source n'existait pas.
Je n'ai pas tout réussi, et ce n'est pas le propos.
Le point de départ
« Un index construit sans filtre de droits a rendu accessibles des notes RH à des managers non habilités. »
Sofia Mendès, DSI Groupe de la Banque Alvorèse (Belgique)
Rien de spectaculaire côté organisation : Belgique, des métiers sous tension, et une direction des systèmes d'information qui doit tenir la production tout en préparant l'année suivante. Dans ce type de situation, l'enjeu était de rendre le service utile sans perdre la maîtrise des sources. J'ai choisi de commencer par ce qui était vérifiable, plutôt que par ce qui faisait plaisir à lire.
Ce qui s'est passé, dans l'ordre
- J+00
1. Périmètre documentaire fermé : la seule étape qui ait été tenue comme prévu.
- J+09
2. Sources datées et versionnées. J'en ai gardé une trace écrite prise sur le vif, parce que je savais qu'on me demanderait.
- J+18
3. Garde-fous et refus hors domaine — le point où j'ai compris que le calendrier officiel ne tenait pas.
- J+27
4. Mesure du taux d'erreur réel — c'est l'étape qui a pris le plus de temps, et personne ne l'avait vue venir.
- J+36
5. Extension ou arrêt du service. Sur le moment, j'ai trouvé ça superflu ; ça nous a évité deux retours arrière.
« Alvorèse a reconstruit l'index en injectant les règles d'habilitation à la source — leçon : la sécurité du RAG est une question d'annuaire, pas de modèle. » — cette phrase a été écrite au moment de la revue intermédiaire, avant consolidation des chiffres.
Ce qui a coincé
Le modèle n'était pas le problème : c'est la gouvernance des sources qui déterminait tout. Sans propriétaire nommé par domaine, les réponses errées remontaient. Rien de dramatique en soi — mais c'est exactement ce qui fait déborder un planning.
Les usages non déclarés ont été découverts par la comptabilité des licences, pas par la sécurité. Nous l'avons su trop tard, comme presque toujours.
Le référentiel documentaire était à jour dans la forme et faux dans le fond : trois procédures n'avaient jamais été appliquées. C'est le genre de détail qui ne coûte rien tant qu'on n'en a pas besoin.
Ce que je fais désormais
- Depuis, chaque domaine documentaire a un responsable nommé, avec une date de revue.
- Aujourd'hui, nous publions les erreurs corrigées par les relecteurs autant que les cas réussis.
- Un cas d'usage qui ne tient pas sa mesure d'erreur est arrêté, et l'arrêt est annoncé.
La suite
Aujourd'hui, il reste de ce dossier une habitude : la revue trimestrielle sur preuves, avec les mêmes personnes dans la pièce. J'ai arrêté de compter sur les procédures seules.
Repères
Trois ou quatre mots reviennent dans ce dossier et méritent d'être posés, parce qu'ils structurent les décisions.
- RAG
- Retrieval-Augmented Generation : le modèle de langage répond à partir d'un corpus documentaire retrouvé par recherche, ce qui borne les réponses au périmètre maîtrisé.
Cadre de référence
- Législation sur l'IA — Commission européenne. Approche par risques, pratiques interdites, calendrier.
- Règlement (UE) 2024/1689 — règles harmonisées sur l'intelligence artificielle (AI Act) — EUR-Lex. ELI officiel vérifié en navigateur, version française.
- Intelligence artificielle (IA) — CNIL. Dossier protection des données et systèmes d'IA.
- L'analyse d'impact relative à la protection des données (AIPD) — CNIL. Méthode, listes de traitements, outil PIA.
- Licence Ouverte 2.0 — data.gouv.fr (Etalab). Conditions de réutilisation des données publiques.
Ces pages officielles externes sont données comme repères : elles ouvrent un nouvel onglet et n'impliquent aucune validation de la part des organismes cités.