Stratégie & Gouvernance · N° 149
Qualité des données d'entraînement : l'étiquetage des biais devient une obligation contractuelle des éditeurs
La documentation des jeux d'entraînement passe du marketing à l'exigence d'achat. Althévia demande les sources, la représentation démographique et la politique d'exclusion. Deux éditeurs ont refusé et perdu l'appel d'offres — le rapport est désormais joint au contrat.

Nous avons mesuré le mauvais indicateur pendant trop longtemps. Le lundi 16 février 2026, j'ai changé de question.
J'ai gardé mes notes telles quelles, y compris les passages gênants.
Le point de départ
« La documentation des jeux d'entraînement passe du marketing à l'exigence d'achat. »
Marta Iglesias, Directrice Data & IA de la société Althévia Sciences (Espagne)
Le dossier a été traité dans un contexte très opérationnel, avec Espagne pour cadre réglementaire et commercial implicite. Dans ce type de situation, l'enjeu était de rendre le service utile sans perdre la maîtrise des sources. Nous avons commencé par comparer ce que chaque direction disait du même sujet. L'écart était le vrai sujet.
Ce qui s'est passé, dans l'ordre
- J+00
1. Périmètre documentaire fermé — le point où j'ai compris que le calendrier officiel ne tenait pas.
- J+09
2. Sources datées et versionnées — c'est l'étape qui a pris le plus de temps, et personne ne l'avait vue venir.
- J+18
3. Garde-fous et refus hors domaine. Sur le moment, j'ai trouvé ça superflu ; ça nous a évité deux retours arrière.
- J+27
4. Mesure du taux d'erreur réel : la seule étape qui ait été tenue comme prévu.
- J+36
5. Extension ou arrêt du service. J'en ai gardé une trace écrite prise sur le vif, parce que je savais qu'on me demanderait.
« Althévia demande les sources, la représentation démographique et la politique d'exclusion. » — cette phrase a été écrite au moment de la revue intermédiaire, avant consolidation des chiffres.
Ce qui a coincé
Les utilisateurs ont détourné l'outil de son périmètre en deux semaines ; personne n'avait écrit ce qui devait lui être refusé. Ce n'était pas un défaut de compétence, c'était un défaut de préparation.
Nous avons mesuré le succès sur le mauvais indicateur pendant deux mois : le volume d'usage, pas les erreurs rattrapées par les humains. Rien de dramatique en soi — mais c'est exactement ce qui fait déborder un planning.
Nous avons d'abord mesuré l'adhésion, pas l'erreur. Le taux d'erreur réel est venu beaucoup plus tard. Nous l'avons su trop tard, comme presque toujours.
Ce que je fais désormais
- Un cas d'usage qui ne tient pas sa mesure d'erreur est arrêté, et l'arrêt est annoncé.
- Depuis, chaque domaine documentaire a un responsable nommé, avec une date de revue.
- Aujourd'hui, nous publions les erreurs corrigées par les relecteurs autant que les cas réussis.
La suite
Le sujet n'est pas clos. Il est devenu une routine de pilotage, ce qui est la seule façon de le faire durer.
Cadre de référence
- Législation sur l'IA — Commission européenne. Approche par risques, pratiques interdites, calendrier.
- Règlement (UE) 2024/1689 — règles harmonisées sur l'intelligence artificielle (AI Act) — EUR-Lex. ELI officiel vérifié en navigateur, version française.
- Intelligence artificielle (IA) — CNIL. Dossier protection des données et systèmes d'IA.
- L'analyse d'impact relative à la protection des données (AIPD) — CNIL. Méthode, listes de traitements, outil PIA.
- Licence Ouverte 2.0 — data.gouv.fr (Etalab). Conditions de réutilisation des données publiques.
Ces pages officielles externes sont données comme repères : elles ouvrent un nouvel onglet et n'impliquent aucune validation de la part des organismes cités.