De la boîte quasi noire à la boîte transparente : le tableau de bord de la transparence de l’IA

Par PIREL Article 2025-06-19

Pourquoi c’est important

Dans notre article du 12 juin, Au-delà du brouhaha : ce que les mégatendances technologiques à long terme signifient pour la finance et l’automatisation, nous avons résumé l’un des constats exprimés dans le rapport 2025 Futures Report de KPMG comme suit :

Avec les nouvelles réglementations telles que la loi de l’Union européenne sur l’IA et l’évolution des normes nord-américaines, les entreprises seront bientôt tenues d’expliquer comment les décisions prises par l’IA sont rendues, et non plus seulement d’en surveiller les résultats.

Comme tout évolue rapidement, ce « bientôt » pourrait arriver plus tôt que prévu, selon votre secteur d’activité et votre lieu d’affaires. Cependant, la transparence n’apparait pas par simple souhait : si le modèle qui sous-tend votre flux de travail reste une boîte scellée et opaque, vous demeurerez impuissant.

Dans les sections qui suivent, nous évaluons le degré de transparence réel des principaux modèles d’IA actuels et décrivons ce que les équipes financières devraient exiger de leurs fournisseurs avant le prochain cycle d’audit.

Ce que « transparence » signifie

Dans cet article, nous nous appuyons sur le Foundation Model Transparency Index (FMTI) de Stanford, qui évalue les développeurs de modèles (des entreprises telles que OpenAI, Google ou Anthropic) sur la base de cinq questions de bon sens que tout le monde peut poser en matière de transparence :

Les bases du modèle – de quoi s’agit-il?
Taille, architecture et objectif du modèle, afin que vous sachiez quel type de « moteur » fait fonctionner votre flux de travail.
Données d’entraînement – où a-t-il appris?
Une carte de haut niveau des textes, images ou codes qui ont façonné son comportement, révélant tout risque de violation du droit d’auteur ou de partialité.
Processus d’entraînement – comment a-t-il été construit?
L’effort informatique et les techniques clés utilisées, révélant les ressources derrière le modèle et si des raccourcis ont été pris.
Tests et sécurité – se comporte-t-il correctement?
Résultats de tests de performance, simulations extrêmes et exercices d’attaque (red teaming), qui prouvent la fiabilité du modèle et signalent les comportements à risque.
Règles en vigueur – qui veille à son bon fonctionnement?
Politiques, garde-fous et boucles de rétroaction qui surveillent le modèle une fois qu’il est en service, garantissant une réponse rapide aux anomalies identifiées.

Pour ancrer le tout dans les flux de travail financiers, nous ajoutons deux contrôles spécifiques au secteur :

Une fiche système/modèle rédigée en langage clair — une sorte d’« étiquette nutritionnelle » concise qui explique ce que fait le modèle, comment il a été formé, ses sources de données et ses limites connues, rédigées de manière à ce que les parties prenantes non techniques puissent comprendre les risques.
Des « leviers d’explicabilité » au niveau de l’API : des appels intégrés (par exemple, des valeurs SHAP ou des cartes thermiques de saillance) qui révèlent quelles entrées ont généré une sortie spécifique, afin que les auditeurs puissent retracer la logique derrière chaque facture approuvée ou alerte de fraude.

Le tableau qui suit mesure les progrès réalisés sur ces critères entre octobre 2023 (version préliminaire v0.9) et mai 2024 (version publique v1.0), en mettant en lumière les avancées significatives — et les zones d’ombre où la boîte noire persiste.

Tableau de l’indice de transparence

Indicateur	Oct. 2023	Mai 2024	Évolution	Pourquoi c’est important
Score moyen de l’indice FMTI (14 développeurs mondiaux de modèles, échelle 0–100)	37	58	▲ +21 pts	Reflète une meilleure divulgation des données d’apprentissage, de la puissance de calcul utilisée et des tests de risques, sous l’effet des nouvelles règles européennes et chinoises.
Modèles fournissant une fiche complète (25 meilleurs LLMs)	32 %	60 %	▲ +28 pp	Une documentation claire et vulgarisée devient rapidement une norme chez les acheteurs en entreprise.
Modèles intégrant des fonctions d’explicabilité (saillance, SHAP, etc.)	5	11	▲ +6	Les auditeurs disposent désormais de moyens programmatiques pour retracer pourquoi un modèle a approuvé ou rejeté une transaction.

Source : Stanford Foundation Model Transparency Index (mai 2024). Dépôt de données : Stanford CRFM GitHub (github.com/stanford-crfm/fmti).

Conclusion : La transparence a presque doublé en seulement sept mois, mais en moyenne, un modèle fondamental continue de cacher environ un tiers des informations jugées essentielles par les auditeurs.

Qui mène la course?

Rang	Développeur	Modèle	Score	Pratiques exemplaires
1	BigCode / Hugging Face / ServiceNow	StarCoder	85	Traçabilité complète des données, poids du modèle en libre accès, divulgation granulaire des politiques et des journaux d’utilisation.
2	AI21 Labs	Jurassic‑2	75	Comptabilité détaillée de la puissance de calcul, déclaration des émissions carbone, journalisation des biais et des mesures d’atténuation.
2 (ex aequo)	Aleph Alpha	Luminous	75	Documentation approfondie des données en amont et résultats publics des tests d’attaque.
4	IBM	Granite	64	Meilleure performance de sa catégorie pour la puissance de calcul, les méthodes et les mécanismes de réduction des risques ; code « open source ».
5	Microsoft	Phi‑2	62	Transparence avancée sur les politiques d’utilisation et documentation poussée des évaluations de sécurité.

Source : Stanford Foundation Model Transparency Index (mai 2024). Dépôt de données : Stanford CRFM GitHub (github.com/stanford-crfm/fmti).

Pourquoi les avancées sont inégales

Même si la tendance est claire, l’adoption de la transparence reste inégale. En pratique, quatre forces principales poussent — ou freinent — les développeurs de modèles dans des directions opposées :

Réglementations contraignantes : L’entrée en vigueur progressive de la loi européenne sur l’IA et le régime d’enregistrement algorithmique en Chine créent des échéances concrètes.
Cadres volontaires : Le NIST AI Risk Management Framework, les principes de l’OCDE et le projet de « Déclaration des droits en matière d’IA » (Blueprint for an AI Bill of Rights) offrent des vocabulaires communs, mais leur adoption reste facultative.
Pression du marché : La certification ISO 42001 et les modules complémentaires SOC 2 incitent les fournisseurs à adopter des fiches modèles et des fonctions d’explicabilité.
Secret concurrentiel : Certains laboratoires continuent de dissimuler les données d’apprentissage ou la consommation énergétique de leurs modèles en invoquant la protection de la propriété intellectuelle ou les risques de sécurité.

Mesures à prendre pour les responsables financiers et des comptes clients ou fournisseurs

Ces cinq étapes transforment des principes généraux en contrôles pratiques et quotidiens. Utilisez-les comme diagnostic rapide ou comme feuille de route vers une transparence totale prête pour l’audit.

✅ Demandez la fiche modèle : pas de fiche, pas de contrat.

✅ Testez l’explicabilité : la pertinence ou la sortie SHAP doit être accessible via une API et non cachée dans une présentation PowerPoint.

✅ Enregistrez la traçabilité du modèle : consignez la version du modèle de base qui sous-tend chaque flux de travail AP/AR.

✅ Alignez-vous sur les contrôles ISO 42001 : une mise en conformité précoce signifie une certification plus légère par la suite.

✅ Organisez des exercices trimestriels de simulation : reconstruisez les décisions algorithmiques dans les 24 heures pour tout paiement contesté.

Perspectives

Les régulateurs de trois continents partagent environ 70% des exigences en matière de transparence. Des listes de contrôle d’audit convergentes apparaissent déjà dans les appels d’offres. Les organisations qui insistent aujourd’hui sur une plus grande transparence seront moins confrontées à des perturbations demain et gagneront la confiance de leurs clients, des agences de notation et des organismes de surveillance.

Note sur des données plus récentes

Stanford CRFM a présenté en avant-première une mise à jour v1.1 non publiée du FMTI (mars 2025) lors d’un webinaire organisé avec des partenaires industriels en avril 2025. Les premiers chiffres indiquent de nouveaux progrès, notamment en matière de divulgation de la provenance des données, mais le rapport complet est toujours sous embargo et n’est pas encore vérifiable publiquement. À l’heure actuelle, l’ensemble de données v1.1 n’est pas encore publié.

Lectures complémentaires

Pour toute question ou commentaire, veuillez nous écrire ci-dessous ou contacter l’équipe PIREL. Nos experts sont à votre disposition pour vous guider dans les prochaines étapes vers une transparence de l’IA prête pour l’audit.