Audit des systèmes d'IA : cadres, risques et premier plan de travail

Des systèmes d'IA décident déjà quels dossiers de crédit accepter, quelles factures signaler et quels candidats retenir. Ils sont rarement soumis au niveau de contrôle dont font l'objet les processus financiers qui les entourent. L'enquête Risk in Focus 2026/2027, menée par l'ECIIA et l'IFACI auprès de près de 800 directeurs d'audit interne européens, classe la disruption numérique et l'IA au deuxième rang des risques, tout en relevant un écart persistant entre la vitesse d'évolution de ces risques et leur prise en compte effective dans les plans d'audit.

Le même écart se mesure en Amérique du Nord. Le rapport Internal Audit and AI-Enabled Fraud, publié en février 2026 par l'Internal Audit Foundation et AuditBoard et fondé sur les réponses de 373 responsables d'audit interne, indique que moins de quatre fonctions sur dix s'estiment suffisamment préparées à détecter une fraude assistée par l'IA, alors que 85 % des répondants la jugent d'un risque modéré à élevé.

Cet article part de là. Il décrit ce qu'un audit de système d'IA examine réellement, les cadres sur lesquels s'appuyer tant que la discipline se construit, et la façon d'en tirer un plan de travail exploitable.

Un point mérite d'être posé d'emblée : aucun cadre unique ne définit encore l'audit de l'IA de bout en bout. Les référentiels professionnels sont récents et fondés sur des principes, si bien que l'auditeur construit sa démarche en combinant plusieurs sources. Ce travail est distinct de l'usage de l'IA par la fonction d'audit, traité dans l'article consacré aux logiciels d'audit assisté par l'IA : ici, l'IA est l'objet du contrôle.

Ce qu'est un audit de système d'IA

Un audit de système d'IA est une évaluation indépendante qui détermine si un système d'IA, et le dispositif qui l'encadre, est bien géré, performant au regard de son objectif et suffisamment maîtrisé. Il porte sur deux plans à la fois : le système lui-même et la capacité de l'organisation à le superviser.

Cette évaluation se distingue de l'usage de l'IA au sein de la fonction d'audit. Un outil qui rédige des feuilles de travail ou signale des anomalies relève d'un autre sujet. Dans un audit de système d'IA, l'IA devient l'objet examiné.

Le cadre de responsabilisation de la GAO américaine (AI Accountability Framework, GAO-21-519SP, juin 2021) donne la forme concrète de ce travail. Chaque pratique qu'il décrit est assortie de questions et de procédures destinées aux auditeurs et aux évaluateurs tiers, avec les preuves à recueillir. L'audit interne traite ainsi l'IA comme tout autre environnement de contrôle, un objet sur lequel on rassemble des preuves.

Audit de gouvernance de l'IA et audit de modèle : deux démarches distinctes

La plupart des contenus mélangent deux examens qui répondent à des questions différentes. Les séparer est la première décision de cadrage d'une équipe d'audit.

Un audit de gouvernance de l'IA vérifie si le programme d'IA est bien piloté. Il porte sur les politiques internes, l'inventaire des cas d'usage, la clarté des rôles, l'appétence au risque et la supervision au niveau de la direction. Un audit de modèle vérifie si un système précis fonctionne comme annoncé. Il porte sur les données qui l'alimentent, sa validation, sa dérive éventuelle, la capacité à expliquer ses résultats et la possibilité d'une intervention humaine.

Les deux se complètent. Un audit de gouvernance indique si les modèles à haut risque sont seulement identifiés ; un audit de modèle indique si ceux qui le sont ont été correctement construits et surveillés. Une équipe qui ne mène que le premier valide un classeur de politiques bien tenu pendant qu'un modèle biaisé continue de décider. Une équipe qui ne mène que le second valide un modèle isolément, sans voir que personne n'en assume la responsabilité une fois en production.

Les cadres réglementaires qui structurent l'audit de l'IA

Quatre références structurent la pratique. L'une est une loi contraignante, les trois autres sont volontaires et fournissent aux auditeurs des pratiques testables.

Le règlement européen sur l'IA (AI Act) est la pièce contraignante. Le règlement (UE) 2024/1689 est entré en vigueur le 1er août 2024 et repose sur une approche par niveaux de risque : les usages à risque inacceptable sont interdits, les systèmes à haut risque portent les obligations les plus lourdes, le risque limité relève d'obligations de transparence et le risque minimal reste largement libre. Les pratiques interdites s'appliquent depuis le 2 février 2025 et les obligations relatives aux modèles d'IA à usage général depuis le 2 août 2025.

Le calendrier des obligations à haut risque a changé en 2026. Le règlement (UE) 2026/1744, dit omnibus numérique sur l'IA, a été publié au Journal officiel le 24 juillet 2026 et est entré en vigueur le 27 juillet. Il reporte l'application de ces obligations au 2 décembre 2027 pour les systèmes autonomes de l'annexe III, qui couvrent notamment le recrutement, l'évaluation de la solvabilité et la biométrie, et au 2 août 2028 pour l'IA intégrée à des produits déjà réglementés au titre de l'annexe I, comme les dispositifs médicaux.

Deux précisions comptent pour le cadrage d'un audit. Les fournisseurs de systèmes à haut risque destinés aux autorités publiques disposent d'un délai courant jusqu'au 2 août 2030. Le même texte ajoute par ailleurs une nouvelle interdiction, applicable au 2 décembre 2026, visant les systèmes produisant des contenus intimes non consentis ou du matériel pédopornographique.

Pour les systèmes à haut risque, les articles 9 à 15 fixent les obligations qui intéressent le plus l'auditeur : un système documenté de gestion des risques, une gouvernance des données, une documentation technique, un enregistrement automatique des événements, la transparence vis-à-vis des déployeurs, le contrôle humain, ainsi que des garanties d'exactitude, de robustesse et de cybersécurité. Le manquement à ces obligations relève du régime de sanctions applicable aux fournisseurs : l'article 99 prévoit jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires annuel mondial. Le plafond supérieur, 35 millions d'euros ou 7 %, vise les pratiques interdites de l'article 5, distinction que beaucoup de commentaires confondent. Un troisième niveau, 7,5 millions d'euros ou 1 %, sanctionne les informations inexactes ou trompeuses transmises aux autorités et aux organismes notifiés.

Le NIST AI Risk Management Framework, publié par l'agence américaine NIST en janvier 2023, est volontaire et s'organise autour de quatre fonctions : Govern, Map, Measure et Manage. Son profil dédié à l'IA générative, publié en juillet 2024, l'étend aux grands modèles de langage et aux systèmes voisins. Les auditeurs l'utilisent comme un vocabulaire pour décrire une bonne gestion du risque d'un modèle, davantage que comme une liste de contrôle.

ISO/IEC 42001:2023 est la première norme certifiable pour un système de management de l'IA. Elle suit la structure de clauses harmonisée d'ISO 27001 et d'ISO 9001, ce qui permet à une organisation déjà certifiée en sécurité de l'information d'intégrer la gouvernance de l'IA dans un cycle d'audit familier, au rythme habituel de certification. La famille s'est étoffée depuis : ISO/IEC 42005:2025 traite de l'analyse d'impact des systèmes d'IA, et ISO/IEC 42006:2025 fixe les exigences applicables aux organismes qui auditent et certifient ces systèmes de management.

Le cadre de la GAO complète l'ensemble. Organisé autour de la gouvernance, des données, de la performance et de la surveillance, il associe des procédures d'audit à chacun de ces axes.

Aucun de ces textes ne couvre seul l'ensemble du travail. L'AI Act dit ce qui doit être vrai pour un système à haut risque, sans indiquer comment tester un modèle. Le NIST et l'ISO décrivent de bonnes pratiques sans force de loi. Le cadre de la GAO fournit des procédures d'audit, mais a été écrit pour l'administration fédérale américaine. Un audit de l'IA emprunte donc ses obligations juridiques au premier et ses pratiques testables aux autres.

Ce qu'un audit examine tout au long du cycle de vie de l'IA

Chaque étape du cycle de vie d'un système d'IA ajoute son propre risque, depuis les données d'entraînement jusqu'aux décisions prises en production. L'audit suit le même chemin, de la conception à la surveillance en production.

À la conception, la question porte sur la finalité et la proportionnalité. L'auditeur vérifie si le cas d'usage a fait l'objet d'une analyse de risque avant tout développement, si quelqu'un en assume la responsabilité et si l'usage prévu a été documenté. Les preuves attendues sont une fiche de qualification du cas d'usage et une classification du risque.

L'étape des données concentre une large part des problèmes. L'auditeur retrace l'origine des données d'entraînement, s'assure qu'elles représentent la population sur laquelle le modèle agira et vérifie que les biais connus ont été testés et corrigés. La traçabilité des données et les résultats des tests de biais sont les pièces à demander.

L'entraînement et la validation sont l'étape où l'on vérifie les promesses du modèle. L'audit cherche la preuve que le modèle a été validé sur des données distinctes de l'apprentissage, que sa performance a été mesurée au regard de l'objectif visé et que les résultats ont été revus par un tiers indépendant de son concepteur. Les rapports de validation et les traces de revue constituent cette preuve.

Au déploiement, l'attention se porte sur la maîtrise. Le modèle a-t-il été approuvé avant sa mise en production, un humain peut-il annuler ses décisions, ses droits d'accès et ses intégrations sont-ils contrôlés comme pour tout autre système ? C'est là que l'audit de l'IA rejoint le contrôle interne, où s'appliquent directement les preuves d'accès, de gestion des changements et de journalisation, comme pour les contrôles généraux informatiques (ITGC).

La surveillance est l'étape la plus souvent négligée. Un modèle validé en janvier peut se dégrader d'ici juin, à mesure que le monde qu'il modélise change. L'auditeur vérifie que la dérive est mesurée, que la performance est réévaluée à intervalle défini et qu'une personne agit quand un indicateur se dégrade. La preuve est un journal de surveillance avec seuils, et la trace de ce qui s'est passé lorsqu'un seuil a été franchi.

La place de l'audit interne dans la gouvernance de l'IA

Le cadrage le plus utile pour un responsable d'audit est aussi le plus simple : la gouvernance de l'IA est un risque émergent, et un risque émergent a sa place dans l'univers d'audit. Il se traite avec l'évaluation des risques que la fonction conduit déjà, en y intégrant l'IA au même titre que les autres risques, pondérée selon l'exposition.

Le cadre d'audit de l'IA de l'IIA, dont la deuxième édition date de septembre 2024, organise le rôle de l'audit interne autour du Three Lines Model. Le management construit et exploite l'IA de façon responsable. Une deuxième ligne définit les politiques et surveille. L'audit interne apporte une assurance et un conseil indépendants, sans endosser la responsabilité opérationnelle des systèmes qu'il examine. Tenir cette ligne est ce qui préserve la crédibilité de l'assurance.

Concrètement, les contributions à plus forte valeur portent d'abord sur des points précis. Passer en revue la qualification des cas d'usage montre si toute nouvelle IA est recensée et classée par risque avant sa mise en production. Évaluer le modèle de gouvernance révèle si la responsabilité existe réellement ou n'apparaît que sur un organigramme. Examiner l'IA des fournisseurs est souvent l'angle mort le plus large, car une grande partie de l'IA d'entreprise arrive dans des logiciels achetés.

EY relève que les organisations gèrent fréquemment le risque IA de manière dispersée et cloisonnée, la responsabilité des données, des risques et des contrôles restant floue ou non attribuée, ce qui ouvre des lacunes de couverture que personne ne surveille. L'audit interne est bien placé pour révéler cet écart, car cartographier la responsabilité entre fonctions fait déjà partie de son métier.

Les principaux risques que cible un audit de l'IA

Les risques à tester se regroupent en quelques catégories. Les nommer précisément est ce qui transforme une inquiétude vague sur l'IA en un audit cadré.

• Biais et discrimination. Un modèle entraîné sur des données déséquilibrées peut produire des résultats systématiquement injustes en matière de crédit, de recrutement ou d'indemnisation. L'auditeur vérifie que le biais algorithmique a été mesuré et corrigé, et non écarté par hypothèse.
• Dérive de modèle. La performance se dégrade à mesure que les conditions changent. Sans réévaluation programmée, un modèle autrefois fiable devient inexact sans que personne s'en aperçoive.
• Défaut d'explicabilité. Si personne ne peut expliquer pourquoi un modèle a pris une décision, il n'existe ni preuve d'audit ni moyen de justifier le résultat devant un régulateur ou un client.
• Données personnelles. Les systèmes d'IA traitent souvent des données personnelles à grande échelle, ce qui déclenche des obligations au titre du RGPD, en parallèle de l'AI Act. L'article 22 du RGPD encadre par ailleurs les décisions fondées exclusivement sur un traitement automatisé produisant des effets juridiques ou significatifs. La CNIL a publié en juillet 2025 une liste de vérification sur le développement des systèmes d'IA, utile comme point de départ pour un programme de tests.
• Risque tiers et fournisseur. L'IA intégrée à des outils achetés porte des risques que l'acheteur n'a pas conçus et ne voit souvent pas.
• Risques de sécurité propres à l'IA. Le profil IA générative du NIST (NIST AI 600-1, juillet 2024) définit 12 catégories de risque propres ou amplifiées par l'IA générative, dont l'injection de prompt et l'empoisonnement de données, qui étendent les tests de sécurité habituels à un terrain nouveau.
• Contrôle humain insuffisant. Un système qui agit sans véritable point de contrôle humain concentre le risque et supprime la possibilité de rattraper une erreur avant qu'elle ne produise ses effets.

Le surapprentissage et l'hallucination sous-tendent plusieurs de ces risques. Un modèle qui colle de trop près à ses données, ou qui produit un résultat faux mais assuré, échoue de façons que les tests de biais et la validation doivent détecter.

Pourquoi l'explicabilité est la condition d'un système d'IA auditable

L'explicabilité est la propriété qui rend tout le reste auditable. Si un système ne peut montrer pourquoi il a produit un résultat donné, l'auditeur n'a rien à tester, le régulateur n'a rien à inspecter et l'organisation n'a rien à défendre.

En finance, l'ACPR fait de l'explicabilité un pilier de la gouvernance de l'IA depuis son document de réflexion de juin 2020, Gouvernance des algorithmes d'intelligence artificielle dans le secteur financier. Elle y propose quatre niveaux d'explication d'exigence croissante : observation, justification, approximation et réplication. Le niveau attendu dépend du public visé, dont les auditeurs et les superviseurs, et du risque métier du processus concerné. L'explicabilité devient alors une question de conformité, et pas seulement une question technique.

C'est ici que la différence entre une IA grand public et une IA de niveau financier devient concrète. Un modèle probabiliste qui répond différemment à une même question, sans trace de son raisonnement, ne peut être audité de façon utile. Un système auditable est déterministe : une même entrée produit un même résultat, et l'analyse peut être rejouée. Il est transparent : chaque étape porte une explication qu'un relecteur peut suivre. Et il garde la maîtrise des données du client, puisque ce qui est transmis à un modèle reste fragmenté et qu'aucun modèle ne s'entraîne sur les données de l'organisation.

L'approche de Supervizor en matière d'IA explicable illustre ce à quoi cela ressemble dans un contexte financier. Son IA est conçue pour être déterministe et transparente : les résultats peuvent être rejoués, chaque étape d'analyse est isolée et expliquée, et les données financières sont d'abord normalisées dans un modèle unique avant qu'une IA ne les traite. Ce dernier point est facile à négliger. Une IA ne produit pas de résultat fiable à partir d'exports ERP bruts et hétérogènes : il lui faut un modèle défini qui donne un sens à chaque champ. Construire cette couche d'abord est ce qui rend le résultat explicable, et un résultat explicable est ce qui rend un système auditable.

Construire un premier plan d'audit de l'IA : par où commencer

Un premier audit de l'IA n'a pas besoin d'être exhaustif, mais il doit être ordonné. La séquence suivante mène de la page blanche à un plan défendable.

1. Recenser l'IA en usage. Identifiez tout système d'IA, y compris ceux enfouis dans des logiciels achetés. Sans inventaire, le cadrage relève de la conjecture. La preuve d'achèvement est un registre d'IA tenu à jour et relié à la qualification des cas d'usage.
2. Classer chaque système par risque. Les niveaux de risque de l'AI Act servent de grille prête à l'emploi, même hors de l'Union européenne. Répartissez les systèmes entre risque élevé, limité et minimal, selon les décisions qu'ils affectent et les personnes qu'ils touchent.
3. Intégrer l'IA dans l'univers d'audit. Faites entrer les systèmes à haut risque dans l'évaluation des risques existante, pour qu'ils se disputent l'assurance aux mêmes conditions que tout autre risque, au lieu de vivre dans un silo IA séparé.
4. Évaluer d'abord la gouvernance. Testez l'existence de politiques, de responsabilités et de supervision avant de tester un modèle. Une lacune de gouvernance explique souvent les lacunes de modèle repérées ensuite.
5. Tester les modèles à haut risque. Pour les systèmes qui comptent le plus, parcourez le cycle de vie : traçabilité des données, validation, dérive, biais, explicabilité et contrôle humain, en recueillant des preuves à chaque étape.
6. Passer en revue les tiers. Pour l'IA des fournisseurs, obtenez un droit contractuel d'audit ou d'accès à des rapports d'assurance, et vérifiez que ce droit est utilisé.
7. Mettre en place une surveillance continue. Un audit ponctuel vieillit vite. La réponse durable est une surveillance qui s'exécute sur l'activité réelle.

Cette dernière étape rejoint une capacité que les équipes financières connaissent déjà. Quand une IA et des agents automatisés agissent sur des données financières, chaque transaction qu'ils génèrent doit être contrôlée sur l'ensemble de la population, en continu, et non par échantillon en fin de trimestre. C'est la logique de la surveillance continue des contrôles : les mêmes contrôles sur population complète qui détectent l'erreur et la fraude humaines s'appliquent aux transactions produites par des machines. La plateforme d'audit interne et de contrôle de Supervizor exécute ainsi des contrôles en continu sur les cycles financiers, soit la supervision permanente que requiert un modèle d'IA en production une fois l'audit initial terminé.

Ce plan marque la différence entre savoir que l'IA est un risque et pouvoir en donner l'assurance. La plupart des organisations en sont encore à la première étape. Passer à la seconde est à la portée de toute fonction d'audit prête à recenser ce qu'elle possède et à tester d'abord les systèmes les plus risqués.