Détection de fraude par machine learning : quelles techniques fonctionnent vraiment

Les contenus sur le machine learning appliqué à la fraude sont écrits pour deux publics : des data scientists qui veulent comprendre un algorithme, ou des banques qui filtrent des paiements par carte en quelques millisecondes. Une équipe finance ou audit interne qui évalue un outil d'analyse de ses propres données comptables n'y trouve pas son compte. Les volumes diffèrent, les données d'entraînement n'existent pas, et les schémas de fraude n'ont rien à voir avec une carte volée. Cet article traduit la mécanique de chaque grande famille d'algorithmes, puis l'applique aux doublons de paiement, aux écritures anormales et aux notes de frais.

Apprentissage supervisé : détecter à partir d'exemples connus

Un modèle supervisé apprend à partir d'exemples déjà qualifiés. On lui fournit des milliers de transactions dont on sait lesquelles étaient frauduleuses, il identifie les combinaisons de caractéristiques associées à la fraude, puis il applique ce qu'il a appris aux transactions nouvelles. La sortie n'est pas un verdict mais une probabilité, que l'on convertit en alerte à partir d'un seuil choisi.

Cette approche domine la détection de fraude bancaire parce que les étiquettes y sont abondantes et fiables : une opposition sur carte produit automatiquement un cas qualifié, en quelques jours. Ce mécanisme n'a pas d'équivalent en comptabilité d'entreprise, et les trois algorithmes ci-dessous donnent donc des résultats très différents selon le contexte de déploiement.

Régression logistique

La régression logistique attribue un poids à chaque variable observée (montant, délai de paiement, identité du saisissant, écart au prix habituel), additionne ces contributions, puis transforme le total en probabilité comprise entre 0 et 1. C'est le modèle le plus simple de la famille, et il reste le plus défendable devant un auditeur externe ou un comité d'audit.

Son intérêt tient à la lisibilité de ses coefficients : on peut dire de combien la probabilité d'anomalie augmente lorsqu'une facture est saisie un dimanche, sans outil d'interprétabilité additionnel. Sa limite découle du même principe : le modèle ne capte que des relations linéaires. Une fraude détectable seulement au croisement de trois conditions simultanées lui échappera, sauf à construire manuellement les variables d'interaction correspondantes.

Random forest

Un arbre de décision découpe la population par questions successives jusqu'à isoler des groupes homogènes. Pris isolément, un arbre apprend par cœur les particularités de son échantillon et généralise mal. Le random forest corrige ce défaut en construisant des centaines d'arbres sur des tirages aléatoires de lignes et de colonnes, puis en agrégeant leurs votes (Breiman, Random Forests, 2001).

Le résultat est stable, demande peu de réglages et tolère des données hétérogènes. Un point mérite attention : la mesure d'importance des variables fournie par défaut favorise les variables comportant beaucoup de modalités distinctes. Un identifiant fournisseur apparaîtra comme « déterminant » sans que cela signifie quoi que ce soit en termes de risque.

XGBoost

Le gradient boosting procède autrement. Les arbres ne sont pas construits en parallèle mais les uns après les autres, chaque nouvel arbre étant ajusté sur les erreurs résiduelles des précédents. XGBoost est l'implémentation la plus répandue de ce principe (Chen et Guestrin, XGBoost: A Scalable Tree Boosting System, KDD 2016).

Sur données tabulaires structurées, c'est-à-dire la forme des extractions ERP, cette famille obtient régulièrement les meilleures performances. Elle gère le déséquilibre entre classes via le paramètre scale_pos_weight, qui pondère la classe minoritaire dans la fonction de perte. Attention à la lecture des scores produits : cette pondération décalibre les probabilités en sortie, qui cessent d'exprimer une probabilité réelle de fraude. La contrepartie de la performance est l'opacité, puisque comprendre pourquoi une écriture a été notée 0,87 exige une couche d'explicabilité séparée.

Apprentissage non supervisé : détecter sans historique

Les algorithmes non supervisés ne reçoivent aucun exemple de fraude. Ils apprennent la forme habituelle des données et signalent ce qui s'en écarte. En fraude comptable, où l'historique labellisé fait défaut, c'est souvent la seule famille immédiatement applicable.

Il faut accepter ce que cette approche renvoie réellement. Un algorithme non supervisé produit des anomalies statistiques, c'est-à-dire des transactions rares au regard du reste de la population. Une partie correspond à des fraudes, une autre à des erreurs de saisie, une troisième à des opérations légitimes mais atypiques comme une régularisation annuelle. L'algorithme ne fait pas la différence, et aucun réglage ne la lui apprendra.

Isolation forest

L'isolation forest repose sur une intuition inversée par rapport aux autres méthodes : plutôt que de modéliser le normal, il mesure la facilité avec laquelle un point se sépare du reste. L'algorithme découpe les données au hasard, en choisissant une variable puis un seuil au hasard, et répète l'opération. Les points atypiques se retrouvent isolés après très peu de coupures, les points ordinaires en demandent beaucoup. Le score d'anomalie dérive directement de cette longueur de chemin moyenne (Liu, Ting et Zhou, ICDM 2008).

Deux conséquences pratiques. L'algorithme ne calcule ni distance ni densité, ce qui le rend rapide sur plusieurs millions de lignes. Il demande en revanche un paramètre de contamination, la proportion de transactions que l'on s'attend à voir signalées, qui fixe seulement le seuil de découpe sans rien apprendre à l'algorithme sur la fraude réellement présente. Le régler à 1 % sur un million d'écritures produit dix mille alertes, indépendamment de la fraude effectivement commise.

One-class SVM

Le one-class SVM apprend une frontière autour des données qu'on lui présente et classe ensuite comme suspect tout ce qui tombe à l'extérieur. Il suppose donc que la population d'entraînement est majoritairement saine, hypothèse raisonnable sur un périmètre contrôlé, beaucoup moins sur un ERP où l'on cherche précisément à savoir ce qui s'y cache.

Dans la documentation de scikit-learn, ce modèle relève de la détection de nouveauté plus que de la détection d'anomalie, et son usage suppose un jeu d'entraînement propre. En audit, cela impose de disposer d'une période ou d'une entité dont un travail de vérification antérieur a établi qu'elle ne contient pas d'anomalies significatives.

Clustering

Le clustering regroupe les transactions par similarité. k-means partitionne autour de centres de gravité, DBSCAN regroupe par densité et laisse en dehors les points isolés. L'intérêt est exploratoire : voir émerger des familles de comportements de saisie, ou repérer un groupe de fournisseurs au profil de facturation isolé.

La faiblesse de cette famille en matière de fraude est structurelle. Un détournement répété pendant dix-huit mois produit des dizaines de transactions semblables entre elles, donc un groupe cohérent, donc un comportement que l'algorithme interprète comme normal. Or la fraude interne s'inscrit précisément dans la durée, avec une durée médiane de douze mois avant détection selon l'ACFE (Occupational Fraud 2026: A Report to the Nations, 2 402 cas analysés dans 143 pays). Le clustering est mieux adapté à la compréhension d'une population qu'à la détection d'un schéma installé.

Autoencodeurs

Un autoencodeur est un réseau de neurones entraîné à reproduire ce qu'on lui donne, en passant par une représentation compressée. Sur des données habituelles, il reconstruit fidèlement. Sur une transaction qui ne ressemble à rien de ce qu'il a vu, la reconstruction est mauvaise, et cette erreur sert de score d'anomalie.

Des travaux académiques ont appliqué cette approche à de larges volumes d'écritures comptables. Deux conditions limitent son usage en entreprise : un volume de données important pour que l'entraînement converge, et l'acceptation d'un modèle dont la sortie se justifie difficilement devant un commissaire aux comptes.

Le problème des données labellisées en fraude comptable

C'est le point que les contenus techniques traitent le plus mal, parce qu'il n'est pas technique. Un modèle supervisé a besoin d'exemples de fraude avérée. En fraude interne, ces exemples n'existent pratiquement pas sous forme exploitable.

Une entreprise de taille moyenne connaît quelques cas avérés sur une décennie, parfois aucun. Ces cas figurent dans des dossiers d'enquête interne ou des procédures judiciaires, et non dans l'ERP sous une forme exploitable. Quelques dizaines d'exemples hétérogènes ne permettent d'entraîner aucun modèle sérieux.

Le biais est plus profond que la rareté : les seules fraudes labellisables sont celles que l'on a détectées. Or l'ACFE établit que 43 % des cas sont découverts par un signalement, contre 15 % par l'audit interne. Un modèle entraîné sur cet historique apprend à reconnaître les fraudes qui ont fini par être dénoncées. Celles qui respectent les seuils d'autorisation et les circuits de validation restent absentes de l'échantillon d'apprentissage par construction.

À cela s'ajoute le déséquilibre extrême des classes. Dans le jeu de données public le plus utilisé pour les démonstrations de détection de fraude, 492 opérations frauduleuses sur 284 807 transactions, soit 0,172 %, un modèle qui ne signalerait jamais aucune fraude afficherait 99,83 % d'exactitude. C'est l'origine mécanique des performances spectaculaires régulièrement citées par les éditeurs. Les métriques pertinentes sont la précision et le rappel au seuil retenu, et non l'exactitude globale (Saito et Rehmsmeier, PLoS ONE, 2015).

Les techniques de rééquilibrage comme SMOTE, qui génèrent des exemples synthétiques de la classe rare, sont souvent présentées comme la réponse. Les travaux récents nuancent fortement cette idée : sur les modèles d'ensemble performants, le rééquilibrage n'améliore pas les résultats dès lors que le seuil de décision est correctement optimisé (Elor et Averbuch-Elor, 2022). Autrement dit, la méthode ne fabrique pas l'information qui manque.

Pourquoi le ML seul ne suffit pas

L'affirmation selon laquelle le machine learning détecte mieux la fraude que les règles ne repose, en fraude comptable interne, sur aucune étude comparative publiée sur données réelles. Les comparaisons disponibles portent sur la fraude carte ou la lutte anti-blanchiment, domaines où les étiquettes existent et où les schémas sont stables.

Les détections les plus rentables en comptabilité restent déterministes. Un doublon de paiement se trouve par appariement sur fournisseur, montant, date et référence de facture, pas par un modèle probabiliste. Un fournisseur partageant un RIB ou une adresse avec un salarié se détecte par rapprochement de deux référentiels. Une écriture passée par un utilisateur sans habilitation sur le compte concerné relève d'un contrôle de séparation des tâches, au même titre que les autres tests de conformité exécutés sur la population complète. Ces tests ne génèrent ni score ni incertitude, ils produisent une liste vérifiable.

L'architecture qui tient en production fonctionne en entonnoir, chaque couche réduisant le volume transmis à la suivante. Les règles déterministes traitent les schémas connus et fournissent des résultats directement exploitables. Les tests statistiques, comme l'analyse des distributions de premiers chiffres popularisée par Mark Nigrini, signalent des écarts de forme sur les populations où ils s'appliquent, c'est-à-dire des montants libres s'étalant sur plusieurs ordres de grandeur ; ils perdent toute validité sur des prix catalogue ou des montants plafonnés par un seuil d'autorisation. Le machine learning non supervisé intervient ensuite, sur ce qui reste, pour hiérarchiser les cas qu'aucune cartographie des risques n'avait anticipés. Le jugement humain tranche en dernier ressort, seul à pouvoir qualifier une intention frauduleuse.

Cette logique recoupe ce que l'ACFE mesure sur le terrain : les organisations pratiquant une surveillance proactive de leurs données affichent des pertes médianes inférieures de 53 %, avec une détection presque deux fois plus rapide. L'effet est attribué à l'analyse systématique des données, non à une famille d'algorithmes en particulier.

Les faux positifs et comment les réduire

Le chiffre de 95 % de faux positifs circule abondamment dans la documentation des éditeurs de solutions de surveillance. Sa traçabilité est nulle : les sources qui le citent renvoient à « des études », à un rapport jamais référencé, ou les unes aux autres. Il concerne de surcroît la surveillance anti-blanchiment, dont les contraintes réglementaires imposent un paramétrage large. Aucun taux comparable n'est documenté pour l'analyse de données comptables en audit interne.

Le problème reste réel, mais il se formule autrement. Un modèle non supervisé réglé à 1 % de contamination sur deux millions d'écritures produit vingt mille signalements. Si une équipe de trois personnes traite quarante cas par jour, elle met deux ans à épuiser la liste. Le facteur limitant devient la capacité d'investigation, qui se dimensionne au moment de bâtir le plan d'audit interne.

Quatre leviers réduisent effectivement le volume à traiter :

• Remplacer la classification binaire par un score de risque hiérarchisé, de façon à travailler la file par ordre de gravité plutôt que par ordre d'arrivée.
• Appliquer des seuils de matérialité cohérents avec ceux de la mission d'audit, pour écarter les anomalies sans enjeu financier.
• Gérer les exclusions dans la durée : un fournisseur intragroupe ou un schéma de régularisation validé une fois ne doit pas ressortir à chaque extraction.
• Enrichir le contexte avant le signalement, en croisant la transaction avec le référentiel fournisseur, l'historique du compte et les habilitations de l'utilisateur.

Le dernier levier est le retour d'expérience. Chaque cas clos par un auditeur, confirmé ou écarté, constitue une étiquette. Après dix-huit mois de fonctionnement, un dispositif correctement outillé dispose enfin de ce qui manquait au départ : un historique qualifié, produit par l'outil lui-même, qui rend l'apprentissage supervisé envisageable.

Appliquer ces techniques aux données comptables

La question utile n'est pas de savoir quel algorithme est le meilleur, mais lequel correspond au schéma de fraude recherché. Les quatre familles de schémas les plus fréquentes en entreprise appellent des réponses techniques distinctes.

Deux enseignements se dégagent de ce tableau. Le machine learning apporte le plus de valeur là où le comportement légitime est lui-même très variable, typiquement les notes de frais, où un seuil fixe produit soit du bruit soit des angles morts. Il apporte le moins là où le schéma est net et formulable, et c'est précisément là que se concentrent les récupérations financières immédiates : sur un déploiement, la détection des doublons de paiement peut à elle seule couvrir une part substantielle du coût de l'outil, sans qu'aucun modèle probabiliste intervienne.

La condition préalable est commune à toutes les approches : la qualité et la couverture des données. Un modèle entraîné sur un périmètre partiel, ou sur des référentiels fournisseurs non standardisés entre entités, produira des résultats non comparables d'une filiale à l'autre. Le travail de normalisation précède donc le choix de l'algorithme, et c'est aussi ce qui sépare un dispositif d'audit continu d'une analyse ponctuelle rejouée chaque trimestre.

Évaluer un outil de détection par ML

Les démonstrations commerciales se ressemblent et exhibent les mêmes métriques, qu'il s'agisse d'un logiciel d'audit interne généraliste ou d'un logiciel de détection de fraude financière spécialisé. Sept questions permettent de distinguer un dispositif opérationnel d'une couche algorithmique posée sur un produit existant.

1. Sur quelles données le modèle a-t-il été entraîné ? S'il s'agit de données de fraude carte ou de jeux publics, les performances annoncées ne se transposeront pas à vos écritures.
2. Le modèle est-il supervisé ou non supervisé ? Un éditeur qui propose du supervisé sans expliquer d'où viennent ses étiquettes esquive la question centrale.
3. Quelle métrique est annoncée ? Une exactitude élevée sur données déséquilibrées ne signifie rien. Demandez la précision et le rappel au seuil réellement utilisé en production.
4. Comment un signalement est-il justifié ? Chaque alerte doit indiquer les variables qui l'ont déclenchée, sous une forme qu'un auditeur peut reprendre dans son dossier de travail.
5. Comment se gèrent les exclusions ? Sans mécanisme de traitement durable des faux positifs récurrents, le volume d'alertes reste constant d'un exercice à l'autre.
6. La couverture est-elle intégrale ? Un outil qui applique un modèle à un échantillon reproduit la limite de l'échantillonnage en y ajoutant de l'incertitude statistique.
7. Le résultat est-il reproductible ? Une même extraction doit produire le même résultat, condition nécessaire pour que l'analyse soit opposable lors d'un contrôle.

Les deux derniers points renvoient au cadre d'audit. La norme 10.3 des normes mondiales de l'audit interne de l'IIA, en vigueur depuis janvier 2025, impose au responsable de l'audit interne de doter sa fonction des technologies nécessaires et d'en évaluer régulièrement la pertinence, tandis que la norme ISO 19011 encadre la conduite des audits et la collecte des preuves. Les modifications des normes d'audit du PCAOB relatives à l'analyse assistée par la technologie, applicables aux exercices ouverts à compter du 15 décembre 2025, encadrent l'usage de ces techniques sans l'imposer, et exigent de l'auditeur qu'il évalue la fiabilité de l'information électronique utilisée. En France, la NEP 240 homologuée par arrêté du 27 juillet 2023 impose au commissaire aux comptes de vérifier le caractère approprié des écritures comptables et admet explicitement le recours à des techniques de contrôle assistées par ordinateur. La norme internationale ISA 240 révisée, applicable aux exercices ouverts à compter du 15 décembre 2026, va plus loin en traitant explicitement le double usage de la technologie, par l'entité pour frauder comme par l'auditeur pour détecter.

Un point juridique mérite d'être traité en amont du choix d'outil. Un système de détection de fraude interne appliqué aux données comptables ne figure pas parmi les systèmes à haut risque listés à l'annexe III du règlement sur l'intelligence artificielle, dont les obligations ont par ailleurs été reportées au 2 décembre 2027 par le règlement (UE) 2026/1744. L'audit des systèmes d'IA garde toutefois sa pertinence en interne. La qualification change si l'outil évalue le comportement individuel de salariés, cas visé par le point 4 de cette même annexe, ce qui peut concerner un score de risque par collaborateur sur les notes de frais. Côté protection des données, la CJUE a jugé dans l'affaire SCHUFA (C-634/21, 7 décembre 2023) qu'un score automatisé constitue en lui-même une décision au sens de l'article 22 du RGPD lorsque la suite donnée en dépend étroitement. Un dispositif qui se borne à signaler des cas pour revue humaine échappe à cette qualification ; un dispositif dont le signalement déclenche mécaniquement une procédure disciplinaire ne lui échappe pas. La CNIL exige en outre un dispositif proportionné, une consultation préalable du comité social et économique et une information des salariés.

Ces exigences convergent vers une même contrainte technique : la traçabilité. Un score qui ne peut pas être expliqué ligne par ligne ne constitue pas un élément probant exploitable, quelle que soit sa performance statistique. C'est sur ce critère que Supervizor construit son analyse de la population complète des transactions, avec des contrôles dont le résultat est reproductible et documenté à chaque extraction.

Conclusion

Le machine learning ne remplace pas les contrôles existants, il traite ce que les règles ne savent pas formuler. La séquence qui fonctionne commence par l'analyse de la population complète avec des tests déterministes, poursuit par les méthodes statistiques là où elles s'appliquent, et réserve les modèles non supervisés à la hiérarchisation du reliquat. Le premier chantier n'est donc pas le choix d'un algorithme, mais la normalisation des données sur lesquelles il travaillera.