Perspectives de l'OCDE sur la lutte contre la corruption et l'intégrité 2024

9. L’intelligence artificielle

Introduction

Les progrès de l’intelligence artificielle (IA) comptent parmi les évolutions technologiques les plus significatives de ces dernières années, et ils créent de nombreuses possibilités pour les acteurs de la lutte contre la corruption et de l’intégrité. L’IA, y compris l’apprentissage automatique, peut transformer la façon dont ces acteurs identifient, prévoient et atténuent les risques de fraude et de corruption à une échelle que les approches traditionnelles fondées sur des règles ne permettaient pas d’atteindre. Le potentiel qu’elle offre peut être exploité de façons très diverses allant de la détection des irrégularités dans les processus de dépenses publiques ou de passation de marchés à l’accélération de l’examen des déclarations de patrimoine ou des textes législatifs. L’IA, y compris les dernières évolutions de l’IA générative et des grands modèles de langage, ouvre des perspectives très intéressantes en ce qui concerne l’analyse des données non structurées, l’automatisation de certaines activités et les gains d’efficience. Cela offre notamment l’avantage de permettre aux auditeurs, aux enquêteurs et aux analystes de se concentrer davantage sur les questions et les tâches qui requièrent des connaissances spécialisées.

Toutefois, l’efficacité et l’efficience de toute approche d’atténuation des risques de fraude et de corruption fondée sur l’IA ou sur les outils analytiques dépendent non seulement de la disponibilité et de la qualité des données, mais aussi des compétences des personnes qui en sont responsables. L’IA et les outils analytiques de pointe ne remplacent pas la réflexion et l’expertise humaines. En outre, si l’IA peut constituer un allié puissant pour les acteurs de l’intégrité, c’est également un outil que d’autres peuvent potentiellement utiliser pour commettre des actes de fraude et de corruption plus efficacement et à plus grande échelle.

Ce chapitre examine ces problématiques, et expose en quoi :

• l’IA est un outil de lutte contre la fraude et la corruption nationale et transnationale ;

• l’IA présente des faiblesses et peut être utilisée pour faciliter certaines activités de corruption.

L’IA en tant qu’outil de lutte contre la fraude et la corruption nationale et transnationale

L’IA est utilisée pour prévenir et détecter la fraude et la corruption dans le secteur public

Pour gérer les répercussions de la pandémie de COVID‑19 et la crise du pouvoir d’achat, de nombreuses administrations doivent faire face à de nouveaux risques de fraude en plus de ceux qui existaient déjà, dont certains à des niveaux sans précédent, en lien avec les dépenses de secours et de relance et avec la passation des marchés publics. Les risques sont particulièrement élevés dans ces domaines, où toute activité de fraude ou de corruption peut détourner de l’argent public destiné à fournir un soutien essentiel aux particuliers et aux entreprises. L’IA offre aux pouvoirs publics des possibilités d’évaluer les risques et de prédire les cas probables de fraude ou de corruption de plusieurs manières, qui auparavant auraient été impossibles ou auraient requis un niveau de ressources prohibitif (Encadré ‎9.1). Grâce à elle, il est plus facile pour les enquêteurs et les auditeurs de hiérarchiser leurs ressources limitées en fonction des priorités et de mieux cibler les exigences en matière de collecte de données, ce qui permet ensuite d’économiser de l’argent public (OCDE, 2021[71]). Elle peut également contribuer à l’amélioration de la vérification des déclarations de patrimoine, ce qui permet aux organismes de vérification de concentrer leurs efforts sur les déclarations à haut risque et de réduire la prise de décision discrétionnaire. Ces systèmes se basent sur des signaux externes (comme des informations diffusées par les médias, des plaintes émanant de parties externes ou des signalements d’autres autorités publiques) pour identifier les déclarations à risque. Les logiciels analytiques comparent ensuite les déclarations signalées aux déclarations antérieures des déclarants concernés, ou de déclarants similaires, afin de vérifier les informations fournies et de repérer des schémas qui pourront être utilisés pour établir de nouveaux signaux d’alerte pour les vérifications futures (Kotlyar et Pop, 2021[72]).

Encadré ‎9.1. Utilisations de l’IA pour défendre l’intégrité dans les pays de l’OCDE

Programme de prestations de maladie de l’assurance-emploi du Canada

L’IA facilite les enquêtes en cours portant sur les demandes frauduleuses de prestations d’assurance-emploi au moyen d’outils axés sur l’identification des faux certificats médicaux. Une fois identifiés, les certificats médicaux susceptibles d’être faux sont associés aux prestations d’assurance-emploi et les cas à examiner sont sélectionnés. Le projet utilise des transcriptions et des images et fait appel à diverses technologies fondées sur l’IA pour en extraire des informations pertinentes. Par exemple, un traitement automatique du langage naturel est appliqué aux transcriptions pour collecter des données relatives aux médecins. La reconnaissance optique des caractères (ROC) permet d’extraire ces informations des images médicales, et les analyses de réseau permettent d’identifier les demandeurs et demandeuses qui ont un lien avec les cas de fraude déjà connus ou nouvellement identifiés.

HMRC britannique

L’IA facilite un certain nombre d’activités, notamment l’identification des risques liés à certains services transactionnels à grande échelle, par exemple dans le cadre des demandes de remboursement de la taxe sur la valeur ajoutée (TVA) et de l’auto-déclaration de l’impôt sur le revenu. Au Royaume-Uni, la HMRC utilise des outils analytiques pour faciliter l’identification des risques qui nécessitent une attention particulière puis élabore des dossiers pour les transmettre aux équipes chargées des enquêtes. L’IA est aussi efficace pour assimiler de grandes quantités de données ; cette application est plus récente et revêt une importance particulière pour les travaux sur les dossiers de conformité pour lesquels HMRC allie l’IA à d’autres outils, notamment de visualisation géographique des données.

Agence suédoise des impôts

L’Agence suédoise des impôts s’appuie sur l’IA pour améliorer les processus d’audit et d’évaluation des risques en ce qui concerne les informations figurant sous forme de texte libre dans les 150 000 déclarations d’impôt sur le revenu manuscrites qu’elle reçoit chaque année. Elle utilise l’IA pour interpréter et convertir le texte manuscrit en texte numérique et pour le classer dans une catégorie de sujets parmi environ soixante. Le texte est interprété à l’aide d’un modèle d’apprentissage profond qu’elle a mis au point et entraîné. Cette interprétation automatisée présente l’avantage d’accélérer la transmission des informations aux services compétents et de rendre plus efficaces les efforts de quantification et d’analyse du contenu des informations rédigées sous forme de texte libre, ce qui signifie que l’identification et le traitement des cas potentiels de fraude et de corruption sont plus rapides et plus ciblés.

Source : (International Public Sector Fraud Forum, 2020[73] ; OCDE, 2023[74]).

L’IA peut également aider à réaliser des gains d’efficience dans les systèmes administratifs et à les améliorer, ce qui peut réduire la corruption. Elle peut améliorer l’efficience des services publics et des procédures administratives en réduisant les coûts, en augmentant la productivité et en améliorant la qualité des services et des produits proposés au public. Par ailleurs, elle peut aussi réduire les opportunités pour les titulaires de charges publiques de commettre des actes de corruption. La complexité et le manque de clarté des règles, les lourdeurs et les inefficiences administratives, ainsi que le sentiment qu’ont les agents publics d’être rendus impuissants par le système, comptent parmi les principaux facteurs à l’origine de la corruption dans le secteur public (U4, s.d.[75]). L’IA peut offrir des solutions face à ces problèmes en simplifiant les procédures administratives ou en faisant en sorte que les titulaires de charges publiques utilisent moins leurs pouvoirs discrétionnaires. Par exemple, les règles et réglementations peuvent être codées sous forme de code informatique puis intégrées dans les systèmes automatisés. Ces derniers peuvent alors garantir une application cohérente et équitable des règles en réduisant le risque d’erreur humaine ou d’abus de pouvoir discrétionnaire et en renforçant l’efficacité du processus (Parycek, Schmid et Novak, 2023[76]).

Compte tenu de leur capacité à gérer de vastes bases de données, les méthodologies fondées sur l’IA peuvent aider à détecter la fraude et la corruption dans les composantes du secteur public qui traitent des services transactionnels à grande échelle, notamment en ce qui concerne les soins de santé, les douanes, les infrastructures, les passations de marché ou les services fiscaux (Encadré ‎9.2). En particulier, l’IA peut aider les institutions publiques à détecter les interactions anormales avec leurs systèmes et à repérer les activités suspectes et potentiellement frauduleuses en s’appuyant, par exemple, sur des logiciels de reconnaissance d’images ou sur la modélisation des risques (International Public Sector Fraud Forum, 2020[73]). Elle peut également réduire les faux positifs en aidant à trier les interactions avec les processus et services publics qui sont en réalité valides parmi les cas signalés (International Public Sector Fraud Forum, 2020[73] ; OCDE, 2021[8]).

Encadré ‎9.2. Utilisation de l’IA par les administrations fiscales pour lutter contre la fraude et la corruption

L’IA renforce la capacité des administrations fiscales à lutter contre la fraude et la corruption en améliorant les processus de gestion des risques, en favorisant le respect par les contribuables de leurs obligations fiscales et en allégeant le fardeau qui pèse sur eux. Certaines innovations permettent de dégager des ressources qui peuvent être utilisées de manière ciblée pour traiter les cas complexes ou présentant davantage de risques.

Gestion des risques d’indiscipline fiscale

De plus en plus de pays utilisent l’IA, y compris l’apprentissage automatique, pour comprendre les risques d’indiscipline fiscale actuels et futurs, affiner la gestion des risques et élaborer des mesures d’intervention. Parmi les pays interrogés dans le cadre du rapport Administration fiscale 2023 de l’OCDE, 82.5% utilisent déjà l’IA pour évaluer les risques et détecter les fraudes dans leurs systèmes fiscaux ou travaillent actuellement à sa mise en œuvre en vue d’une utilisation future. Par exemple, un de ces pays intègre des techniques d’auto-encodage de l’intelligence artificielle pour compresser des données en grande dimension et un réseau neuronal à mémoire à court terme pour extraire des informations provenant de données financières et économiques longitudinales (séquence) sur les entités et de la structure des entités économiques, qui sont utilisées par la suite en tant que variables prédictives pour améliorer la prédiction des cas de non-respect des obligations. Ailleurs, on utilise l’IA pour identifier les demandes de déduction fiscale frauduleuses à haut risque, par exemple lorsqu’une personne demande à bénéficier d’une déduction au titre des frais de déplacement encourus pour se rendre au travail alors qu’elle ne tire pas de revenu de l’emploi, la demande étant automatiquement refusée lorsqu’elle ne peut être justifiée. Globalement, l’IA permet aux administrations fiscales d’adopter une approche plus préventive en matière de gestion des risques de fraude. En s’efforçant d’intervenir à des stades plus précoces des processus impliquant les contribuables, elles sont en mesure de prévenir le non-respect des obligations fiscales, notamment en matière de fraude et de corruption, au lieu de devoir les déceler après le dépôt des déclarations.

Favoriser le respect par les contribuables de leurs obligations fiscales et alléger le fardeau qui pèse sur eux

L’IA est également utilisée pour améliorer le respect des obligations fiscales en facilitant les démarches des contribuables souhaitant interagir avec les services fiscaux et s’acquitter de ces obligations. L’IA contribue à faciliter le passage au libre-service, en temps réel, 24 heures sur 24 et 7 jours sur 7, et crée des possibilités de services qui permettent aux administrations fiscales d’adopter des approches plus axées sur la conformité dès la conception. Par exemple, l’IA est utilisée pour fournir aux contribuables des services d’assistance virtuelle ou numérique plus sophistiqués qui réussissent à traiter des questions plus complexes et fournissent des réponses plus personnalisées. Une autre application vise à simplifier l’interaction des clients avec les systèmes fiscaux en automatisant la catégorisation et l’acheminement des demandes de renseignements aux experts concernés pour qu’ils prennent les mesures nécessaires. En outre, l’IA a été utilisée pour approuver instantanément le calcul de l’impôt, ce qui a réduit les délais moyens de sa liquidation ainsi que la durée et la complexité des échanges entre les contribuables et les autorités fiscales. Ces innovations ont encouragé les contribuables et les systèmes fiscaux à interagir en réduisant le désengagement, la fraude et les erreurs, et ont permis aux agents publics de se concentrer sur des cas plus complexes ayant un potentiel de recettes fiscales plus important.

Cependant, l’utilisation de l’IA pour lutter contre la fraude et la corruption dans les systèmes fiscaux continue de comporter des risques, et certains défis demeurent :

• préserver la sécurité et la confidentialité des informations stockées et utilisées par les outils d’IA, et utiliser les données uniquement dans le respect des règles de protection des données

• conserver dans les outils d’IA un niveau de transparence suffisant pour préserver la confiance de la population dans les administrations fiscales, dont l’efficacité dépend du consentement des contribuables à leurs obligations fiscales et de leur respect de celles-ci

• veiller à ce que les cadres législatifs restent adaptés à leur finalité alors que les technologies évoluent, notamment en termes d’utilisation et de stockage des données

• favoriser l’utilisation des outils d’IA par la population et la confiance qu’elle leur porte, en particulier en ce qui concerne le déploiement des outils d’assistance numérique et virtuelle

• garantir l’accès aux données tierces et la communication entre différents systèmes pour permettre à l’IA d’apprendre et de fonctionner de manière optimale.

Source : (OCDE, 2023[74]).

L’utilisation de l’IA est de plus en plus pertinente dans la lutte contre la corruption transnationale, tant pour les autorités répressives que pour les entreprises

Les outils d’IA peuvent être utilisés à divers stades des actions répressives dans les affaires de corruption transnationale. Les réglementations de lutte contre le blanchiment de capitaux imposant des obligations déclaratives aux institutions financières et aux entreprises et professions non financières désignées (DNFBP), les pays membres ont adopté des outils d’IA pour trier, mettre en relation et hiérarchiser les données contenues dans les déclarations d’opérations suspectes (DOS). L’un des principaux avantages que présente l’utilisation des outils d’IA dans ce contexte est de pouvoir identifier des DOS potentiellement pertinentes portant sur des infractions graves sans devoir décrire de manière exhaustive tous les attributs de caractéristique des différentes typologies sous la forme de règles mathématiques. Au lieu de cela, ces règles sont automatiquement tirées de l’apprentissage par les données (OCDE, 2021[77]).

L’IA peut également être utilisée de diverses façons dans le cadre des enquêtes portant sur des faits de corruption transnationale. Elle peut déchiffrer les noms de code et les expressions familières utilisés dans les communications en lien avec la transaction entachée de corruption, accélérant ainsi la préparation des documents d’enquête. Au Royaume-Uni, par exemple, le Serious Fraud Office (Bureau de lutte contre les fraudes graves) a déclaré avoir utilisé un outil d’IA dans le cadre d’une enquête portant sur des faits de corruption transnationale pour trier les documents couverts par le secret professionnel des avocats de sorte à les retirer des preuves. En analysant pas moins de 600 000 documents par jour, l’IA a réduit de 80 % le nombre de documents protégés devant être examinés par un avocat indépendant. En plus de réduire la durée du processus d’examen de deux ans à quelques mois, le recours à l’IA a également permis d’examiner les preuves de façon plus précise et plus cohérente (OCDE, 2021[77]).

Les entreprises peuvent également utiliser l’IA et l’analyse des données pour améliorer leurs systèmes de conformité ainsi que de sécurité et de gestion des risques en matière de lutte contre la corruption. Dans ce domaine, les approches fondées sur l’IA peuvent, par exemple, améliorer le suivi des transactions, faciliter l’identification et le signalement des irrégularités comme les paiements suspects, détecter et prévenir les manquements des salariés, et permettre d’effectuer des analyses prédictives des risques de corruption (Business at OECD, s.d.[78]).

Faiblesses de l’IA et favorisation des activités de corruption

La mauvaise qualité des données sur lesquelles s’appuie l’IA limite son utilisation

L’utilisation de l’IA peut aider les acteurs de l’intégrité à prévenir et à détecter efficacement la corruption et la fraude grâce aux éclairages qu’ils tirent d’ensembles de données importants et complexes qu’il aurait été impossible d’analyser autrement. Toutefois, si les données utilisées sont de mauvaise qualité, ces efforts peuvent être limités ou compromis ; cela peut avoir pour conséquences un gaspillage des ressources et l’apparition d’un certain scepticisme quant aux avantages de l’utilisation de l’IA. La qualité médiocre des données affecte un large éventail d’activités de lutte contre la corruption et la fraude. Par exemple, le prétraitement des données utilisées pour mener des analyses des risques de fraude et de corruption, notamment l’évaluation et la résolution des problèmes de fiabilité, peut prendre encore plus de temps que les travaux « analytiques » en eux-mêmes (OCDE, 2019[79]). De même, de nombreux acteurs de l’intégrité sont confrontés de manière récurrente à la difficulté de devoir gérer l’absence ou le manque de fiabilité des données liées à diverses sources de données critiques, comme les registres des déclarations de patrimoine ou du lobbying, ainsi que les données relatives aux marchés publics.

En outre, l’utilisation de données peu fiables ou incomplètes pour entraîner les modèles peut perpétuer, ou même accentuer, les préjugés et les biais existants (Adam et Fazekas, 2018[80]). Parmi les causes de ces problèmes, on peut citer les biais sociétaux déjà présents dans les données, les données incomplètes, les échantillons de taille restreinte, les erreurs dans la définition des variables, ou encore le fait d’omettre certaines variables ou variables de substitution ou d’en inclure qui soient erronées (OCDE, 2019[9] ; OCDE, 2023[81]). L’utilisation de données de synthèse (données générées artificiellement) dans l’apprentissage des modèles d’IA vise à surmonter certains des problèmes de qualité inhérents à de nombreux ensembles de données complexes (Lee, 2024[82]), mais il n’existe toujours pas de mesure infaillible pour atténuer ces risques. Des erreurs dans le couplage des données et l’utilisation d’algorithmes peu fiables peuvent avoir de profondes répercussions (The Royal Commission into the Robodebt Scheme, 2023[83]).

Les problèmes relatifs à la qualité des données utilisées par l’IA peuvent également aggraver les problèmes existants en ce qui concerne la confiance dans les institutions publiques ainsi que la possibilité d’auditer les processus de prise de décision. Les outils d’IA peuvent être perçus comme des systèmes de « boîte noire » qui prennent des données d’entrée et produisent des données de sortie, tandis que le processus intermédiaire n’est ni visible, ni facile à interpréter. Il existe donc un risque que le public puisse éprouver des difficultés à comprendre comment et par qui les décisions sont prises au sein des institutions publiques, ce qui peut entrainer des répercussions non désirées sur l’intégrité et la transparence du processus. Il peut être difficile pour les institutions publiques de fournir des explications concrètes sur ces processus d’IA, en particulier lorsque des questions de sécurité ou de droits de propriété intellectuelle les en empêchent (International Public Sector Fraud Forum, 2020[73]). Pour de nombreux acteurs de l’intégrité, ces obstacles à surmonter pour garantir l’interprétabilité et l’explicabilité des résultats peuvent mettre à mal les principes mêmes que celles-ci sont censées garantir, comme la transparence et la redevabilité dans le processus décisionnel public.

En outre, il peut être difficile pour les organismes chargés des audits et de l’intégrité d’auditer les systèmes d’IA qui prennent des décisions sur la base de modèles mal entraînés, ou des décisions fondées de manière expérimentale ou intuitive sur des données massives, et de comprendre le fonctionnement d’outils d’IA spécifiques. Les auditeurs qui ne disposent pas du niveau d’accès ou de l’expertise adaptés pourront avoir du mal à vérifier que les systèmes d’IA fonctionnent comme prévu et que les mécanismes nécessaires en matière d’évaluation et de traitement des risques sont en place (OCDE, 2023[81]). L’explication du fonctionnement des systèmes d’IA ainsi que leur audit posent des défis, et il pourrait être plus difficile pour les pouvoirs publics de favoriser la confiance dans le processus décisionnel public et pour la population d’avoir l’assurance que l’élaboration des politiques est efficace et sert l’intérêt général (OCDE, 2019[9] ; OCDE, 2023[81]).

Les acteurs corrompus utilisent de plus en plus l’IA

Certains pays de l’OCDE sont de plus en plus préoccupés par la possibilité pour les individus et les organisations qui se livrent à des actes de fraude d’utiliser des méthodes plus sophistiquées que jamais pour analyser de grands volumes de données et exploiter les vulnérabilités des systèmes du secteur public (International Public Sector Fraud Forum, 2020[73]). Bon nombre de ces techniques ne sont pas nouvelles, par exemple l’ingénierie sociale ou les attaques d’hameçonnage, mais l’IA, en particulier l’IA générative et les grands modèles de langage, exacerbent les risques existants. Par exemple, les acteurs malveillants peuvent créer des documents frauduleux et des identités synthétiques générées par l’IA avec une facilité et une efficacité sans précédent, et s’en servir pour contourner les procédures « Connaissez vos clients - Know Your Customer » ou pour demander à bénéficier de certaines prestations. Ces activités peuvent par exemple compromettre l’intégrité des programmes d’aide en lien avec le COVID‑19 ou la crise du pouvoir d’achat qui sont financés par le contribuable, privant ainsi les bénéficiaires des fonds dont ils ont besoin.

L’IA peut aussi permettre d’influer sur le débat politique et sur l’élaboration des politiques publiques. On peut l’utiliser légitimement pour des activités de lobbying auprès des responsables publics : elle peut aider à préparer des analyses des projets de loi, des amendements et des documents de consultation, à cartographier les parties prenantes et élaborer des stratégies de lobbying, ou à rédiger des propositions et des notes de position destinées aux décideurs des institutions publiques (NY Times, 2023[84] ; WFD et POPVOX, 2023[85]). Ces méthodes peuvent aider les lobbyistes à mettre au point des contributions influant plus efficacement sur l’élaboration des politiques publiques, ce qui leur permet de mieux représenter leurs intérêts auprès des décideurs, et pourraient contribuer à rendre les possibilités d’engagement public plus équitables (WFD et POPVOX, 2023[85]). Toutefois, lorsque ces techniques sont utilisées à mauvais escient, par exemple pour fournir des informations biaisées ou fausses ou pour surreprésenter certains points de vue, l’IA peut permettre d’influencer plus efficacement les décideurs au détriment de l’intérêt public et en faveur d’intérêts privés spécifiques, voire de ceux de puissances étrangères (Sanders et Schneier, 2023[86] ; Nay, 2023[87]). En outre, dans la mesure où l’IA permet de générer des hypertrucages (deepfakes), il est plus difficile de distinguer ce qui est vrai de ce qui ne l’est pas. Récemment, des exemples ont permis de voir comment certains pouvaient utiliser les hypertrucages pour influer sur les campagnes électorales en donnant une fausse image du camp adverse et en influant sur le cours des débats de façon illégitime dans les démocraties (WFD et POPVOX, 2023[85] ; Murphy, 2024[88]). Si l’utilisation de l’IA dans les activités d’influence n’est pas forcément problématique en soi, les garde-fous érigés par de nombreux pays dans le domaine du lobbying peuvent s’avérer inadaptés au regard de la nécessité d’atténuer les risques liés à l’IA dans la mesure où ils ont été mis au point avant l’adoption généralisée de ces outils. Par exemple, de nombreux pays ne disposent pas de règles de conduite pour les activités de lobbying qui atténuent le risque que des intérêts trompeurs ne soient représentés, et encore moins à l’échelle rendue possible par l’utilisation de l’IA. Par ailleurs, les pays ont aussi clairement la possibilité d’élaborer leurs propres orientations pour aider les titulaires d’une charge publique à évaluer la fiabilité des informations qui leur sont présentées (OCDE, 2021[19]).

Dans l’ensemble, l’IA offre aux pays de l’OCDE un large éventail de possibilités de promouvoir plus efficacement l’intégrité dans le secteur public, et ce sera de plus en plus le cas dans les années à venir. L’IA a radicalement changé la façon dont les autorités publiques évaluent et gèrent le risque d’intégrité et de corruption au sein des institutions publiques. Toutefois, les pays devraient comprendre les limites et les risques associés à l’utilisation de cette technologie dans le secteur public. Ces limites sont particulièrement marquées lorsque les pays peinent à recueillir les données nécessaires au bon fonctionnement de ces outils. Les pays devraient également examiner le degré de préparation des cadres qu’ils ont mis en place en matière de lobbying en ce qui concerne la gestion des activités d’influence fondées sur l’IA, et plus particulièrement en ce qui concerne les normes qu’ils appliquent pour l’utilisation de l’IA dans les activités de lobbying et les orientations qu’ils fournissent aux titulaires d’une charge publique en matière de gestion des activités de lobbying.