Perspectivas de anticorrupción e integridad 2024

9. Inteligencia artificial

Introducción

La evolución de la inteligencia artificial (IA) es uno de los avances tecnológicos más significativos de los últimos años, y presenta muchas oportunidades para los agentes anticorrupción y de integridad. La IA, incluido el aprendizaje automático, puede transformar la forma en que los agentes anticorrupción y de integridad identifican, predicen y mitigan los riesgos de fraude y corrupción a una escala que no era posible con los enfoques tradicionales basados en reglas. Este potencial tiene toda una gama de aplicaciones, desde la detección de irregularidades en el gasto público o los procesos de contratación, hasta la agilización de la revisión de las declaraciones de renta o textos legislativos. La IA, incluidos los últimos desarrollos en IA generativa y los grandes modelos de lenguaje, ofrece nuevas y emocionantes posibilidades para analizar datos no estructurados, automatizar actividades y crear eficiencias. Entre otras ventajas, esto permite a los auditores, investigadores y analistas centrarse más en temas y tareas que requieren conocimiento experto.

Sin embargo, la efectividad y eficiencia de cualquier enfoque basado en IA o analítica para mitigar los riesgos de fraude y corrupción no solo depende de la disponibilidad y calidad de los datos, sino también de las habilidades de los responsables. La IA y la analítica avanzada no son sustitutos del juicio y la experiencia humanos. Si bien la IA puede ser un poderoso aliado para los agentes de integridad, también es una herramienta potencial para que otros perpetúen el fraude y la corrupción con mayor eficiencia y a mayor escala.

Este capítulo explora estos temas, y describe cómo:

• La IA es una herramienta para luchar contra el fraude, la corrupción y el soborno en el extranjero;

• La IA tiene debilidades y puede utilizarse para permitir actividades corruptas.

La IA como herramienta para luchar contra el fraude, la corrupción y el soborno extranjero

La IA para prevenir y detectar el fraude y la corrupción en el sector público

A raíz de la pandemia de COVID-19 y en respuesta a la crisis del coste de vida, muchos gobiernos se enfrentan a riesgos de fraude antiguos y nuevos, algunos a niveles sin precedentes, vinculados al gasto en ayuda y recuperación, así como a la contratación pública. Éstas son áreas de riesgo particularmente elevado, donde cualquier fraude y corrupción puede desviar el dinero de los contribuyentes del apoyo esencial a empresas y particulares. La IA ofrece a los gobiernos oportunidades de evaluar los riesgos y predecir posibles casos de fraudes o corrupción de formas que antes hubieran sido imposibles o que hubieran requerido un uso prohibitivo de recursos (Recuadro ‎9.1). La IA ha facilitado a los investigadores y auditores priorizar los recursos finitos y mejorar el enfoque de los requisitos de recolección de datos, ahorrando así dinero a los contribuyentes (OCDE, 2021[71]). También se puede utilizar para mejorar la verificación de las declaraciones de renta, ayudar a los organismos de verificación a centrarse en las declaraciones de alto riesgo y reducir la toma de decisiones discrecionales. Estos sistemas marcan las declaraciones basadas en señales externas (como informes de medios de comunicación, quejas de terceros o remisiones de otras autoridades públicas). El software analítico compara las declaraciones marcadas con las declaraciones anteriores del declarante, o de los declarantes similares, para verificar las presentaciones y encontrar patrones que se pueden utilizar a fin de desarrollar nuevas alertas para futuras verificaciones (Kotlyar and Pop, 2021[72]).

Recuadro ‎9.1. Usos actuales de la IA para defender la integridad en los países de la OCDE

Programa de enfermedad del seguro de empleo (EI, por sus siglas en inglés) del Canadá

La IA apoya la investigación en curso sobre los abusos del programa de beneficios del EI centrándose en identificar certificados médicos ficticios. Una vez que se descubren tales certificados supuestamente ficticios, se asocian con beneficios del EI con el fin de seleccionar casos para su investigación. El proyecto utiliza transcripciones e imágenes y emplea una variedad de tecnologías habilitadas para IA a fin de extraer información relevante de ellas. Por ejemplo, el procesamiento del lenguaje natural (NPL, por sus siglas en inglés) se aplica a las transcripciones para extraer datos sobre los médicos. El reconocimiento óptico de caracteres (OCR, por sus siglas en inglés) se utiliza para extraer esa información de imágenes médicas, mientras que el análisis de red ayuda a identificar a los solicitantes relacionados con los casos conocidos o recientemente identificados de fraude.

HMRC del Reino Unido

La IA apoya una serie de actividades, incluida la identificación de riesgos en algunos servicios transaccionales a gran escala, como las reclamaciones de reembolso del Impuesto sobre el Valor Añadido (IVA) y la autoevaluación del Impuesto sobre la Renta. El HMRC del Reino Unido está utilizando analítica para ayudar a identificar los riesgos que necesitan atención y crear paquetes de casos que se transmiten a los equipos de investigadores. La IA también funciona bien para asimilar grandes cantidades de datos: esta es una implementación más reciente, importante para los casos de cumplimiento en los que HMRC utiliza IA junto con otras herramientas como el mapeo georgáfico.

Agencia Tributaria Sueca (STA, por sus siglas en inglés)

La STA utiliza inteligencia artificial para mejorar la auditoría y la evaluación de riesgos en relación con la información de texto libre en las 150 000 declaraciones manuscritas del impuesto sobre la renta que recibe cada año. La IA se utiliza para interpretar y convertir texto manuscrito en texto digital y para clasificar el texto en una de las cerca de 60 categorías temáticas. El texto se interpreta utilizando un modelo de aprendizaje profundo que ha sido desarrollado y entrenado por el STA. Los beneficios de esta interpretación automatizada son que la información alcanza la competencia adecuada más rápido y que cuantificar y analizar el contenido de la información de texto libre es más efectivo, lo que significa que la identificación y el procesamiento de posibles casos de fraude y corrupción es más rápido y más específico.

Fuente: (International Public Sector Fraud Forum, 2020[73]; OCDE, 2023[74]).

La IA también puede ayudar a lograr eficiencias y mejoras en los sistemas administrativos que pueden reducir la corrupción. Puede mejorar la eficiencia de los servicios públicos y los procesos administrativos mediante la reducción de costos, el aumento de la productividad y la mejora de la calidad de los servicios y productos ofrecidos al público. Pero también puede reducir las oportunidades de corrupción entre los titulares de cargos públicos. Las reglas complejas y poco claras, la burocracia y la ineficiencia, y los titulares de cargos públicos que se sienten desempoderados por el sistema son algunos de los principales impulsores de la corrupción en el sector público (U4, s.f.[75]). La IA puede abordar estas cuestiones simplificando los procedimientos administrativos o reduciendo el uso de poderes discrecionales por parte de los titulares de cargos públicos. Por ejemplo, las reglas y normativas pueden codificarse como código informático e integrarse en sistemas automatizados. Estos sistemas pueden a continuación garantizar que las reglas se apliquen de manera coherente y justa, reduciendo el riesgo de error humano o el abuso de discreción, y mejorando la eficiencia del proceso (Parycek, Schmid and Novak, 2023[76]).

Dada su capacidad para gestionar grandes bases de datos, las metodologías impulsadas por la IA pueden ayudar a detectar el fraude y la corrupción en partes del sector público que se ocupan de servicios transaccionales a gran escala, incluidos los servicios de salud, las aduanas, la infraestructura, la contratación pública o los impuestos (Recuadro ‎9.2). En particular, la IA puede ayudar a las instituciones públicas a reconocer las interacciones anómalas con sus sistemas, e identificar actividades sospechosas y potencialmente fraudulentas a través de, por ejemplo, el uso de software de reconocimiento de imágenes o modelado de riesgo (International Public Sector Fraud Forum, 2020[73]). También puede reducir la incidencia de falsos positivos, ayudando a separar interacciones que de otro modo serían validas con procesos y servicios públicos de los casos señalados (International Public Sector Fraud Forum, 2020[73]; OCDE, 2021[8]).

Recuadro ‎9.2. Uso de la inteligencia artificial por parte de las administraciones tributarias para combatir el fraude y la corrupción

La IA está aumentando la capacidad de las administraciones tributarias para combatir el fraude y la corrupción mediante la mejora de los procesos de gestión de riesgos, el apoyo al cumplimiento de las obligaciones de los contribuyentes y la reducción de las cargas para los contribuyentes. Algunas innovaciones están liberando recursos para su uso específico en casos complejos o de mayor riesgo.

Gestión de riesgos de cumplimiento

Más países están utilizando la IA, incluido el aprendizaje automático, para comprender los riesgos actuales y futuros de cumplimiento, mejorar la gestión de riesgos y desarrollar acciones de intervención. El 82,5% de los países encuestados en el informe de la Administración Tributaria 2023 de la OCDE ya está utilizando la IA para evaluar riesgos y detectar fraude en sus sistemas tributarios, o se encuentran en fase de implementación para su uso futuro. Un ejemplo incluye la incorporación de técnicas de autocodificación de IA para comprimir datos de alta dimensión y una red neuronal de memoria a corto plazo para extraer información de datos longitudinales (secuenciales) de entidades financieras y económicas, así como la estructura de las entidades económicas, que se utilizan como pronósticos para mejorar la predicción de incumplimiento. En otros lugares, la IA se está utilizando para identificar solicitudes fraudulentas de deducción fiscal de alto riesgo, como una persona que reclama deducciones por gastos de viaje para trabajar sin tener ingresos procedentes del empleo, y rechazar automáticamente la reclamación cuando no puede ser justificada. En general, la IA permite a las administraciones trubutarias adoptar un enfoque más preventivo en la gestión del riesgo de fraude. Al tratar de intervenir en etapas más tempranas en los procesos de los contribuyentes, las administraciones tributarias pueden prevenir el incumplimiento, incluidos el fraude y la corrupción, en lugar de tener que descubrirlo después de que se hayan presentado las declaraciones de impuestos.

Apoyar el cumplimiento de las obligaciones de los contribuyentes y reducir su carga

La IA también se está utilizando para mejorar el cumplimiento al facilitar a los contribuyentes la participación en los servicios tributarios y el cumplimiento de sus obligaciones fiscales. La IA está ayudando a facilitar el impulso hacia el autoservicio, en tiempo real y las 24 horas del día, los 7 días de la semana, así como la apertura de nuevas opciones de servicio para las administraciones tributarias que permiten más enfoques de “cumplimiento por diseño”. Por ejemplo, la IA se está utilizando para ofrecer servicios de asistencia virtual o digital más sofisticados que pueden hacer frente a preguntas más complejas de los contribuyentes y proporcionar respuestas más personalizadas. También se está utilizando para simplificar la interacción de los clientes con los sistemas fiscales, mediante la automatización de la categorización y el envío de las consultas a los expertos apropiados para la acción. La IA se ha utilizado para proporcionar una aprobación instantánea de las evaluaciones fiscales, reduciendo los tiempos de evaluación medios y la duración y complejidad de la interacción de los contribuyentes con las autoridades tributarias. Estas innovaciones han alentado la interacción de los contribuyentes con los sistemas tributarios, reduciendo el desentendimiento, el fraude y el error, y han permitido a los funcionarios centrarse en casos más complejos con el potencial de aumentar la declaración de impuestos.

Sin embargo, los riesgos y desafíos que presenta el uso de la IA para combatir el fraude y la corrupción en los sistemas tributarios siguen existiendo:

• Mantener la seguridad y privacidad de la información almacenada y utilizada por las herramientas de IA, y solo utilizar datos de una manera que cumpla con las reglas de protección de datos.

• Conservar niveles de transparencia en las herramientas de IA que mantengan la confianza pública en las administraciones tributarias, cuya eficacia depende del consentimiento y cumplimiento de los contribuyentes.

• Garantizar que los marcos legislativos sigan siendo adecuados para su finalidad en el contexto de los avances tecnológicos, sobre todo en términos de uso y almacenamiento de datos.

• Fomentar el compromiso pública y la confianza en las herramientas de IA, especialmente en relación con el despliegue de herramientas de asistencia digital y virtual.

• Garantizar el acceso a datos de terceros y la comunicación entre diferentes sistemas para permitir que la IA aprenda y funcione de manera óptima.

Fuente: (OCDE, 2023[74]).

La IA es cada vez más importante en la lucha contra el soborno extranjero, tanto desde el punto de vista del cumplimiento de la ley como de las empresas

Las herramientas de IA se pueden utilizar en varias etapas de una acción de aplicación de la legislación sobre soborno extranjero. A medida que las normativas contra el lavado de dinero imponen obligaciones de presentación de informes de las instituciones financieras y las Actividades y profesiones no financieras designadas (DNFBPs, por sus siglas en inglés), los países miembros han adoptado herramientas de IA para clasificar, conectar y priorizar los datos en los informes de transacciones sospechosas (STRs, por sus siglas en inglés). Uno de los principales beneficios del uso de herramientas de IA en este contexto es la identificación de STRs potencialmente relevantes relacionados con delitos graves sin la necesidad de describir exhaustivamente todos los atributos característicos de diversas tipologías en forma de reglas matemáticas. En su lugar, estas reglas se derivan automáticamente del entrenamiento de datos (OCDE, 2021[77]).

La IA también puede tener múltiples aplicaciones en investigaciones sobre soborno extranjero. La IA puede descifrar las palabras en código y los coloquialismos utilizados en las comunicaciones relacionadas con la transacción de soborno, y acelerar la preparación de la documentación de la investigación. Por ejemplo, la Oficina de Fraudes Graves del Reino Unido informó que utilizaba una herramienta de inteligencia artificial en el contexto de una investigación sobre soborno extranjero para ordenar y eliminar de las pruebas documentos sujetos al secreto profesional en la relación abogado-cliente. Al escanear hasta 600 000 documentos al día, la IA redujo en un 80% el conjunto de material privilegiado que necesita ser revisado por un asesor independiente. Además de reducir el tiempo del proceso de revisión de dos años a unos pocos meses, el uso de IA también permitió una revisión más precisa y coherente de las pruebas (OCDE, 2021[77]).

Las empresas también pueden usar la IA y el análisis de datos para mejorar su cumplimiento anticorrupción y sus sistemas de seguridad y gestión de riesgos. Los enfoques impulsados por la IA en esta área pueden, por ejemplo, mejorar la supervisión de las transacciones, ayudar a identificar y señalar irregularidades como pagos sospechosos, detectar y prevenir la conducta indebida de los empleados y permitir análisis predictivos de los riesgos de corrupción (Business at OECD, s.f.[78]).

Deficiencias de la IA y permitir actividades corruptas

La mala calidad de los datos subyacentes se traduce en limitaciones para el uso de IA

El uso de la IA puede ayudar a los agentes de integridad a prevenir y detectar de manera eficiente la corrupción y el fraude al extraer información de conjuntos de datos grandes y complejos que habrían sido imposibles de analizar de otra manera. Sin embargo, la mala calidad de los datos puede limitar o socavar estos esfuerzos, lo que podría tener como resultado el desperdicio de recursos o escepticismo sobre los beneficios de aprovechar la IA. La mala calidad de los datos tiene implicaciones para una serie de actividades contra el fraude y la corrupción. Por ejemplo, el tratamiento previo de los datos utilizados para llevar a cabo evaluaciones de riesgo de fraude y corrupción, incluida la evaluación y el tratamiento de problemas de fiabilidad, puede llevar incluso más tiempo que la realización de la propia “analítica” (OCDE, 2019[79]). Del mismo modo, muchos agentes de integridad se enfrentan al desafío rutinario de gestionar datos que faltan o datos propensos a errores vinculados a una variedad de fuentes de datos críticas, como registros de declaraciones de renta o divulgaciones de cabildeo, así como datos de contratación pública.

Además, cuando los datos utilizados para entrenar modelos son poco fiables e incompletos, los supuestos y sesgos existentes pueden perpetuarse e incluso exacerbarse (Adam and Fazekas, 2018[80]). Estos problemas pueden surgir debido a sesgos sociales preexistentes en los datos, datos incompletos, tamaños de muestra pequeños, errores en la definición de variables, o la omisión o inclusión de variables o proxies viciados (OCDE, 2019[9]; OCDE, 2023[81]). El uso de datos sintéticos (datos generados artificialmente) para el entrenamiento de modelos de IA intenta superar algunos de los problemas de calidad inherentes a muchos conjuntos de datos complejos (Lee, 2024[82]), pero todavía no hay una medida completa para mitigar estos riesgos. La coincidencia de datos defectuosos y el uso de algoritmos propensos a errores pueden tener graves consecuencias (The Royal Commission into the Robodebt Scheme, 2023[83]).

Los problemas relacionados con la calidad de los datos y la IA también pueden exacerbar los desafíos existentes en torno a la confianza en las instituciones públicas y la auditabilidad de la toma de decisiones. Las herramientas de IA se pueden ver como sistemas de “caja negra”, tomando una entrada y produciendo una salida, mientras que el proceso intermedio no es visible ni fácil de interpretar. Por lo tanto, existe el riesgo de que el público tenga dificultades para entender cómo y por quién se toman las decisiones en las instituciones públicas, con impactos no deseados en la integridad y transparencia del proceso. Las instituciones públicas pueden tener dificultades para proporcionar explicaciones significativas de esos procesos de IA, especialmente cuando las cuestiones de seguridad o los derechos de propiedad intelectual les impiden hacerlo (International Public Sector Fraud Forum, 2020[73]). Para muchos agentes de integridad, estos desafíos relacionados con la interpretabilidad y explicabilidad de los resultados pueden socavar los mismos principios que están destinados a defender, como la transparencia y la rendición de cuentas en la toma de decisiones públicas.

Además, puede ser difícil para los organismos de auditoría e integridad auditar sistemas de IA que están tomando decisiones basadas en modelos de IA mal entrenados, o decisiones experimentalmente o intuitivamente basadas en datos masivos (big data), y entender cómo funcionan las herramientas de IA particulares. Cuando los auditores no tengan el nivel de acceso o la experiencia adecuados, puede ser difícil verificar que los sistemas de IA están funcionando según lo previsto y que los mecanismos de evaluación y tratamiento de riesgos necesarios estén establecidos (OCDE, 2023[81]). Los desafíos asociados a la explicación y auditoría de los sistemas de IA podrían dificultar que los gobiernos fomenten la confianza en la toma de decisiones públicas y que el público confíe en que la formulación de políticas es eficaz y está al servicio del interés público (OCDE, 2019[9]; OCDE, 2023[81]).

El creciente uso de la IA por parte de agentes corruptos

Algunos países de la OCDE están cada vez más preocupados por el hecho de que las personas y organizaciones que participan en el fraude están utilizando métodos cada vez más sofisticados para analizar grandes cantidades de datos y explotar vulnerabilidades en el sector público (International Public Sector Fraud Forum, 2020[73]). Muchas de las técnicas no son nuevas, como la ingeniería social o los ataques de suplantación de indentidad (phishing), pero la IA (IA generativa y grandes modelos de lenguaje —LLMs, por sus siglas en inglés—, en particular) agrava los riesgos. Por ejemplo, los agentes de amenazas pueden crear documentación fraudulenta e identidades sintéticas generadas por la IA con mayor facilidad y eficiencia que nunca antes, que se pueden utilizar para eludir los procedimientos de conoce a tu cliente (KYC, por sus siglas en inglés) o reclamar derechos a beneficios públicas. Estos esfuerzos pueden comprometer la integridad de, por ejemplo, los programas de ayuda financiados por los contribuyentes relacionados con COVID-19 o la crisis del costo de vida, desviando fondos de aquellos que lo necesitan.

La IA también puede utilizarse como herramienta para influir en el debate político y la formulación de políticas públicas. Se puede utilizar, legítimamente, para hacer cabildeo a los titulares de cargos públicos mediante la preparación de análisis de proyectos de ley, enmiendas y documentos de consulta, para la cartografía de las partes interesadas y la elaboración de estrategias de cabildeo, o para la redacción de presentaciones y documentos de posición a los responsables de la toma de decisiones en las instituciones públicas (NY Times, 2023[84]; WFD and POPVOX, 2023[85]). Estos métodos pueden ayudar a los cabilderos a desarrollar aportes más eficaces a la formulación de políticas, permitiéndoles representar mejor sus intereses ante los responsables de la toma de decisiones, y podrían igualar las condiciones para las oportunidades de participación pública (WFD and POPVOX, 2023[85]). Sin embargo, cuando estas técnicas se utilizan indebidamente, para proporcionar información sesgada o falsa o para sobrerepresentar ciertos puntos de vista, la IA puede influir de manera más eficaz en los responsables políticos alejados del interés público y en favor de intereses privados específicos o incluso de los de potencias extranjeras (Sanders and Schneier, 2023[86]; Nay, 2023[87]). Además, la capacidad de la IA para generar contenido de “falsedad profunda” (deep fake) hace que sea más difícil separar lo que es verdadero de lo que no lo es. Ejemplos recientes demuestran cómo el contenido de falsedad profunda puede ser utilizado para influir en las campañas políticas, de una manera que tergiversa las campañas opuestas e influye ilegítimamente en el curso del debate en las democracias (WFD and POPVOX, 2023[85]; Murphy, 2024[88]). Aunque el uso de la IA para influir en las actividades puede no ser problemático en sí mismo, las salvaguardias de cabildeo de muchos países, que se han habiendo sido desarrolladas antes de la disponibilidad generalizada de estas herramientas, pueden no estar mitigando los riesgos de la IA en el cabildeo. Por ejemplo, muchos países no tienen estándares de conducta para las actividades de cabildeo que mitiguen el riesgo de que se representen intereses falsos, y mucho menos en la escala posible mediante el uso de la IA. También hay un margen claro para que los países elaboren sus orientaciones para los titulares de cargos públicos a fin de ayudarles a evaluar la fiabilidad de la información que se les presenta (OCDE, 2021[19]).

En general, la IA ofrece a los países de la OCDE una serie de oportunidades para defender la integridad del sector público de manera más eficaz, y lo hará cada vez más en los próximos años. La IA ha cambiado fundamentalmente la forma en que las autoridades públicas evalúan y gestionan la integridad y el riesgo de corrupción en las instituciones públicas. Sin embargo, los países deben comprender las limitaciones y los riesgos asociados al uso de la IA en el sector público. Las limitaciones son especialmente frecuentes cuando los países están luchando por recopilar los datos necesarios para que la IA funcione. Los países también deberían considerar cuán bien preparados están sus marcos de cabildeo para gestionar las actividades de cabildeo basadas en la IA, especialmente en términos de estándares para el uso de la IA en el cabildeoy su orientación a los titulares de cargos sobre cómo hacer frente a las actividades de cabildeo.