Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe

7. Conclusión y recomendaciones

Abstract

Este informe hace 13 recomendaciones clave a los gobiernos nacionales de ALC para maximizar los impactos potenciales positivos del uso de la IA en el sector público y minimizar las consecuencias negativas o no deseadas. En este capítulo se presentan estas recomendaciones para su consideración.

Como se ha analizado a lo largo del presente informe, los Gobiernos de América Latina y el Caribe realizaron un avance inmenso en lo que se refiere al diseño de estrategias y la experimentación en materia de IA en el sector público. A fin de garantizar que estas acciones estén bien fundamentadas, sean fiables y aumenten el valor público, debe contarse con factores y capacidades que ofrezcan cimientos sólidos sobre los que erigir las actividades y las aspiraciones relativas a la inteligencia artificial. En particular, los Gobiernos precisan:

• Desarrollar un enfoque responsable, fiable y centrado en el ser humano, que comprenda la ética de datos, garantice la imparcialidad y la atenuación del sesgo, contemple la transparencia y la explicabilidad de los algoritmos, impulse la seguridad y la protección, instituya mecanismos de rendición de cuentas, y aplique un enfoque inclusivo y orientado al usuario.

• Generar capacidades clave de gobernanza, entre las cuales pueden mencionarse liderar, coordinar y construir el apoyo para la IA; concebir un liderazgo y estrategia de datos; crear espacios de experimentación; entender los problemas del sector público y el potencial que tiene la inteligencia artificial para resolverlos; prepararse para el futuro a través de una gobernanza preventiva.

• Activar habilitadores claves, incluidos datos, financiamiento, conocimientos especializados internos y externos, e infraestructura digital.

El volumen de elementos que deben tomar en consideración los servidores públicos puede resultar abrumador. Sin embargo, los Gobiernos del mundo y los de la región de ALC concibieron abordajes propios de su contexto. Si bien los países de la región presentan grandes diferencias respecto de las capacidades con las que cuentan en materia de IA para el sector público, y, en términos más amplios, de su madurez digital, el potencial de adopción de la IA para la innovación y la reestructuración del sector público continúa siendo sustancial en términos generales. Tal como se observa en otras regiones del mundo, en América Latina y el Caribe también existen oportunidades para crear un abordaje regional conjunto de la IA, en el que cada país haga su aporte sobre la base de sus propias fortalezas comparativas.

Con el propósito de asistir a los Gobiernos de la región a aprovechar este potencial, se presentan 13 recomendaciones principales:

Recomendaciones

Recomendaciones para adoptar un enfoque estratégico respecto de la IA en el sector público

Para maximizar el potencial impacto positivo del uso de la IA en el sector público, y minimizar las consecuencias negativas o no deseadas, los Gobiernos nacionales de la región de ALC deberían:

1. Explorar acciones colaborativas en ALC para elaborar y aplicar una estrategia y hoja de ruta regional en materia de IA en el sector público.

a. Trabajar con otros Gobiernos nacionales de la región para identificar un foro colectivo de desarrollo de la estrategia, como la Red de Gobierno Electrónico de América Latina y el Caribe (Red GEALC).

b. Explorar las formas de aprovechar el apoyo de terceros para coordinar y facilitar el desarrollo de la estrategia y la hoja de ruta, como por ejemplo la OCDE, CAF o el BID.

c. Incluir un compromiso y un plazo para que el Gobierno nacional de cada adherente regional desarrolle su propia estrategia nacional y hoja de ruta en materia de IA en el sector público.

d. Garantizar que todos los países participantes tengan voz en el diseño y la implementación de la estrategia y la hoja de ruta regional de ALC en materia de IA.

e. Incluir compromisos, objetivos y metas colectivos, abiertos y generales, para poder ser adaptados por cada país acorde a la singularidad de su propio contexto y sus aspiraciones en lo que hace a la IA, como parte de su estrategia nacional en materia de inteligencia artificial en el sector público.

f. Continuar con la cooperación entre los países de América Latina y el Caribe después de la publicación de la estrategia regional para reforzar la implementación, monitorear el avance y promover la colaboración regional.

g. Crear un mecanismo para entender y documentar los casos prácticos de IA en el sector público de la región, y mantener el intercambio continuo de enseñanzas aprendidas y buenas prácticas. Tener en consideración el observatorio de políticas OECD.AI Policy Observatory y el Globalpolicy.AI como canales de intercambio y cooperación.

2. Desarrollar y adoptar una estrategia y hoja de ruta nacional en materia de IA en el sector público, en el caso de los países que aún no lo hayan hecho.

a. Avanzar en el desarrollo de una estrategia de IA nacional en el sector público, aunque aún no se cuente con una estrategia regional para América Latina y el Caribe.

b. Procurar alinear la estrategia nacional de IA para el sector público con la estrategia regional de IA para el sector público de América Latina y el Caribe.

c. Garantizar que la estrategia de IA para el sector público esté alineada con las metas y los objetivos económicos y sociales de las estrategias nacionales de IA presentes y futuras, y que coadyuve a su consecución.

d. Considerar, como parte del desarrollo e implementación de la estrategia de IA en el sector público, la necesidad de reevaluar los marcos jurídicos y normativos existentes para abordar las dificultades sociales, éticas y legales relacionadas con el uso estratégico y responsable de la IA en el sector público.

e. Adoptar un enfoque colaborativo e inclusivo, tanto dentro del Gobierno como respecto del ecosistema digital, de por sí más amplio, y del público en general, en lo que hace al desarrollo de la estrategia de IA en el sector público, y a las políticas e iniciativas vinculadas y resultantes.

f. Incluir, en la estrategia u hoja de ruta, objetivos claros y acciones específicas, metas cuantificables, actores responsables, plazos, instrumentos de monitoreo y mecanismos de financiamiento, según corresponda.

3. Elaborar una estrategia nacional de datos para el sector público que abarque todos los aspectos relacionados con los datos y que sirva de base para avanzar en el uso de la IA, en el caso de los países que aún no lo han hecho.

a. Garantizar que la estrategia sea clara, que esté alineada con el marco de la OCDE para el sector público impulsado por datos (OCDE, 2019_[44]), y que incluya todos los aspectos relevantes (por ejemplo, gobernanza de datos, intercambio de datos y activos de datos del sector público, seguridad y privacidad de los datos, infraestructura de datos, competencias en materia de datos, fomento de la demanda de la toma de decisiones basadas en datos, priorización de las inversiones en datos, y apertura por defecto de los datos del sector público).

b. Procurar alinear la estrategia nacional de IA para el sector público, la estrategia nacional de IA más amplia y la estrategia regional de IA para el sector público.

c. Considerar la necesidad de reevaluar los marcos jurídicos y normativos en vigor para abordar las oportunidades y los retos asociados con el aprovechamiento de los datos para la IA en el sector público, y asegurar que se alineen con las leyes de protección de datos pertinentes.

d. Elaborar la estrategia, y todas las políticas e iniciativas vinculadas y resultantes, de una manera abierta e inclusiva, tanto dentro del Gobierno como respecto del ecosistema digital, de por sí más amplio, y del público en general.

e. Incluir objetivos claros y acciones específicas, metas cuantificables, actores responsables, plazos, instrumentos de monitoreo y mecanismos de financiamiento, según corresponda.

4. Explorar la cooperación y la colaboración regionales en los proyectos e iniciativas relativos a la IA en el sector público.

a. Señalar los problemas específicos del sector público que podrían beneficiarse de la colaboración transfronteriza en el uso de la IA en el sector, y establecer métodos y procesos de colaboración regional para abordarlos.

b. Identificar formas en las que los líderes regionales (según se los define en este informe) puedan brindar asistencia a los países que tienen capacidades menos desarrolladas en estas áreas, y en las que intercambien con ellos enseñanzas y perspectivas referidas a áreas importantes para explorar y adoptar la IA en el sector público.

c. Tomar medidas para que los países que, en este informe, hayan sido considerados con capacidades limitadas en determinadas áreas, mejoren tal situación brindando más atención a tales limitaciones y aumentando los recursos (por ejemplo, la capacitación de los servidores públicos, la dotación de personal, el financiamiento).

d. Considerar el aprovechamiento de los conocimientos especializados externos, por ejemplo, mediante la adquisición o la formación de alianzas con organizaciones intergubernamentales, en especial en las áreas en las que, de acuerdo a este informe, no se identifica a ningún país como líder regional.

e. Intentar replicar modelos e ideas que han funcionado para otros, siempre que se adapten al contexto y a los valores propios de cada país en forma abierta y adecuada.

5. Apoyar los esfuerzos respecto de la IA dentro del sector público a nivel subnacional, y tomarlos en cuenta en las políticas e iniciativas más amplias en la misma materia.

a. Promover la experimentación y la adopción de la IA a nivel subnacional (por ejemplo, local), donde los Gobiernos están más cerca de los ciudadanos y de sus necesidades.

b. Considerar el desarrollo de centros concentradores de IA en las ciudades de toda la región para enfatizar la adopción de la IA en el sector público a nivel local.

c. Explorar cómo pueden aplicarse los principios, directrices y otras herramientas de IA vigentes o nuevos para garantizar que la IA en el sector público se utilice de manera informada y fiable a nivel subnacional.

d. Empoderar a los líderes subnacionales y locales para que tengan voz en áreas relacionadas con consideraciones nacionales y regionales en materia de IA en el sector público (por ejemplo, grupos para el establecimiento de estándares, redes, grupos de trabajo de diseño e implementación de estrategias).

e. Facilitar el diálogo y el intercambio de buenas prácticas a nivel subnacional.

6. Fortalecer el énfasis general sobre la implementación para garantizar que se cumplan las promesas, los compromisos y los objetivos estratégicos.

a. Asegurar el establecimiento de procesos y mecanismos adecuados para convertir los objetivos y compromisos generales en iniciativas reales y ejecutables, a través de atención sostenida sobre cada uno de ellos y medidas de rendición de cuentas que garanticen el avance.

b. Examinar el desarrollo de mecanismos de referencia que monitoreen la aplicación de la IA para el sector público en las instituciones públicas, y que sienten las bases de un mecanismo de evaluación del impacto.

7. Adoptar medidas que garanticen la sostenibilidad a largo plazo de las estrategias e iniciativas de la IA para el sector público.

a. Impulsar maneras de ayudar a garantizar la viabilidad a largo plazo de las estrategias de la IA para el sector público, tales como cambios legislativos y culturales.

b. Tratar de garantizar que cualquier nueva legislación relacionada con la IA para el sector público sea adaptable a cambios futuros, sea flexible, y permita la experimentación y la innovación.

Recomendaciones para promover un enfoque de la IA responsable, fiable y centrado en el ser humano

8. Aplicar los Principios de la OCDE sobre la IA y desarrollar un marco ético nacional detallado y posible de ejecutar para una IA fiable, en el caso de los países que aún no lo hayan hecho.

a. Aplicar los Principios de la OCDE sobre Inteligencia Artificial, que explícitamente invita a quienes no hayan adherido aún, incluidos los países no miembros de la OCDE, a tomar nota de los principios y adherir a ellos. 1

b. Desarrollar un marco a nivel nacional que esté alineado con los Principios de la OCDE sobre Inteligencia Artificial, así como con el contexto y las normas del país, a fin de permitir el desarrollo y la ejecución, por parte de los organismos del sector público, de sistemas de IA fiables. Como se ha visto en este informe, dicho marco puede estar integrado a una estrategia nacional de IA, o elaborarse como un documento independiente. Explorar el aprovechamiento del trabajo en curso de la OCDE sobre clasificación de los sistemas de IA, evaluación de impacto de los riesgos y herramientas para una IA fiable.

c. Examinar el potencial para desarrollar instrumentos prácticos que sustenten la aplicación del marco en el sector público, incluso a través de evaluaciones de impacto de la IA, y un enfoque para la aplicación de la IA, que tenga en cuenta diferentes compensaciones y alternativas de uso de la IA en el sector público.

d. Garantizar que el marco y las políticas e instrumentos asociados se desarrollen de una manera abierta e inclusiva, tanto dentro del Gobierno como respecto del ecosistema digital, de por sí más amplio, y del público en general.

9. Asegurar el énfasis sobre las consideraciones de uso de una IA fiable en el sector público, conforme se las define en este informe, con atención a las respectivas fortalezas y carencias de cada país en diferentes áreas.

a. Materializar mecanismos y capacidades que brinden soporte a:

i. La inclusión de perspectivas multidisciplinares (diferentes entornos de formación, de nivel y experiencia profesional, conjuntos de competencias, entre otros) y diversas (diferentes géneros, razas, edades, entornos socioeconómicos, entre otros) en un entorno en el que se valoren sus opiniones en el diseño e implementación de las estrategias e iniciativas de IA para el sector público (incluidos los proyectos habilitados por la IA).

ii. La aplicación práctica de marcos éticos que protejan contra el sesgo y la inequidad; fomenten sistemas de IA transparentes y explicables; garanticen procesos sólidos, seguros y protegidos; y establezcan estructuras claras de rendición de cuentas, así como funciones y responsabilidades inequívocas de los seres humanos, cuando se trate del uso de la IA y de la toma de decisiones habilitadas por la IA en el sector público.

Recomendaciones para la creación de capacidades clave de gobernanza que brinden soporte a la IA en el sector público

10. Disponer de capacidad de liderazgo sostenida a nivel central e institucional, para conducir el desarrollo, y la implementación y supervisión continuas de las estrategias de IA y de datos en el sector público, así como las iniciativas relacionadas.

a. Asegurar que los líderes con altos cargos políticos y de carrera, en funciones de gobierno, participen activamente en el desarrollo y la ejecución de la estrategia nacional de IA para el sector público y manifiesten su apoyo.

b. Nombrar un Director de Datos del Gobierno (GCDO) o un cargo equivalente, responsable de la elaboración y replicación de una estrategia de datos de gobierno, y de construir, dentro del sector público, la habilidad para extraer valor de sus datos (incluidos datos de gobierno abierto, analítica de datos avanzada, algoritmos e inteligencia artificial).

c. Nombrar Jefes Digitales o Directores de Datos (iCDO), o administradores de datos institucionales en cada uno de los organismos del sector público que resulten más pertinentes, encargados de conectar la visión estratégica del Gobierno central con las prácticas de gestión de datos a nivel institucional, y promover la coordinación interinstitucional de los datos.

d. Garantizar que el GCDO y los iCDO cuenten con los conocimientos, competencias y habilidades relevantes para la IA en el sector público (entre otros, ciencia de datos, aprendizaje automático, IA fiable) y/o crear puestos de trabajo que requieran dichas competencias para que trabajen en estrecha coordinación con el GCDO y los iCDO.

11. Aprovechar las técnicas de gobernanza de la innovación anticipada en el sector público con el fin de alistarse para el futuro.

a. Asegurar que las estrategias, las hojas de ruta y la implementación sean flexibles y dejen opciones abiertas para el futuro.

b. Tener en cuenta las necesidades de los gobiernos subnacionales y de las comunidades locales, y procurar alinear el marco nacional de la IA en el sector público con lo que impacta a nivel local.

c. Explorar el potencial de aplicar los marcos y enfoques de gobernanza de la innovación anticipada de la OCDE a los esfuerzos sobre la IA del sector público (Tõnurist y Hanson, 2020_[76]).

d. Equipar a los servidores públicos y a los ciudadanos con herramientas y capacidades para adaptarse a los cambios que la IA, incluso en el sector público, puede provocar en el futuro (entre otros, a través de la promoción de la alfabetización digital y una mejor preparación para el trabajo del futuro).2

12. Asegurar el énfasis sobre las consideraciones de gobernanza mencionadas en este informe, con atención a las respectivas fortalezas y carencias de cada país en diferentes áreas.

a. Materializar mecanismos y capacidades que brinden soporte a:

i. La coordinación intergubernamental para promover las sinergias de alineación estratégica entre los organismos del sector público, que den soporte a la adopción de una IA fiable, orientada a los objetivos e impulsada por los problemas de este sector, incluidos mecanismos formales (por ejemplo, comisiones, consejos, comités de ética), y otros menos formales (por ejemplo, comunidades de interés, redes).

ii. Las comunicaciones internas y externas para compartir los usos y beneficios de la IA en el sector público, con el fin de generar confianza entre la ciudadanía y garantizar la adhesión por parte de los servidores públicos.

iii. La exploración y experimentación con diferentes métodos, enfoques y datos para trabajar con la IA, en un entorno en el que los servidores públicos puedan asumir riesgos controlados (por ejemplo, "espacios aislados" y laboratorios relacionados con la IA en el sector público).

iv. La identificación y entendimiento sistémicos de los problemas del sector público y la evaluación de múltiples opciones tecnológicas para determinar cuáles son las necesidades y cómo puede ayudar la IA.

Recomendaciones para establecer los principales habilitadores de la IA

13. Asegurar el énfasis en los habilitadores críticos de la IA en el sector público, conforme se los define en este informe, con atención a las respectivas fortalezas y carencias de cada país en diferentes áreas.

a. Materializar mecanismos y capacidades que brinden soporte a:

i. El acceso a datos precisos, fiables y adecuados, y el suministro de datos de gobierno para impulsar la IA en todos los sectores.

ii. La provisión de fondos para la exploración y aplicación de la IA en el sector público.

iii. La adquisición de conocimientos especializados adecuados dentro del gobierno, mediante la especialización profesional y el reclutamiento.

iv. La facilitación de caminos de acceso a los conocimientos especializados y servicios de terceros mediante procesos de adquisición y asociaciones.

v. El acceso a la infraestructura digital necesaria para la IA en el sector público, como, por ejemplo, la nube híbrida, la potencia de cálculo y los servicios de interoperabilidad.

Referencias

[44] OCDE (2019), The Path to Becoming a Data-Driven Public Sector [El camino para llegar a ser un sector público impulsado por datos], OECD Publishing, https://doi.org/10.1787/059814a7-en.

[76] Tõnurist, P. y A. Hanson (2020), Anticipatory Innovation Governance: Shaping the future through proactive policy making [Gobernanza de la innovación anticipada. Dar forma al futuro mediante la formulación proactiva de políticas], OECD Publishing, https://doi.org/10.1787/cce14d80-en.

Notas

← 1.  Para más información, visitar https://OECD.AI/ai-principles o comunicarse a través de [e-mail].

← 2.  Ver www.oecd.org/future-of-work para información sobre las actividades de la OCDE relacionadas con el futuro del trabajo.