Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe

Anexo B. Ejemplos de instrumentos de IA en ALC alineados con los principios de la OCDE sobre la IA basados en valores

Tabla A B.1.  Ejemplos de instrumentos de IA en ALC alineados con el principio #1 de la OCDE sobre IA

	Instrumento analizado	Principio de la OCDE: Crecimiento inclusivo, desarrollo sostenible y bienestar
Chile	Política Nacional de IA y Plan de Acción (2021)	IA para el desarrollo económico sostenible: la incorporación de la tecnología como un eje del desarrollo sostenible del país. (...) La política y las acciones que se desprendan de ella deberán promover una IA que no dañe el medio ambiente y que, en lo posible, contribuya a preservarlo y mejorarlo. IA en la sociedad: toda política y acción relacionada con la IA debe abordarse en forma interdisciplinaria, potenciando la contribución de las diversas áreas del saber. Las acciones que se derivan [de la Política de IA] deben integrar la inteligencia y el sentir colectivos a través de procesos abiertos de deliberación. Las acciones que deriven de la Política buscarán desarrollar cada región desde la perspectiva de su realidad. IA globalizada: la Política y las acciones que se derivan de ella deberán considerar cómo se insertan en el contexto internacional e impulsar la participación en espacios bilaterales y multilaterales de los que nuestro país forme parte.
Brasil	Estrategia brasileña de inteligencia artificial (2021)	IA para el desarrollo económico sostenible: la estrategia incluye un notable tratamiento de la importancia del tema y enumera algunas de las iniciativas de relevancia. Objetivo clave: "Promover inversiones sostenidas en investigación y desarrollo en materia de IA". Establecer alianzas sectoriales para fomentar la capacitación y tener en cuenta las nuevas realidades del mercado laboral. IA en la sociedad: actuar para crear campañas de concienciación sobre la importancia de prepararse para el desarrollo y uso ético de la IA. Beneficio social: compromisos para "compartir los beneficios del desarrollo de la IA en la mayor medida posible y promover la igualdad de oportunidades de desarrollo para las diferentes regiones e industrias.” Asimismo, desarrollar programas educativos a todos los niveles. IA globalizada: inclusión de un eje temático transversal sobre "aspectos internacionales".
Colombia	Marco Ético para la Inteligencia Artificial (2021)	Inclusión: "participación activa de poblaciones históricamente marginadas y de poblaciones diversas en el diseño, desarrollo e implementación y evaluación de los sistemas de inteligencia artificial que se utilicen en Colombia" (pág. 35). Este principio se aplica también a los datos (datos representativos), los algoritmos (para no privilegiar a grupos específicos) y las prácticas. Prevalencia de los derechos de niños, niñas y adolescentes. Beneficio social: "Los sistemas de inteligencia artificial que se implementan en Colombia deben permitir o estar directamente relacionada a una actividad que genere un beneficio social claro y determinable" (pág. 38). Los objetivos deben estar ligados a fines socialmente reconocidos dentro del contexto de los principales retos sociales de Colombia.
México	Principios sobre IA	Buscar el bienestar social como la principal meta de la implementación de la IA, enfocando los esfuerzos en generar un impacto positivo que contribuya a resolver problemáticas públicas. Tener un enfoque de inclusión que fomente el acceso de grupos vulnerables a los beneficios asociados al uso de estos sistemas. Monitorear y evaluar los impactos de la implementación de IA para asegurar que cumpla con el propósito para el cual fue diseñada.
Uruguay	Estrategia de IA	Finalidad: La IA debe potenciar las capacidades del ser humano, complementándolas en todo lo que sea posible, apuntando a mejorar la calidad de vida de las personas, facilitando procesos y aportando valor agregado a la actividad humana. Interés general: Las soluciones basadas en IA impulsadas desde el Estado deben tender al interés general, garantizando la inclusión y la equidad. Para esto, se debe trabajar específicamente para reducir la posibilidad de sesgos no deseados en datos y modelos utilizados que puedan impactar de manera negativa en las personas o favorecer prácticas discriminatorias.

Fuente: análisis de la OCDE sobre principios de IA nacionales e instrumentos relacionados.

Tabla A B.2.  Ejemplos de instrumentos de IA en ALC alineados con el principio #2 de la OCDE sobre IA

	Instrumento analizado	Principio de la OCDE: Valores centrados en el ser humano y la equidad
Barbados	Ley de protección de datos (2019)	Equidad en el tratamiento de los datos: los datos personales serán tratados de conformidad con la ley, y de manera equitativa y transparente en relación al sujeto titular de los datos. Derecho a impedir el tratamiento cuando pueda ocasionar daños o perjuicios. Toma de decisiones individual automatizada, incluida la elaboración de perfiles: el sujeto titular de los datos tiene derecho a no ser objeto de una decisión basada exclusivamente en un proceso automatizado, incluida la elaboración de perfiles, que tenga efectos legales sobre él o pueda afectarlo significativamente de manera similar.
Brasil	Estrategia brasileña de inteligencia artificial (2021)	No discriminación: acción para dirigir fondos, con ese objetivo, hacia la aplicación de soluciones éticas, principalmente en el campo de la equidad/no discriminación (imparcialidad). Acción en la contratación pública para incluir criterios relacionados con la incorporación de principios éticos relativos a la equidad y la no discriminación. Diversidad: acción para estimular la diversidad en la composición de los equipos de desarrollo de IA en cuanto a "género, raza, orientación sexual y otros aspectos socioculturales". IA centrada en el ser humano: acción para promover medios de observación de los sistemas de IA y de cómo estos sistemas fomentan los derechos humanos, los valores democráticos y la diversidad. Acción en favor de la revisión humana y la intervención humana en situaciones de alto riesgo. En el sector público, establecer mecanismos para la inmediata investigación de las denuncias de violaciones de derechos. Otras acciones estratégicas Acción para estimular alianzas con empresas dedicadas a la investigación de la ética en la tecnología de la IA. Acción para crear espacios abiertos multisectoriales en los que se dé tratamiento y definición a los principios éticos.
Brasil	Ley general de protección de datos personales (2018)	No discriminación: imposibilidad de realizar el tratamiento de datos con fines discriminatorios ilícitos o abusivos. La ley incluye otros dos derechos relacionados: Toda persona natural tiene asegurada la titularidad de sus derechos personales y garantizados los derechos fundamentales de libertad, intimidad y privacidad, de conformidad con los términos de esta ley. El titular de los datos tiene derecho a solicitar una revisión de las decisiones tomadas únicamente sobre la base del tratamiento automatizado de los datos personales, que afecten sus intereses, incluidas las decisiones destinadas a definir su perfil personal, profesional, de consumo y de crédito, o aspectos de su personalidad.
Chile	Política Nacional de IA y Plan de Acción (2021)	IA con centro en las personas: la IA debe contribuir al bienestar integral de las personas y evitar dañarlas en forma directa o indirecta. IA inclusiva: la IA no debe discriminar en forma arbitraria ni ser utilizada en perjuicio de ningún grupo. Debe desarrollarse con perspectiva de género y considerando especialmente a niñas, niños y adolescentes.
Colombia	Marco Ético para la Inteligencia Artificial (2021)	Privacidad: "La inteligencia artificial debe estar precedida de un respeto por la intimidad de las personas y su esfera privada que impide el uso de información que estos no hayan autorizado y el perfilamiento de individuos a través de esta tecnología" (pág. 29). Control humano de las decisiones propias de un sistema de inteligencia artificial (Human-in-the-loop y Human-over-the-loop): que el ser humano tenga control total sobre la recolección de datos, la toma de decisiones y los sistemas que interactúan con la ciudadanía. Este principio sugiere un mayor nivel de autonomía una vez que se haya alcanzado un mayor nivel de madurez de la tecnología en materia de IA en el país (pág. 31). No discriminación: "Los sistemas de inteligencia artificial no pueden tener resultados o respuestas que atenten contra el bienestar de un grupo específico o que limiten los derechos de poblaciones históricamente marginadas" (pág. 34). Este principio se aplica a los datos, los algoritmos y las prácticas.
Ecuador	Guía para el Tratamiento de Datos Personales en la Administración Pública Central	No discriminación: El tratamiento de datos personales no puede originar discriminación de ningún tipo (ver sección 8).
Jamaica	Ley de protección de datos (2020)	Derechos relacionados con la toma de decisiones automatizada: toda persona tiene derecho, en cualquier momento (...) a exigir al responsable del tratamiento de los datos que garantice que ninguna decisión, a la cual fuera aplicable esta sección, se asiente solo en el tratamiento automatizado de los datos personales relativos al titular de tales datos, con el fin de evaluar cuestiones relacionadas con él (por ejemplo, su rendimiento laboral, su solvencia, su fiabilidad o su conducta).
Panamá	Ley Sobre Protección de Datos Personales (2019)	"El titular de los datos personales tiene derecho a no ser sujeto de una decisión basada únicamente en el tratamiento automatizado de sus datos personales, que produzca efectos jurídicos negativos o le produzca un detrimento a un derecho, cuyo objeto sea evaluar determinados aspectos de su personalidad, estado de salud, rendimiento laboral, crédito, fiabilidad, conducta, característica o personalidad, entre otros."
Perú	Primer proyecto entregado para revisión de la OCDE en mayo de 2021	No discriminación: el proyecto se compromete a que los organismos públicos elaboren un estudio de impacto a fin de disminuir el sesgo en el uso de algoritmos para la clasificación de personas en el sector privado (por ejemplo, sistemas de IA que clasifiquen a las personas para otorgarles beneficios, oportunidades o sanciones). Todos los casos prácticos de IA de este tipo tendrían que someterse a un estudio de impacto socioeconómico para garantizar la equidad.
México	Principios sobre IA	Proteger la voluntad y libertades de las personas en la implementación de IA, buscando el respeto por la integridad y el derecho a la autodeterminación de los individuos. Priorizar la seguridad, integridad y dignidad humana en el diseño y aplicación de herramientas de IA, evaluando y monitoreando los factores que pueden impactar en ello. Fomentar la igualdad al reducir la posibilidad de sesgos discriminatorios en los datos y modelos utilizados. Promover la justicia al ofrecer mecanismos operados por personas para revisar, apelar y corregir decisiones o acciones tomadas por sistemas basados en IA. Asegurar la privacidad al incorporar, desde el diseño, mecanismos de consentimiento y control personal sobre el uso de los datos.
Uruguay	Estrategia de IA	Interés general: Las soluciones basadas en IA impulsadas desde el Estado deben tender al interés general, garantizando la inclusión y la equidad. Para esto, se debe trabajar específicamente para reducir la posibilidad de sesgos no deseados en datos y modelos utilizados que puedan impactar de manera negativa en las personas o favorecer prácticas discriminatorias. Respeto de los Derechos Humanos: Toda solución tecnológica que utilice IA debe respetar los Derechos Humanos, las libertades individuales y la diversidad. Ética: Cuando la aplicación y/o el desarrollo de soluciones basadas en IA presenten dilemas éticos, estos deben ser abordados y resueltos por seres humanos. Privacidad por diseño: Las soluciones de IA deberán contemplar, desde su diseño, la privacidad de las personas. Los principios de Protección de Datos Personales vigentes en Uruguay se consideran componentes de este documento.

Fuente: análisis de la OCDE sobre principios de IA nacionales e instrumentos relacionados.

Tabla A B.3.  Ejemplos de instrumentos de IA en ALC alineados con el principio #3 de la OCDE sobre IA

	Instrumento analizado	Principio de la OCDE: Transparencia y explicabilidad
Barbados	Ley de protección de datos (2019)	Sobre la información transparente: el responsable del tratamiento de los datos adoptará las medidas apropiadas para proporcionar toda la información (...) relativa al tratamiento, al titular de los datos de forma concisa, transparente, inteligible y fácilmente accesible, con un lenguaje claro y sencillo (p. 37). Derecho de acceso: al momento de tratarse los datos personales del titular, [el titular de los datos tiene derecho] a solicitar y a que le sea entregada (...) una descripción de (...) la existencia de la toma de decisiones automatizada, incluida la elaboración de perfiles, a la que se refiere el artículo 18 y, al menos en esos casos, información significativa sobre la lógica aplicada, así como la importancia y las consecuencias previstas de dicho tratamiento para el titular de los datos.
Brasil	Estrategia brasileña de inteligencia artificial (2021)	Transparencia: acción para financiar proyectos que apoyen la transparencia, y estimular la transparencia y la divulgación responsable. Habilitar mecanismos de supervisión para el escrutinio público de las actividades de IA. Acción en la contratación pública para incluir criterios relacionados con la incorporación de principios éticos relativos a la transparencia. Escrutinio público: compromiso de habilitar mecanismos de supervisión para el escrutinio público de las actividades de IA. Acceso: compromiso de estimular la divulgación de datos y códigos fuente abiertos.
Brasil	Ley general de protección de datos personales (2018)	Libre acceso: garantía, a los titulares, de una consulta fácil y gratuita sobre la forma y duración del tratamiento, así como sobre la integridad de sus datos personales. Transparencia: garantía, a los titulares, de información clara, precisa y fácilmente accesible sobre la realización del tratamiento y sus agentes de tratamiento, respetando el secreto comercial e industrial. Toda vez que le fuera solicitado, el responsable del tratamiento deberá proporcionar información clara y adecuada sobre los criterios y procedimientos utilizados para la decisión automatizada, respetando los secretos comerciales e industriales.
Chile	Política Nacional de IA y Plan de Acción (2021)	IA segura: Debido a la estrecha dependencia que existe entre el entrenamiento de algoritmos y el uso de datos para ello, la transparencia y explicabilidad se transforman en elementos relevantes para la concepción de una IA segura.
Colombia	Marco Ético para la Inteligencia Artificial (2021)	Transparencia: "apertura para brindar información significativa y comprensible sobre el diseño, funcionamiento e impacto que tienen los sistemas de inteligencia artificial" (pág. 27). Considera las fuentes de información, el modelo con el que se usan los algoritmos, la precisión de los algoritmos, y la información sobre los equipos y personas involucradas en el diseño y desarrollo. Explicación: "tanto para los desarrolladores y usuarios del sistema como para aquellos individuos que pueden verse afectados por sus decisiones y resultados. La información debe ser de fácil acceso y comprensible, en aras de promover una participación activa de los ciudadanos en la concepción, implementación y evaluación de los sistemas de IA" (pág. 27). De este modo, se refiere a que la información sobre la importancia de los datos para el sistema, cómo se recolectan, los fines de hacerlo, los objetivos iniciales de los algoritmos, y los resultados esperados y obtenidos, así como los roles de las personas involucradas, debe ser accesible.
Jamaica	Ley de protección de datos (2020)	Derechos de acceso a los datos personales: una persona tiene derecho a: -ser informada por el responsable del tratamiento de los datos, de forma gratuita, acerca de si los datos personales de los que es titular están siendo tratados por dicho responsable o en su nombre; -recibir, por parte del responsable del tratamiento de datos, de forma gratuita y si el tratamiento de los datos es según lo descrito en el punto a), una descripción de los datos personales de los que es titular, los fines para los que se están tratando o se van a tratar los datos personales, y los destinatarios o clases de destinatarios a los que serán divulgados o pueden ser divulgados; -ser informada por el responsable de los datos, previo pago de la tasa prescripta, de la lógica que ha sido aplicada en una toma de decisión cuando el tratamiento, por medios automatizados, de datos personales de los cuales dicho individuo es titular tiene por objeto evaluar cuestiones relacionadas con el individuo (por ejemplo, su rendimiento laboral, su solvencia, su fiabilidad o su conducta), y ha constituido o es probable que constituya la única información utilizada para tomar una decisión que afecte significativamente a la persona.
México	Principios sobre IA	Explicar a los usuarios que interactúan con servicios basados en IA, el proceso de decisión que el sistema toma sobre ellos, los beneficios esperados y los riesgos potenciales asociados a su uso. Fomentar apertura y confianza al compartir al público la mayor cantidad de información posible, preservando la confidencialidad requerida, que permita entender el método de entrenamiento y el modelo de toma de decisiones del sistema. Publicar los resultados de las evaluaciones del sistema procurando incluir versiones dirigidas a distintos públicos.
Perú	Primer proyecto entregado para revisión de la OCDE en mayo de 2021	Transparencia: El proyecto se compromete a implementar una plataforma que haga las veces de registro de algoritmos de IA y datos asociados en el sector público.
Uruguay	Estrategia de IA	Transparencia. Las soluciones de IA utilizadas en el ámbito público deben ser transparentes, cumpliendo con la normativa vigente. Esta transparencia debe: Poner a disposición los algoritmos y datos utilizados para el entrenamiento de la solución y su puesta en práctica, así como las pruebas y validaciones realizadas. Visibilizar explícitamente, a través de mecanismos de transparencia activa, todos aquellos procesos que utilicen IA, ya sea en la generación de servicios públicos o en el apoyo a la toma de decisiones.

Fuente: análisis de la OCDE sobre principios de IA nacionales e instrumentos relacionados.

Tabla A B.4.  Ejemplos de instrumentos de IA en ALC alineados con el principio #4 de la OCDE sobre IA

	Instrumento analizado	Principio de la OCDE: Robustez, seguridad y protección
Brasil	Estrategia brasileña de inteligencia artificial (2021)	Seguridad: inclusión de un eje estratégico sobre seguridad pública. Compromiso de desarrollar técnicas para identificar y mitigar sesgos algorítmicos y garantizar la calidad de los datos para el entrenamiento de los sistemas de IA. Promoción de estándares voluntarios para gestionar los riesgos de la IA. Acción para realizar análisis de impacto sobre los usos de la IA que afecten al público de manera directa. Compromiso de implementar un "espacio aislado" (sandbox) de protección de datos y privacidad para los sistemas de IA destinados a la seguridad pública.
Brasil	Ley general de protección de datos personales (2018)	Prevención: adopción de medidas para evitar perjuicios ocasionados por el tratamiento de datos personales.
Chile	Política Nacional de IA y Plan de Acción (2021)	IA segura: Integridad, calidad y seguridad de los datos. Evaluaciones de los riesgos y vulnerabilidades. Ciberseguridad: confidencialidad, integridad y protección tanto de datos, algoritmos, procesos y prácticas.
Colombia	Marco Ético para la Inteligencia Artificial (2021)	Seguridad: "Los sistemas de inteligencia artificial no deben generar afectaciones a la integridad y salud física y mental de los seres humanos con los que interactúan" (pág. 32). Este principio incluye medidas tales como la inmutabilidad, confidencialidad e integridad de los datos de partida, y la creación de códigos de conducta y sistemas de riesgo que permitan identificar posibles afectaciones.
México	Principios sobre IA	Mitigar situaciones de riesgo e incertidumbre de forma continua y generar estrategias de respuesta a los efectos derivados del uso de IA. Priorizar la seguridad, integridad y dignidad humana en el diseño y aplicación de herramientas de IA, evaluando y monitoreando los factores que pueden impactar en ello. Establecer mecanismos sólidos de protección de datos de los usuarios, especialmente atributos sensibles, y notificar sobre posibles eventualidades en el manejo de los mismos.
Uruguay	Estrategia de IA	Seguridad: Los desarrollos de IA deben cumplir, desde su diseño, con los principios básicos de la seguridad de la información. Los lineamientos y la normativa relacionados con ciberseguridad vigentes en Uruguay que apliquen al desarrollo de IA se consideran componentes de este documento.

Fuente: análisis de la OCDE sobre principios de IA nacionales e instrumentos relacionados.

Tabla A B.5.  Ejemplos de instrumentos de IA en ALC alineados con el principio #5 de la OCDE sobre IA

	Instrumento analizado	Principio de la OCDE: Responsabilidad
Brasil	Estrategia brasileña de inteligencia artificial (2021)	Accountability (Responsabilidad y rendición de cuentas): acción de financiamiento de proyectos que apoyen la responsabilidad y rendición de cuentas. Compromiso de incentivar prácticas de responsabilidad y rendición de cuentas relacionadas con la IA.
Brasil	Ley general de protección de datos personales (2018)	Responsabilidad y rendición de cuentas: demostración por parte del agente de la adopción de medidas efectivas capaces de demostrar la observancia y el cumplimiento de las normas de protección de datos personales e incluso la eficacia de dichas medidas.
Colombia	Marco Ético para la Inteligencia Artificial (2021)	Responsabilidad: "Existe el deber de responder por los resultados que produzca un sistema de inteligencia artificial y las afectaciones que llegue a generar" (pág. 33). Responsabilidad de las entidades que recolectan y procesan datos, y de las personas que diseñan un algoritmo. También sugiere establecer responsabilidades claras en la cadena de diseño, producción e implementación.
México	Principios sobre IA	Determinar responsabilidades y obligaciones claras de distintos actores sobre el proceso de diseño, desarrollo, implementación y uso de la tecnología.
Perú	Primer proyecto entregado para revisión de la OCDE en mayo de 2021	Responsabilidad: el proyecto se compromete a que el país adoptará lineamientos éticos para el uso de IA de manera sostenible, transparente y replicable, con claras definiciones en cuanto a responsabilidad y protección de los datos.
Uruguay	Estrategia de IA	Responsabilidad: Las soluciones tecnológicas basadas en IA deben tener un responsable claramente identificable y que responda por las acciones derivadas del accionar de la solución.

Fuente: análisis de la OCDE sobre principios de IA nacionales e instrumentos relacionados.