Observatory on the Governmental Use of Artificial Intelligence (UY0143)

¿Cuál es la problemática que el compromiso aborda? Las soluciones basadas en Inteligencia Artificial (IA) se han convertido en una herramienta indispensable para el desarrollo y prestación de servicios digitales para la ciudadanía. A través de su implementación, se puede potenciar la transformación digital en el Estado. No obstante, estas soluciones presentan desafíos y riesgos que pueden traducirse en consecuencias no deseables para tomadores de decisiones basadas en esta tecnología, generando resultados imprevisibles o inesperados. Debido a la naturaleza compleja de las soluciones de IA, estos resultados pueden incluso parecer opacos debido a la dificultad para explicarlos. Por otra parte, existe demanda de diferentes actores de la sociedad respecto a la apertura a la participación y al acceso a información sobre aplicaciones de inteligencia artificial en el Estado, lo que está orientado a dar garantías respecto a su uso ético y responsable, tal como reducir la posibilidad de sesgos no deseados en datos y modelos utilizados en aplicación de Inteligencia Artificial, entre otros aspectos relevantes.

¿Cuál es el compromiso? Crear un Observatorio de Inteligencia Artificial en el Estado que promueva y fomente el uso ético, responsable, seguro y confiable de esta tecnología, y fortalezca el ecosistema de inteligencia artificial en Uruguay.

¿Cómo contribuirá a resolver la problemática? La creación de un Observatorio de Inteligencia Artificial en el Estado, aportará al dar respuesta a la problemática planteada, en tanto tiene como objetivos: a) implementar un espacio abierto de intercambio entre diferentes actores, b) generar recomendaciones, criterios y principios para el uso de IA en el Estado y transparencia de los algoritmos, integrando aportes de diferentes actores y c) brindar información sobre los avances del uso de IA en los distintos ámbitos del Estado, publicando casos de uso que permitan a las personas interesadas tener información actualizada. Asimismo, se propone diseñar los procesos necesarios que den sostenibilidad a la iniciativa. Estos objetivos están orientados a impulsar la transparencia del uso de IA en el Estado, y contribuir a la generación de confianza y la mitigación de los riesgos identificados que la tecnología presenta, habilitando el control social del uso de Inteligencia Artificial en el Estado, sobre la base del marco de su uso ético y responsable. Por otra parte, el Observatorio permitirá avanzar en algunos de los objetivos planteados en el marco de la Estrategia de Inteligencia Artificial para el Gobierno Digital, que buscan: Impulsar un ámbito de discusión sobre el uso de la IA en el Estado, generar capacidades y favorecer una cultura de investigación en IA. Generar un marco de referencia que contribuya a su implementación contemplando entre otros: actores (tales como públicos, privados, academia, sociedad civil), roles y responsabilidades, normas, procedimientos y mecanismos de toma de decisión, así como indicadores sobre performance y pautas para el análisis de impacto. Promover la transparencia activa, el cumplimiento de los principios y valores éticos.

¿Por qué es relevante a los valores de OGP? Con este compromiso se contribuye a impulsar acciones en el Estado orientadas a aumentar la transparencia, la apertura y la supervisión del uso de sistemas de toma de decisiones automatizados en el sector público, así como a generar un espacio cívico de participación donde diferentes actores pueden realizar aportes.

Información adicional Este compromiso está alineado a los objetivos establecidos en la Estrategia de Inteligencia Artificial para el Gobierno Digital, como marco sostenible al mismo. Esta estrategia surgió como herramienta para la transformación digital que se desarrolla con el propósito de promover y fortalecer su uso responsable en la Administración Pública. Consta de 9 principios generales, 4 pilares fundamentales, 8 objetivos y líneas de acción que faciliten y fomenten el uso responsable de esta tecnología en el ámbito público. La estrategia cuenta con un enfoque holístico que integra diferentes perspectivas sobre cómo abordar el desafío. Los principios y el documento fueron sometidos a proceso de consulta pública, a partir del cual se incorporaron aportes y mejoras.

Metas y/o principales hitos Hitos con fechas verificables Fecha de inicio Fecha de término Generar espacios de intercambio con diferentes sectores interesados para desarrollar recomendaciones, criterios y estándares técnicos que permitan abordar el uso responsable, seguro y confiable de tecnologías de IA en el Estado. Mayo 2022 Junio 2024 Desarrollar criterios y recomendaciones para las Instituciones públicas que den pautas para la transparencia de Algoritmos en las aplicaciones de uso de IA en el Estado, en sinergia con la normativa vigente en materia de Transparencia y Acceso a la Información Pública. Setiembre 2022 Setiembre 2023 Promover el uso de la tecnología de IA en beneficio de la población contemplando aspectos de ética, privacidad, responsabilidad, transparencia y no discriminación; y publicar casos de uso de IA en el Estado. Junio 2022 Junio 2023 Puesta en marcha del Observatorio de IA en el Estado, incluyendo lineamientos, y casos de uso. Octubre 2023 Junio 2024

Action Plan Review

Compromiso 6. Observatorio de uso de Inteligencia Artificial en el Estado

● Verificable: Sí

● ¿Tiene un enfoque de gobierno abierto? Sí

● Potencial de resultados: Sustancial

Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento (Agesic) y la Unidad de Acceso a la Información Pública (UAIP).

Para una descripción completa del compromiso, ingresar al siguiente vínculo: https://tinyurl.com/2p8enmb9

Contexto y objetivos:

La Inteligencia Artificial (IA) es un término que se utiliza para un campo de estudio y un conjunto de tecnologías que estudian y desarrollan sistemas capaces de realizar tareas que se atribuyen a la inteligencia humana. Cada vez más se utiliza la IA en aplicaciones en los teléfonos celulares, algoritmos en las redes sociales, automóviles sin conductor y traductores en tiempo real, entre otras utilidades. Las soluciones en aplicaciones de IA también se han convertido en una herramienta clave para el desarrollo y prestación de servicios digitales para la ciudadanía.

Este compromiso tiene como objetivo “Crear un observatorio de inteligencia artificial en el Estado que promueva y fomente el uso ético, responsable, seguro y confiable de esta tecnología y fortalezca el ecosistema de inteligencia artificial en Uruguay” [1].

El compromiso está alineado a los objetivos establecidos en la Estrategia de Inteligencia Artificial para el Gobierno Digital [2] que fue aprobada en 2020. La estrategia surgió como una herramienta para la transformación digital con el propósito de promover y fortalecer el uso responsable de la IA en la administración pública. Ésta integra diferentes perspectivas sobre cómo abordar el desafío y consta de nueve principios generales, cuatro pilares fundamentales y ocho objetivos y líneas de acción que fueron sometidos a un proceso de consulta pública.

Uno de los pilares fundamentales de la estrategia es la transparencia y establece que, para que este pilar sea sólido, se deben tener en cuenta dos cuestiones fundamentales: “Poner a disposición los algoritmos y datos utilizados para el entrenamiento de la solución y su puesta en práctica, así como las pruebas y validaciones realizadas” y “Visibilizar explícitamente, a través de mecanismos de transparencia activa, todos aquellos procesos que utilicen IA, ya sea en la generación de servicios públicos o en el apoyo a la toma de decisiones”. [3]

Las metas principales de este compromiso son generar espacios de intercambio con diferentes sectores interesados para desarrollar recomendaciones, criterios y estándares técnicos; desarrollar criterios y recomendaciones sobre la transparencia de algoritmos en las aplicaciones de uso de IA en el Estado; promover el uso de la tecnología de IA en beneficio de la población contemplando aspectos de ética, privacidad, responsabilidad, transparencia y no discriminación y puesta en marcha del observatorio de IA en el Estado, incluyendo lineamientos y casos de uso.

El compromiso es relevante a los valores de OGP de transparencia y acceso a la información y de participación ciudadana. En temas de transparencia, preparará y publicará información explicativa de distintos casos de uso de la IA en ámbitos del Estado en formatos adecuados para la ciudadanía. En lo que refiere a la participación cívica, el compromiso creará un ámbito permanente de seguimiento conformado por representantes de diversos sectores, que acompañarán todo el proceso de desarrollo y puesta en marcha del observatorio.

Potencial para resultados: Sustancial

La tecnología y la IA han adquirido un rol extremadamente importante en la vida de las personas, influyendo diariamente en la forma en la que se comunican, interactúan o trabajan, en cómo se educa o cómo se proveen servicios de salud, entre otros temas. La transparencia de la IA, que implica su “explicabilidad” o comprensión sencilla, permite entender por qué un algoritmo toma una decisión, o por qué una clasificación o predicción se hace de una manera u otra. En el ambiente gubernamental esto es sumamente importante para poder saber, por ejemplo, por qué se le está dando un beneficio a una persona y no a otra [4].

Ésta es la primera vez que el tema de la IA se incluye en un plan de gobierno de abierto de Uruguay. De acuerdo con lo manifestado por una de las personas referentes del proyecto consultada para este informe [5], la evolución de la IA en el ámbito público ha llevado a prestar especial atención a aspectos como la transparencia, uso ético y responsable de la tecnología y reducir la posibilidad de sesgos no deseados en los modelos de usos de datos. “Estos aspectos se venían trabajando a nivel más que nada del área tecnológica, pero dada la trascendencia que el tema está tomando a nivel nacional y regional se decidió vincularlo con el área de gobierno abierto. Es hora de darle otra mirada, no sólo la tecnológica, sino una mirada más amplia, más de cara a la ciudadanía” [6].

Asimismo, la persona manifestó que se había pensado en la creación de un modelo de gobernanza de IA, pero se dieron cuenta que en lugar de sacar una segunda versión de la estrategia, podían incorporar un compromiso en el plan de gobierno abierto y ejecutar ambas iniciativas en paralelo. Algunos de los compromisos de la estrategia benefician al compromiso y viceversa.

Las acciones propuestas en el marco de este compromiso son lo suficientemente específicas para verificar su cumplimiento objetivamente. De ser cumplido en su totalidad, el compromiso permitirá un avance sustancial en la transparencia del uso de la IA en el ámbito gubernamental. El observatorio dará mayor alcance a la Estrategia de Inteligencia Artificial para el Gobierno Digital en materia de transparencia y lo acercará a la ciudadanía. Pondrá a disposición una herramienta donde se publicarán casos que ayudarán a la ciudadanía a entender cómo se utilizan los algoritmos para la toma de decisiones. Además, se elaborarán pautas que permitirán a los organismos preparar la información de forma adecuada para la ciudadanía. Asimismo, se busca ir más allá del ámbito público convocando a otros actores en un ámbito de seguimiento y monitoreo durante todo el proceso de creación y puesta en marcha del observatorio. En la estrategia se involucraron otros actores, pero sólo durante el proceso de elaboración, pues no hubo un grupo que acompañara todo el proceso como se plantea en este compromiso.

Oportunidades, desafíos y recomendaciones durante la implementación

De acuerdo con la información recabada, se puede establecer que este compromiso surge en un momento muy oportuno. Por un lado, porque existe un creciente interés en el tema en todos los ámbitos de actividad y porque cada día es mayor la influencia que la IA tiene en la vida cotidiana de las personas.