Falta transparencia en el uso de Inteligencia Artificial por parte de los gobiernos en México

El uso de la inteligencia artificial (IA) en el sector público de México es una realidad. Lo es también la falta de transparencia en su implementación dentro de las instituciones de los diferentes gobiernos en el país. 

Investigadores del Centro de Investigación y Docencia Económicas (CIDE) han identificado 119 aplicaciones de IA en los tres Poderes de la Unión y en los tres niveles de Gobierno, pero obtener información clara sobre ellas ha sido un proceso marcado por la opacidad y la resistencia de algunas instituciones a rendir cuentas.

Repositorio de algoritmos

Con el objetivo de fomentar la transparencia, académicos del CIDE han desarrollado un registro de algoritmos utilizados por el sector público en México. Este proyecto permite documentar las aplicaciones de IA presentes en diversas dependencias, pero también pone en evidencia los desafíos para acceder a información clave sobre su uso, regulación y objetivos.

Para la recopilación de datos, los investigadores utilizaron cuatro métodos principales: solicitudes de transparencia, monitoreo de medios, análisis de concursos de innovación gubernamental y referencias directas obtenidas en entrevistas y foros.

Muchas dependencias gubernamentales fueron renuentes a proporcionar información o respondieron de manera imprecisa.

Opacidad

Uno de los principales hallazgos del estudio fue la reticencia de diversas instituciones a reconocer el uso de IA. Se enviaron solicitudes de transparencia a aproximadamente 2,200 entidades públicas, pero en numerosos casos las respuestas omitieron información que los investigadores ya habían identificado mediante otras fuentes.

"Muchas veces, las entidades públicas que nosotros ya sabíamos por medios o por referencias directas que tenían ciertos desarrollos no lo reportaban en las solicitudes de transparencia", explicó César Rentería, investigador del Centro de Investigación y Docencia Económicas (CIDE) y uno de los autores del repositorio, junto con Jorge Ordelín.

En algunos casos, las instituciones sólo reconocieron el uso de IA tras presentar recursos de revisión ante los organismos de transparencia. Sin embargo, otras mantuvieron su negativa, especialmente en el Estado de México y Nayarit, donde la falta de respuesta fue generalizada.

"El Estado de México y Nayarit, prácticamente todos los municipios [...] no contestaron las solicitudes de transparencia. Se mandó recurso de revisión y no contestaron las solicitudes nunca", dijo Rentería en entrevista.

Desinformación sobre la IA

Otro problema identificado fue la falta de conocimiento dentro de las propias instituciones sobre qué constituye una aplicación de IA. En muchas respuestas a solicitudes de transparencia, las dependencias listaron herramientas de software tradicional, como suites de oficina o programas de ciberseguridad, como si se tratara de inteligencia artificial.

En total, 223 aplicaciones reportadas no cumplían con los criterios básicos para ser consideradas Inteligencia Artificial, lo que refleja un problema de desinformación incluso en áreas de tecnología de la información dentro del gobierno.

"Nuestra explicación es que ese tipo de respuestas son causadas por una desinformación generalizada sobre qué es la inteligencia artificial y qué no lo es", señaló Rentería. "La desinformación incluso ocurre a nivel técnico, en los especialistas de tecnologías de la información".

El equipo del CIDE señaló que esta falta de claridad no solo limita la transparencia, sino que también dificulta la implementación de normativas y políticas públicas adecuadas para la regulación del uso de IA en el sector público.

El acceso a información sobre IA en el sector público no es solo una cuestión técnica, sino también un tema de derechos ciudadanos y rendición de cuentas. La transparencia en el uso de estas tecnologías es fundamental para evitar sesgos en la toma de decisiones automatizadas, garantizar el respeto a la privacidad y prevenir posibles abusos de poder.

rodrigo.riquelme@eleconomista.mx