La revista "Otros Diálogos", del Colmex, dedica su edición 25 a la inteligencia artificial

La inteligencia artificial es tema central de la reciente edición de la revista "Otros Diálogos", de El Colegio de México, con el sugestivo título: "El nuevo Frankestein, o de cómo creamos lo que no podemos controlar. El dossier de este número está dedicado a la reflexión en torno a la gobernanza de la misma y su impacto en la educación, el trabajo y la vida cotidiana.

Para esta edición de la revista, expertos han abordado la creciente influencia de la inteligencia artificial (IA) y la ciencia de datos en la administración gubernamental. Estos textos ofrecen una visión perspicaz de cómo la tecnología está remodelando la administración pública y las cuestiones éticas y prácticas que la acompañan.

En este número participa el doctor Fernando Nieto Morales, con el texto "La Promesa de un Gobierno Inteligente"; aquí explora cómo la IA y la ciencia de datos están siendo utilizadas para prevenir el fraude en programas gubernamentales; el especialista muestra cómo la tecnología está mejorando la eficiencia en la administración pública, sin embargo, también advierte sobre los desafíos y limitaciones, enfatizando la necesidad de mantener una supervisión humana en la toma de decisiones.

A propósito de su participación y como coordinador académico del Programa Interdisciplinario de Ciencia de Datos de El Colegio de México, el doctor Nieto Morales platica a El Economista que se trata de un tema que ha cobrado relevancia después de la pandemia, pero en realidad se ha discutido ya por varios años, pues las soluciones cada vez están presentes en más áreas, “es una especie de revolución que poco a poco va permeando en una mayoría y la está poniendo a reflexionar”.

Dijo que la Inteligencia Artificial tiene la promesa de un montón de beneficios, por ejemplo, dar soluciones a problemas viejos, pues las máquinas son muy buenas para cosas que nosotros no, pero, como cualquier otra tecnología hay usos irresponsables y responsables, la pregunta ahora es ¿cómo le hacemos para crear reglas, estándares y buenas prácticas alrededor de la inteligencia artificial que sean conducentes a un uso responsable?

El especialista asegura que este no es un problema sencillo, pues la gobernanza de la IA no solamente está rodeada de esperanzas, sino de muchos mitos, además de complejidades técnicas que ameritan un debate serio y desde distintos ámbitos, no solo el gubernamental y jurídico.

Una visión creativa para entender la IA

En este número de la revista se expone cómo la IA está avanzando a una velocidad mucho más rápida de la que podemos regular y entender, “esto implica lograr una visión mucho más creativa respecto a cómo podemos entrarle al tema”, asegura el entrevistado. Por ejemplo, tenemos que saber cómo educamos, cómo creamos capacidades para que las personas puedan utilizar estas herramientas, “aquí hay una discusión sobre hasta donde las universidades o centros de investigación y conocimiento tienen la responsabilidad para educar e incorporar estas herramientas”.

Y es que aún existe una falta de entendimiento respecto a cuáles son las posibilidades reales que tienen algunos de estos instrumentos y los riesgos asociados a ellas. Por ejemplo, en problemas gubernamentales y servicios públicos, hay una especie de visión de que la IA es una panacea que nos va a llevar a una especie de mundo con decisiones eficaces y eficientes, evitando todo tipo de sesgos y problemas asociados a la intervención humana.

“Esa es una visión un tanto ingenua de dónde estamos y los problemas reales de la IA, sabemos por ejemplo que sus modelos tienen límites, que funcionan a través de ciertos parámetros y datos que en sí mismos tienen sesgos. Es importante identificar estos problemas, sistemáticamente documentarlos y explicarle a la gente una visión más balanceada y con criterios deseables, siempre con transparencia de cómo se utiliza esta tecnología y llamar a cuentas a los desarrolladores”.

Otro criterio sería la insistencia de que la tecnología tiene que poner la centro a las personas, por lo tanto si la vamos a utilizar, tenemos que garantizar que no haya daños a la integridad, a la privacidad. Y por otro lado no olvidar que estamos haciendo todo esto para resolver problemas, no solo es desarrollar por desarrollar, “se trata de mejorar las decisiones y eso no lo debemos perder de vista”.

Otro elemento importante es la responsabilidad y hasta dónde todo esto que adoptamos genera un caldo de cultivo para el uso responsable de las cosas. “Las máquinas son máquinas, y a pesar de que cada vez se parecen más a cosas que hacemos los humanos, hay un límite”. Recordó que el uso responsable de la IA demanda de la inteligencia humana, por lo tanto no es un sustituto de personas o de la creatividad humana.

El papel de la academia

Sobre el papel de la academia en este debate, el especialista asegura que al menos hay tres ámbitos donde se tiene responsabilidad en estos temas. Primero tiene que ver con generar mayor conocimiento, “es importante hacer investigaciones, que hagamos preguntas, que indaguemos en cómo funcionan estas cosas y las consecuencias que puede tener en términos laborales, económicos, éticos, entre otros”.

Otro aspecto tiene que ver con la educación y generar capacidades. “La IA está aquí para quedarse y cada vez la veremos en más espacios que están siendo redefinidos. Aquí es importante que la academia ofrezca recursos para que los estudiantes aprendan a utilizar estas herramientas y no estén en desventaja en un mundo cada vez más digitalizado”.

Finalmente hay una responsabilidad de divulgación, una especie de pedagogía pública donde la academia tiene que tener la responsabilidad junto con otros actores. Es explicarle al público cuáles son las ventajas y riesgos en términos prácticos, con recomendaciones del día a día. Para esto la revista Otros Diálogos está intentando esta labor, presentar material con debates profundos, pero en un lenguaje menos académico, apelando al público en general.

Otros Diálogos

El artículo de Fernando Nieto y otros textos sobre la Gobernanza de la inteligencia artificial en la educación, la ciencia y la política los pueden encontrar en el siguiente enlace: https://otrosdialogos.colmex.mx/

nelly.toche@eleconomista.mx