Ética y regulación, imprescindibles para que la IA sea fuente de progreso: Paolo Benanti

“Con la nueva tecnología de inteligencia artificial (IA) en algún momento se le preguntó a una máquina, ¿cómo podemos eliminar el cáncer? De acuerdo con su respuesta más inteligente, la máquina contestó: `mata a todos los humanos´. Cuando una máquina toma decisiones, ¿de quién es la responsabilidad?, esta pregunta aplica para temas médicos, educativos, económicos y muchos otros. Por ello debemos poner fronteras que definan hasta dónde deben llegar las maquinas”, reflexiona Paolo Benanti, catedrático de la Pontificia Universidad Gregoriana, en Roma, y asesor del Papa Francisco en temas de inteligencia artificial y ética tecnológica.

En el foro “Construyendo el Futuro de la Inteligencia Artificial”, organizado por la Universidad Iberoamericana Ciudad de México, en el marco de su 80° aniversario, por tres días, especialistas internacionales, docentes, estudiantes, representante de la industria e instituciones discuten el estado actual de la inteligencia artificial y el papel crucial que desempeñan las universidades en el diseño e implementación de soluciones a problemas complejos basadas en esta tecnología en desarrollo.

El doctor Luis Arriaga Valenzuela, rector de la Ibero, destacó la importancia del análisis de los aspectos tecnológicos, legales y éticos de la inteligencia artificial. Este evento –dijo– “permitirá explorar los límites de la innovación y trazar el rumbo hacia un futuro en el que la inteligencia artificial constituya un auxilio valioso para el desarrollo humano y el cuidado de nuestros entornos”.

Problemas éticos de la tecnología

En el segundo día de actividades destacó la voz del teólogo y académico italiano Paolo Benanti, quien presentó la conferencia magistral “Perfiles éticos para las inteligencias artificiales”, y puso en la mesa las paradojas de la tecnología.

Paolo Benanti es un religioso franciscano que en 2012 concluyó el doctorado en teología moral con una tesis titulada "El Cyborg. Cuerpo y corporeidad en la era posthumana"; sus líneas de trabajo giran en torno de la ética, la bioética y la ética de las tecnologías. En particular, sus estudios se centran en gestión de la innovación tecnológica en la era digital.

Fray Benanti señaló que la inteligencia artificial es una forma particular de tecnología, donde tenemos una necesidad y una herramienta que evoluciona para hacer una tarea mejor y más rápido, pero no sólo eso, ahora puede hacer muchas más tareas y cambia la forma en que puede hacer las cosas.

Con estos cambios, también vienen algunas dificultades. “Puedes decirle por favor, limpia el piso, pero si la máquina decide que no quiere limpiar el piso, ya no tienes control, podemos trabajar con la idea de que uno puede controlarlo todo, pero el poder de la máquina es el poder de la predicción”.

Aquí entran problemas éticos. “En la estación espacial internacional, la inteligencia artificial puede medir la rotación, eso se vuelve un poder de predicción, pero para un astronauta es muy importante controlarlo, cuando aplicamos inteligencia artificial tenemos que saber qué tanta libertad les permitimos”.

¿Qué pasa cuando permitimos que nuestros datos se concentren en las máquinas?, estas no sólo pueden predecir, sino producir información, si buscamos un libro nos da una sugerencia que probablemente nos interese y eso produce alrededor de 12% más de ventas, esta es una teoría que nos quita de cierta forma libertad entregándonos productos que nos pueden interesar. “Así el ‘dios de la web’ le está dando un significado a los datos, por ello entender la ética de la tecnología y la visión del mundo, están detrás de esto, de cómo utilizar la tecnología”.

Benanti fue contundente: “la forma en que se distribuya este tipo de tecnología tiene muchas implicaciones éticas, desde el modelo estadounidense o el chino, dependiendo de cómo entendemos la sociedad, será la forma en que adoptemos la tecnología de la inteligencia artificial”.

Agrega que hay muchas preguntas que enfrentar aún, por ejemplo, “¿qué pasó cuando se creó la electricidad, el hombre que distribuía la electricidad tuvo una pregunta filosófica, ¿bajamos el precio y hacemos que más gente sea más feliz y con mayor calidad de vida?”,

Hoy hay una paradoja, una máquina puede hacer tareas cognitivas muy altas, por ejemplo, una calculadora con un panel solar cuesta menos de un euro, pero por otro lado, una mano robótica para reemplazar una mano, cuesta 20 millones, una es barata y otra tiene una tarea mucho más elevada, ¿cómo tratar estas disyuntivas?

El progreso no es simple

En entrevista para El Economista, fray Benanti comparte que cuando hablamos de tecnología, todo el mundo habla de innovación, y la innovación es la capacidad de la máquina para hacer cosas más rápidas y potentes, pero el verdadero progreso no es simple.

Dijo que necesitamos utilizar barreras éticas y legales para garantizar que la innovación se transforme en una fuente de progreso y esto es urgente porque la IA es cada día mucho más rápida. “Por mucho que sea potente y rápida la máquina, debemos estar vigilándola, regulándola y orientándola”.

Esta es la cuestión más importante ahora, señala. “La historia nos enseña que una vez que tenemos la tecnología, es realmente difícil contenerla. Tenemos ejemplos como la bomba atómica, una tecnología realmente estúpida que se gestó una vez que contamos con material radioactivo, desde ese momento ya estábamos en peligro”.

Agrega que “ahora que tenemos tecnología inteligente, que empezamos a descubrir el poder de los datos y la información, es muy importante tener un marco internacional común y compartido para regular la IA y hablar de que los datos son una copia de la realidad y por ello un problema ético que analizar, pues cualquiera podría alterar la realidad”.

“El verdadero problema filosófico es: ¿son los datos lo mismo que la realidad? Bueno, es una respuesta compleja, pero lo que podemos decir es una analogía. Hubo en el pasado físicos que decían que una vez que conocemos toda la realidad conocemos el pasado y el futuro es una paradoja de la física. Bueno, alguien está diciendo que, si los datos son lo suficientemente grandes, podemos controlar todo lo que sabemos del pasado, pero el futuro sigue siendo una ilusión y no debemos engañarnos”.

Más sobre el foro

En este foro internacional, han participado especialistas como la arquitecta y diseñadora generativa, especializada en arte multimedia y digital, Chantal Matar, de Londres; el abogado Ryan Abott, de Reino Unido, autor del libro “The Reasonable Robot: Artificial Intelligence and the Law”, publicado en 2020 por la Cambridge University Press; y el doctor Wayne Homes, de Reino Unido, investigador del Laboratorio del Conocimiento del Instituto de Educación de University College of London. Ellos participaron por separado y este miércoles en una mesa redonda titulada: “El rol de la inteligencia artificial en la universidad”.

Para este jueves, último día de actividades, destacan en el programa el doctor Minoru Asada, de la Universidad de Osaka, de Japón; uno de los investigadores y desarrolladores de robótica e inteligencia artificial más importantes del mundo; y el doctor Edmond Awad, profesor de la Escuela de Negocios y del Instituto de Ciencia de Datos e Inteligencia Artificial, de la Universidad de Exeter, de Reino Unido, quien diseñó y desarrolló “Moral Machine”, un sitio web que recopila decisiones humanas sobre dilemas morales a los que se enfrentan los coches sin conductor.

Programa del jueves 31 de agosto

Auditorio José Sánchez Villaseñor, SJ, Campus Santa Fe

9:00 Conferencia magistral: “Repensar la autonomía de humanos y robots”, Minoru Asada, Universidad de Osaka, Japón.

11:00 Conferencia magistral: “El experimento de la máquina moral”, Edmond Awad, Universidad de Exeter, Reino Unido.

12:15 Conclusiones: Alejandro Anaya Muñoz, vicerrector académico de la IBERO.

nelly.toche@eleconomista.mx