Los neuroderechos creativos y la algorética

En febrero de este año escribí sobre la necesidad de considerar seriamente el componente humano en el desarrollo de la tecnología de nuevo cuño que estamos viviendo y padeciendo: La algorética y los valores predigitales de conexión (https://www.univa.mx/agora/la-algoretica-y-los-valores-predigitales-de-conexion/#comment-5296). Esto, a raíz del Llamamiento de Roma por la Ética de la Inteligencia Artificial (Rome Call for AI Ethics), que ha venido concienciando a usuarios, instituciones, empresas y partes involucradas e interesadas en adoptar la Algorética como principio. Una ética capaz de ser entendida por la Inteligencia Artificial que producen las máquinas, cuyo propósito es colocar al ser humano en el centro del desarrollo tecnológico desde ética, la educación, el derecho y la transparencia. Evitar sesgos cognitivos y controles predictivos, mayor responsabilidad social para visibilizar a los desarrolladores de software y contenidos y tener un desarrollo tecnológico confiable y seguro en el manejo de datos personales.

A un año de la aparición de ChatGTP nos hemos percatado de la enorme necesidad de considerar la explotación no consentida de los datos extraídos de nuestro cerebro. Un informe del Comité Internacional de Bioética de Naciones Unidas, ha comenzado a abordar los temas éticos y jurídicos en el desarrollo de las neurociencias, proponiendo como resultado de sus análisis el reconocimiento de los denominados neuroderechos. Esto es, el derecho al libre albedrío, a la privacidad mental, a la identidad personal, al acceso equitativo a tecnologías de aumento mental y a la protección contra sesgos de algoritmos de inteligencia artificial.

Estamos ante un nuevo marco normativo derivado de las consecuencias civilizatorias que viene planteando la IA, encaminado a proteger al ser humano frente a la manipulación y el control sobre los procesos cognitivos, emocionales y comportamentales. Digo esto, no sin advertir que la regulación no será sencilla, pues si bien es el Estado quien debe sentar las bases para que este tipo de desarrollo tecnológico sea socialmente útil, no han sido pocos los que han practicado el espionaje y hecho mal uso de datos personales. Así las cosas, la posible solución podría estar en manos del problema, al servicio de gobiernos irresponsables, del sesgo ideológico y de esa humana tentación a la acumulación de poder y manipulación de datos.

Recientemente fuimos testigos del lanzamiento de “Now and then”, la última canción de The Beatles, la cual fue posible gracias al empleo de IA para separar el piano de la voz de John Lennon. Estamos ante el rescate de una obra póstuma. Yoko Ono, en su calidad de heredera, cedió los derechos de reproducción, se respetó la esencia y el sonido original, McCartney sólo agregó un cuidadoso arreglo de cuerdas para que sonara a los Beatles de aquellos años. Caso contrario es el de la popular cantante brasileña Elis Regina, quien apareció 41 años después de su muerte en un anuncio de Volkswagen. Por Mayara Figueiredo, especialista en temas de telecomunicación y cultura, sabemos el motivo por el cual la recreación de la cantante mediante el uso de IA movilizó al senado brasileño. La empresa realizó una genial campaña de retromarketing publicitario para celebrar sus 70 años en el mercado utilizando la imagen de la fallecida cantante, a quien reconstruyó con IA porque así lo acordó con la hija, María Rita, quien también canta y aparece en el anuncio conduciendo una combi y cantando al lado de su madre a lo largo de una carretera. “Volkswagen 70 años, un suceso que pasa de generación en generación”. Es el marchamo que sella el anuncio.

El senador Rodrigo Cunha presentó una iniciativa en la que cuestionó la ética y límites en el desarrollo de campañas publicitarias que echan mano de este tipo de tecnologías. Propuso regular el uso de estas imágenes y recursos cuando se trate de personas fallecidas; que el uso de la imagen de una persona fallecida a través de IA sólo sea permitido con el consentimiento previo y expreso de la persona en vida o de los familiares más cercanos. Cabe señalar que en este caso, si bien se contó con el consentimiento del familiar más cercano, la imagen de la cantante contrasta con la marca de autos. Así lo expresaron diversos usuarios en redes sociales, argumentando que la marca no representaba la forma de vivir y pensar de la cantante. Buen punto, quizá en vida no hubiera aceptado esta colaboración. La hija no valoró que su madre había trabajado una imagen, una trayectoria fiel a ciertos principios que, bajo la percepción de su público, asociados a un anuncio de Volkswagen, vulneraban el respeto a la honra (derechos post mortem) y su derecho a la identidad personal. El hecho puede ser equiparable a la entonación del himno nacional que tuvo que hacer la cantante en 1969 durante las olimpiadas del ejército, obligada por el gobierno, a quien había llamado “camarilla de gorilas”. Fue el apoyo de la gente lo que le mantuvo fuera de la cárcel, y fue esa misma gente, en particular los simpatizantes de izquierda, quienes condenaron su participación en las olimpiadas. La IA es una navaja suiza. En tanto que los neuroderechos y la algorética, la garantía de que sirva para hacer más cosas buenas que malas.