Deepfakes: ¿una amenaza para la libertad de expresión?

En su libro Deep Fakes and the Infocalypse: What You Urgently Need to Know, Nina Schick explora los peligros y las implicaciones de los llamados deepfakes en la sociedad, abordando temas como la desinformación, la manipulación política y el futuro de la realidad digital. Estoy seguro, querido lector, lo lejano de nuestras vidas que parece un concepto como el referido, sin embargo está más cercano de lo que creemos. Imágenes como la del Papa Francisco vistiendo ropas extravagantes, la imagen de la detención del Presidente Trump o la reciente imagen del ataque al Pentágono, son sólo unos ejemplos de lo cotidiano que se están volviendo las deepfakes o como se le llama en nuestro idioma “falsedades profundas”.

En la era digital actual, la tecnología avanza a pasos agigantados, y junto con ella surgen nuevas herramientas y aplicaciones que pueden tener tanto un impacto positivo como negativo en nuestras vidas. Uno de los desarrollos más llamativos y preocupantes es el fenómeno conocido como deepfakes. Ellas son videos, imágenes o audios generados mediante algoritmos de aprendizaje automático, que permiten la manipulación y creación de contenido multimedia falso, pero altamente realista. Estas creaciones engañosas pueden plantear serias amenazas a la privacidad, la confianza y la estabilidad social.

¿Cómo surgen? Las deepfakes se originaron como una técnica para el entretenimiento y la diversión, permitiendo a los usuarios intercambiar caras en videos o imitar la apariencia de personas famosas en diferentes situaciones. Sin embargo, la preocupación surgió rápidamente debido al potencial abuso de esta tecnología.

Las deepfakes han sido utilizadas para difamar a personas, crear noticias falsas y hasta para generar pornografía no consensuada con imágenes de personas reales. Estos usos irresponsables pueden tener consecuencias devastadoras para las víctimas, ya que pueden ser objeto de chantaje, humillación pública o incluso daño a su reputación y carrera profesional, así lo refiere Eva Marie Kerschbaumer en su sensacional libro The Deepfake Book: A Very Unstable Element donde analiza las implicaciones éticas y legales de las deepfakes en diferentes áreas, como el periodismo, la política y el entretenimiento.

Y es ahí justo donde tendríamos que poner una alerta social, pues la proliferación de las deepfakes plantean serias preocupaciones éticas y legales. A medida que la tecnología avanza, se vuelve cada vez más difícil distinguir entre lo real y lo falso. Esto puede llevar a una erosión de la confianza en los medios de comunicación y socavar la credibilidad de información importante. Además, las deepfakes pueden ser utilizadas para manipular elecciones, difundir propaganda política o incitar a la violencia, generando desestabilización social.

Considere, querido lector un proceso electoral donde la proliferación de imágenes y videos falsos sean tan reales que el electorado no pueda distinguir entre la realidad de la mentira, o llévelo a una arena más personal donde un video falso de usted sea producido con la finalidad de extorsionarle.

El combate contra las deepfakes plantea desafíos significativos. Aunque existen técnicas de detección y verificación de los mismos, los avances en la generación de contenido falso también dificultan su detección. Además, las deepfakes se propagan rápidamente a través de las redes sociales y plataformas en línea, lo que dificulta su control y eliminación. Las empresas tecnológicas, los gobiernos y la sociedad en su conjunto deben colaborar para desarrollar soluciones efectivas que puedan frenar la difusión y el impacto de las deepfakes.

La educación y la conciencia pública también juegan un papel crucial en la lucha contra ellos. Es importante que las personas sean conscientes de la existencia de esta tecnología y de sus posibles riesgos. Los usuarios deben aprender a ser críticos con la información que consumen y comparten, verificando la fuente y la autenticidad del contenido antes de creer en su veracidad. Las escuelas y los medios de comunicación tienen la responsabilidad de educar a las personas sobre los peligros de las deepfakes y cómo identificarlas.

En el ámbito regulatorio, a principios de este año, China emitió una regulación contra ellos. Otros países han comenzado a abordar la cuestión de las deepfakes buscando proteger a las personas y desalentar el mal uso de esta tecnología. Sin embargo, una posible regulación de ello abre la puerta para que, en un clima donde han proliferado los gobiernos populistas, se busque limitar la libertad de expresión so pretexto de una posible regulación.

Además de los esfuerzos legales y educativos, es fundamental fomentar e impulsar desde la industria, la investigación y el desarrollo de herramientas de detección y verificación de deepfakes más avanzadas. La inteligencia artificial y el aprendizaje automático también pueden desempeñar un papel importante en la detección temprana y la mitigación de los efectos negativos de aquellos.

Las empresas tecnológicas deben invertir en soluciones innovadoras y colaborar con expertos en seguridad y ética para abordar este desafío y desde luego generar las condiciones de una adecuada coordinación co-regulatoria con el Estado donde se priorice el enfoque de derechos humanos

Estimado lector, las deepfakes representan una de las más grandes amenazas para nuestro sistema democrático, una amenaza creciente para la privacidad, para la confianza y para la estabilidad social. Su capacidad para generar contenido falso altamente realista plantea desafíos significativos en diversos ámbitos, desde la difamación y el chantaje hasta la manipulación política. Es tarea no sólo del gobierno, sino de la industria y desde luego de la sociedad combatirlas. Solo a través de un esfuerzo conjunto podemos enfrentar esta amenaza y preservar la autenticidad y la confianza en el mundo digital.