Lectura 7:00 min
Arrastrándose hacia la distopía
En medio del creciente entusiasmo por la IA generativa, también aumentan las preocupaciones sobre su posible contribución a la erosión de las libertades civiles. La convergencia de las agencias de inteligencia estatales y el capitalismo de vigilancia subraya la amenaza que la inteligencia artificial representa para el futuro de la democracia
LONDRES – Con los inversionistas invirtiendo miles de millones de dólares a nuevas empresas relacionadas con la Inteligencia Artificial (IA), el frenesí de la IA generativa comienza a parecer una burbuja especulativa similar a la manía de los tulipanes holandeses de la década de 1630 y la burbuja de los Mares del Sur de principios del siglo XVIII. Y, al igual que esos episodios, el auge de la IA parece encaminarse a un fracaso inevitable. En lugar de crear nuevos activos, amenaza con dejar atrás sólo montañas de deuda.
La exageración de la IA de hoy está impulsada por la creencia de que los modelos de lenguaje grande como el GPT-4 recientemente lanzado de OpenAI podrán producir contenido que es prácticamente indistinguible de la creación originada por humanos. Los inversionistas están apostando a que los sistemas de IA generativos avanzados crearán sin esfuerzo texto, música, imágenes y videos en cualquier estilo imaginable en respuesta a indicaciones simples del usuario.
Sin embargo, en medio del creciente entusiasmo por la IA generativa, aumentan las preocupaciones sobre su posible impacto en el mercado laboral. Un informe reciente de Goldman Sachs sobre los efectos económicos “potencialmente grandes” de la IA estima que hasta 300 millones de trabajos corren el riesgo de ser automatizados, incluidos muchos trabajos calificados y administrativos.
Sin duda, muchas de las promesas y los peligros relacionados con el ascenso de la IA todavía están en el horizonte. Todavía no hemos logrado desarrollar máquinas que posean el nivel de autoconciencia y la capacidad para tomar decisiones informadas que se alineen con la comprensión de inteligencia de la mayoría de las personas. Es por eso que muchos tecnólogos abogan por incorporar “reglas morales” en los sistemas de IA antes de que superen las capacidades humanas.
Pero el peligro real no es que la IA generativa se vuelva autónoma, como muchos líderes tecnológicos nos quieren hacer creer, sino que se utilizará para socavar la autonomía humana. Tanto los sistemas de IA “estrechos” como los de “propósito general” que pueden realizar tareas de manera más eficiente que los humanos representan una oportunidad notable para los gobiernos y las corporaciones que buscan ejercer un mayor control sobre el comportamiento humano.
Como señala Shoshana Zuboff en su libro de 2019 The Age of Surveillance Capitalism, la evolución de las tecnologías digitales podría conducir al surgimiento de “un nuevo orden económico que reclama la experiencia humana como materia prima gratuita para prácticas comerciales ocultas de extracción, predicción y ventas. ” La relación cada vez más simbiótica entre el gobierno y la vigilancia del sector privado, observa, es en parte el resultado de un aparato de seguridad nacional “galvanizado por los ataques del 11 de septiembre” e intento de nutrir y apropiarse de tecnologías emergentes para obtener un “conocimiento total” de el comportamiento y la vida personal de las personas.
Palantir, la empresa de análisis de datos cofundada por el inversionista multimillonario Peter Thiel, es un buen ejemplo. Thiel, un destacado donante republicano, supuestamente persuadió a la administración del expresidente de los Estados Unidos, Donald Trump, para que le otorgara a Palantir contratos lucrativos para desarrollar sistemas de inteligencia artificial adaptados para uso militar. A cambio, Palantir brinda servicios de inteligencia al gobierno de EU y otras agencias de espionaje en todo el mundo.
En “Un viaje a Laputa”, la tercera parte de Los viajes de Gulliver de Jonathan Swift, el Capitán Gulliver se encuentra con una isla flotante habitada por científicos y filósofos que han ideado métodos ingeniosos para detectar conspiraciones. Uno de estos métodos consiste en escudriñar la “alimentación de todas las personas sospechosas”, así como examinar de cerca “sus excrementos”, incluido “el color, el olor, el sabor, la consistencia, la tosquedad o la madurez de la digestión”. Si bien el aparato moderno de vigilancia estatal se enfoca en sondear correos electrónicos en lugar de funciones corporales, tiene un objetivo similar: descubrir complots y conspiraciones contra el “orden público” o la “seguridad nacional” al penetrar en las profundidades de la mente de las personas.
Pero la medida en que los gobiernos pueden espiar a sus ciudadanos depende no solo de las tecnologías disponibles, sino también de los controles y equilibrios proporcionados por el sistema político. Es por eso que China, cuyo sistema regulatorio está completamente enfocado en preservar la estabilidad política y defender los “valores socialistas”, pudo establecer el sistema de vigilancia estatal electrónica más generalizado del mundo. También ayuda a explicar por qué China está ansiosa por posicionarse como líder mundial en la regulación de la IA generativa.
Por el contrario, el enfoque normativo de la Unión Europea se centra en los derechos humanos fundamentales, como los derechos a la dignidad personal, la privacidad, la no discriminación y la libertad de expresión. Sus marcos regulatorios enfatizan la privacidad, la protección del consumidor, la seguridad del producto y la moderación de contenido. Si bien Estados Unidos confía en la competencia para salvaguardar los intereses de los consumidores, la Ley de IA de la UE, que se espera que finalice a finales de este año, prohíbe explícitamente el uso de datos generados por usuarios para la “puntuación social”.
El enfoque “centrado en el ser humano” de Occidente para regular la IA, que hace hincapié en proteger a las personas del daño, contrasta marcadamente con el modelo autoritario de China. Pero existe un peligro claro y presente de que los dos finalmente converjan. Esta amenaza inminente está impulsada por el conflicto inherente entre el compromiso de Occidente con los derechos individuales y sus imperativos de seguridad nacional, que tienden a tener prioridad sobre las libertades civiles en tiempos de mayores tensiones geopolíticas. La versión actual de la Ley de IA, por ejemplo, otorga a la Comisión Europea el poder de prohibir prácticas como la vigilancia predictiva, pero con varias exenciones para usos militares, de defensa y de seguridad nacional.
En medio de la feroz competencia por la supremacía tecnológica, la capacidad de los gobiernos para desarrollar e implementar tecnologías intrusivas representa una amenaza no solo para las empresas y los regímenes políticos, sino para países enteros. Esta dinámica maligna contrasta marcadamente con las predicciones optimistas de que la IA generará una “amplia gama de beneficios económicos y sociales en todo el espectro de industrias y actividades sociales”.
Desafortunadamente, la erosión gradual de los poderes compensatorios y los límites constitucionales sobre la acción del gobierno dentro de las democracias liberales occidentales les hace el juego a los regímenes autoritarios. Como observó proféticamente George Orwell, un estado de guerra perpetua, o incluso la ilusión de ello, crea un escenario ideal para el surgimiento de una distopía tecnológica.
El autor
Robert Skidelsky, miembro de la Cámara de los Lores británica, es profesor emérito de Economía Política en la Universidad de Warwick.
Copyright: Project Syndicate, 1995 - 2023