Lectura 7:00 min
Hacer que las tecnologías emergentes sean seguras para la democracia
Si bien las tecnologías que avanzan rápidamente, como la inteligencia artificial generativa, tienen el potencial de resolver problemas globales, también podrían perturbar las economías y socavar la gobernanza democrática. Los gobiernos deben aprender de los errores del pasado y dar forma activamente al futuro de estas nuevas tecnologías
BRUSELAS. Decenas de países de todo el mundo, desde Estados Unidos hasta la India, celebrarán o ya han celebrado elecciones en 2024. Si bien este puede parecer un año excepcional para la democracia, estas elecciones se celebran en un contexto de inestabilidad económica mundial, cambios geopolíticos e intensificación del cambio climático, lo que genera una incertidumbre generalizada.
Lo que sustenta toda esta incertidumbre es el rápido surgimiento de nuevas y poderosas tecnologías, algunas de las cuales ya están remodelando los mercados y recalibrando la dinámica del poder global. Si bien tienen el potencial de resolver problemas globales, también podrían perturbar las economías, poner en peligro las libertades civiles y socavar la gobernabilidad democrática. Como ha observado Thierry Breton, comisionado de mercado interno de la Unión Europea: “Hemos entrado en una carrera global en la que el dominio de las tecnologías es fundamental” para navegar el “nuevo orden geopolítico”.
Sin duda, la disrupción tecnológica no es un fenómeno nuevo. Lo que distingue a las tecnologías emergentes de hoy es que han llegado a un punto en el que incluso sus creadores luchan por entenderlas.
Consideremos, por ejemplo, la inteligencia artificial generativa. Los mecanismos precisos mediante los cuales grandes modelos de lenguaje como Gemini de Google (anteriormente conocido como Bard) y ChatGPT de OpenAI generan respuestas a las solicitudes de los usuarios aún no se comprenden completamente, ni siquiera por sus propios desarrolladores.
Lo que sí sabemos es que la IA y otras tecnologías que avanzan rápidamente, como la computación cuántica, la biotecnología, la neurotecnología y la tecnología de intervención climática, son cada día más poderosas e influyentes. A pesar de los escándalos y la reacción política y regulatoria de los últimos años, las grandes empresas tecnológicas siguen estando entre las empresas más grandes del mundo y continúan dando forma a nuestras vidas de innumerables maneras, para bien o para mal.
Además, en los últimos 20 años, un puñado de gigantes tecnológicos han invertido mucho en desarrollo y adquisiciones, acumulando riqueza y talento que les permite capturar nuevos mercados antes de que surjan competidores potenciales. Esta concentración de poder de innovación permite a estos pocos actores mantener su dominio del mercado y tomar las decisiones sobre cómo se desarrollan y utilizan sus tecnologías en todo el mundo. Los reguladores se han apresurado a implementar salvaguardias sociales para tecnologías cada vez más poderosas y complejas, y la brecha de conocimiento público-privado está creciendo.
Por ejemplo, además de desarrollar vacunas y sistemas de detección temprana para rastrear la propagación de virus, los bioingenieros están desarrollando nuevas herramientas para diseñar células, organismos y ecosistemas, lo que lleva a nuevos medicamentos, cultivos y materiales. Neuralink está trabajando en pruebas con implantes de chips en los cuerpos de personas discapacitadas y en mejorar la velocidad a la que los humanos se comunican con los sistemas a través de la interacción directa cerebro-computadora. Mientras tanto, los ingenieros cuánticos están desarrollando supercomputadoras que potencialmente podrían romper los sistemas de cifrado existentes, cruciales para la ciberseguridad y la privacidad. Luego están los tecnólogos climáticos que están cada vez más abiertos a opciones radicales para frenar el calentamiento global, a pesar de la escasez de investigaciones en el mundo real sobre los efectos secundarios de intervenciones globales como la gestión de la radiación solar.
Si bien estos avances son muy prometedores, aplicarlos imprudentemente podría provocar daños irreversibles. El efecto desestabilizador de las redes sociales no reguladas en los sistemas políticos durante la última década es un excelente ejemplo. Del mismo modo, en ausencia de salvaguardias adecuadas, los avances biotecnológicos que acogemos hoy podrían desencadenar nuevas pandemias mañana, ya sea por fugas accidentales de laboratorio o por un uso deliberado de armas.
Independientemente de si uno está entusiasmado con las posibilidades de la innovación tecnológica o preocupado por los riesgos potenciales, las características únicas, el poder corporativo y la escala global de estas tecnologías requieren barreras de seguridad y supervisión. El inmenso poder y el alcance global de estas empresas, junto con el potencial de uso indebido y consecuencias no deseadas, subrayan la importancia de garantizar que estos poderosos sistemas se utilicen de manera responsable y de manera que beneficien a la sociedad.
Aquí, los gobiernos enfrentan una tarea aparentemente imposible: deben supervisar sistemas que sus creadores no comprenden completamente y al mismo tiempo tratar de anticipar avances futuros. Para sortear este dilema, los formuladores de políticas deben profundizar su comprensión de cómo funcionan estas tecnologías, así como de la interacción entre ellas.
Para ello, los reguladores deben tener acceso a información independiente. A medida que el capital, los datos y el conocimiento se concentran cada vez más en manos de unas pocas corporaciones, es crucial garantizar que los tomadores de decisiones puedan acceder a experiencia orientada a políticas que les permita desarrollar políticas basadas en hechos que sirvan al interés público. Los líderes demócratas necesitan experiencia orientada a las políticas sobre tecnología emergente, no los marcos de los lobbystas.
Habiendo adoptado una serie de leyes importantes como la IA. A lo largo de los últimos años, la UE está en una posición única para gobernar las tecnologías emergentes sobre la base de un sólido Estado de derecho, en lugar de al servicio de las ganancias corporativas. Pero primero, las autoridades europeas deben mantenerse al día con los últimos avances tecnológicos. Es hora de que los responsables de la toma de decisiones de la UE se adelanten a la próxima curva. Deben informarse sobre qué está sucediendo exactamente en la vanguardia. Esperar hasta que se introduzcan nuevas tecnologías en el mercado es esperar demasiado.
Los gobiernos deben aprender de los desafíos del pasado y dirigir activamente la innovación tecnológica, al priorizar los principios democráticos y el impacto social positivo sobre las ganancias de la industria. A medida que el orden global se ve sometido a una presión cada vez mayor, los líderes políticos deben mirar más allá de las urnas y centrarse en mitigar los riesgos a largo plazo que plantean las tecnologías emergentes.
La autora
Marietje Schaake, exmiembro del Parlamento Europeo, es directora de política internacional en el Centro de Política Cibernética de la Universidad de Stanford y líder de práctica para la gobernanza de tecnologías emergentes en el Centro Internacional para las Generaciones Futuras.
El autor
Steven Schuurman, cofundador y ex director ejecutivo de Elastic, es cofundador del Centro Internacional para las Generaciones Futuras.
Derechos de autor: Project Syndicate, 2024.