Seguridad y sostenibilidad: convergencias para uso y desarrollo de IA

Los próximos 21 y 22 de noviembre tendrá lugar en San Francisco la primera reunión de la red de Institutos de Seguridad de la Inteligencia Artificial (IA), que reunirá, entre otros países, a Alemania, Australia, Canadá, Corea, Estados Unidos, Francia, Italia, Japón, Reino Unido, Singapur y la Unión Europea. La cita es resultado del proceso de cumbres sobre Seguridad de la IA, celebradas en Reino Unido en noviembre de 2023 y en Seúl en mayo de 2024. La reunión es importante en el creciente entramado de procesos e iniciativas multilaterales que abordan la inteligencia artificial, pues prioriza la dimensión de seguridad en los esfuerzos para su gobernanza.

El punto de partida para los trabajos en San Francisco es que la IA permanece en el quehacer científico. Desde ahí se busca acordar medidas para que la investigación y desarrollo garanticen un uso seguro, y contribuyan a mitigar los riesgos de su explotación con fines hostiles o criminales.

La puesta en marcha de la red de institutos buscará alcanzar un entendimiento común sobre qué significa la seguridad de la IA, al tiempo de promover la interoperabilidad de los modelos y proyectos de los países parte, el intercambio de experiencias y mejores prácticas para el desarrollo de código. El contenido científico de las deliberaciones, muy probablemente se conjugará con el aspecto político que resulte de la cooperación entre los institutos participantes, principalmente del G7, y de los planteamientos para la creación de estándares no solo para y desde la comunidad científica, sino estándares de industria.

En fechas coincidentes, en Azerbaiyán se celebra la Conferencia de las Partes de la Convención Marco de Naciones Unidas sobre Cambio Climático (COP 29), donde más allá de las importantes debates sobre financiamiento climático y la agenda de descarbonización, se asoma una creciente discusión acerca del impacto ambiental que tiene el desarrollo y uso de los grandes modelos de lenguaje de IA, y las emisiones de gases de efecto invernadero que ocasionan, a la vista de que la infraestructura física en que se basan implica una enorme demanda de electricidad, agua y manejo de desechos.

En ese mismo marco, en contraste a los retos que supone el crecimiento exponencial de las tecnologías emergentes, se anticipan también espacios para mostrar cómo los desarrollos recientes de IA ofrecen nuevas soluciones climáticas. Por ejemplo, avances para el mejor mapeo de los riesgos climáticos, la generación de alternativas para la conservación de la biodiversidad, y la aceleración de intervenciones focalizadas ante el incremento de la temperatura oceánica.

Sin menoscabo a la especificidad de estas citas, conviene asumir que como parte de sus resultados la agenda de seguridad y de sostenibilidad podrían encontrar un espacio de convergencia en la configuración de una gobernanza global para el uso y desarrollo de la IA. No es un reto del futuro, sino una tarea del presente.

*El autor es Senior Fellow y Coordinador de la Unidad de Estudio y Reflexión sobre Inteligencia Artificial y Tecnologías Emergentes del Consejo Mexicano de Asuntos Internacionales (COMEXI).