Lectura 3:00 min
México ganó el segundo lugar en el mundial de detección de sesgos de Theodora AI
Theodora AI es una plataforma tecnológica que utiliza inteligencia artificial para detectar y corregir sesgos en textos, imágenes y algoritmos, ayudando a prevenir la discriminación y problemas reputacionales.
Foto: Cortesía
México se llevó el segundo lugar en el Mundial de Detección de Sesgos (Anti-Bias Global Challenge) organizado por la empresa Theodora AI. Este logro no solo destaca la capacidad técnica del equipo mexicano, sino también su dedicación a abordar uno de los problemas más insidiosos en el ámbito tecnológico: los sesgos en los algoritmos y contenidos.
¿Qué es Theodora AI?
Theodora AI es una plataforma tecnológica que utiliza inteligencia artificial para detectar y corregir sesgos en diversos contextos, incluyendo textos, imágenes y algoritmos. La abogada y cofundadora de la empresa, María José Martabit, explica que la plataforma permite a los usuarios identificar y rectificar sesgos, lo que ayuda a prevenir discriminaciones y problemas reputacionales, además de posibles litigios.
Martabit, quien tiene una formación jurídica con especialización en propiedad intelectual de la Universidad de Washington, se inspiró en su experiencia profesional para crear Theodora AI. Después de más de una década de ver casos de discriminación y sesgos, percibió la necesidad de una herramienta tecnológica que pudiera ayudar a hacer visible lo invisible, y así nació Theodora.
Desafío Mundial de Detección de Sesgos
El Mundial de Detección de Sesgos es una iniciativa de Theodora AI que busca involucrar a equipos de todo el mundo en la recolección y análisis de datos para detectar sesgos. Este año, participaron más de 20 países, incluido México, que ganó el segundo lugar, después de Perú. El tercer lugar se lo llevó el equipo argentino.
El equipo mexicano que obtuvo el segundo lugar se distinguió por su habilidad para detectar una gran cantidad de sesgos en los datos. Compuesto por académicos de la Universidad Nacional Autónoma de México (UNAM), el equipo incluía a un profesor de ciencia política, una abogada y un economista, todos con conocimientos en machine learning. Esta combinación de disciplinas permitió una colaboración fructífera y efectiva, en palabras de María José.
El análisis de los datos recolectados durante el mundial reveló hallazgos significativos. Por ejemplo, el 48% de los sesgos identificados estaban relacionados con el género, destacando la prevalencia de este tipo de discriminación en múltiples contextos. Otros sesgos detectados incluyeron aquellos basados en la discapacidad, la raza, la religión y la edad.
“En la publicidad, las personas con discapacidad a menudo son representadas de manera peyorativa”, menciona María José.
En particular, los sesgos de género se manifiestan de maneras sutiles pero impactantes. Un ejemplo que Martabit menciona es cómo la descripción de un cargo como "conductor" en lugar de "conductor o conductora" puede disuadir a las mujeres de postularse, perpetuando la segregación de género en ciertos empleos.
The Bias Project
Martabit subraya que uno de los mayores desafíos en la creación de esta tecnología desde Latinoamérica fue generar un conjunto de datos diverso y representativo. Para lograrlo, Theodora AI desarrolló "The Bias Project", una plataforma que permitió a usuarios anónimos de distintas culturas y regiones aportar datos. Esta iniciativa ayudó a enriquecer la base de datos de Theodora con una amplia gama de perspectivas globales.
Como parte del reconocimiento, el equipo mexicano recibió varios premios, incluyendo unos lentes de realidad virtual, una escultura en forma de corazón hecha de mosaico italiano y un lugar en un informe que Theodora AI publicará en agosto.