¿Cómo protegernos de los algoritmos?

Los algoritmos ocuparon en este 2016 un importante espacio entre la opinión pública. Estos programas informáticos son utilizados por empresas y gobiernos para tomar decisiones más precisas y rápidas, las cuales basan sus resultados en grandes cantidades de información de todo tipo. Estas decisiones pueden afectar, en muchas ocasiones, a grandes grupos poblacionales dependiendo de cómo hayan sido diseñados y con qué fines, es por esta razón que muchos funcionarios y activistas han promovido distintas regulaciones.

NOTICIA: Google admite fallos en las elecciones de EU

Los algoritmos son programas computacionales que realizan cálculos matemáticos complejos siguiendo un patrón preprogramado y que son utilizados sobre todo para predecir, controlar y modificar el comportamiento humano, refiere Alan Reid, profesor de Derecho de la Sheffield Hallam University, en un artículo publicado por el portal The Conversation.

Los algoritmos intentan usar el pasado como un indicador para predecir el futuro , explica Reid. De acuerdo con el profesor en Derecho, los algoritmos son neutrales, es decir que no conocen conceptos como el prejuicio y la emoción, los cuales podrían alterar el resultado de su toma de decisiones. Sin embargo, como cualquier otro programa informático, los algoritmos pueden ser programados para ser parciales, tendenciosos y arbitrarios o, en algunos casos, deficiencias en su estructura pueden conducir a estas conductas.

NOTICIA: 4 tipos de Inteligencia Artificial que debes conocer

Como ya dijimos, los gobiernos y las empresas utilizan a los algoritmos para intentar predecir el futuro y tomar decisiones. Los autos sin conductor de Tesla y Google que han dado tanto de qué hablar en este 2016 utilizan algoritmos para decidir qué ruta tomar y la velocidad a la que deben ir.

Otro ejemplo que ofrece Reid en su artículo es el de las corporaciones financieras, que utilizan estos programas para determinar el perfil de riesgo de sus clientes o para decidir si deben otorgar un préstamo o una tarjeta de crédito. Si eres tan afortunado que te ofrecieron uno de sus productos, a continuación, (los algoritmos) decidirán cuánto deberás pagar por ese producto , refiere Reid.

Una de las áreas en las que la reflexión sobre la necesidad de una regulación para este tipo de programas es sumamente necesaria es el gobierno. Muchos gobiernos de todo el mundo están utilizando algoritmos para que la policía pueda asignar recursos específicos en lugares en los que el crimen es especialmente elevado. Incluso, los jueces podrían utilizar en un futuro muy lejano estos programas para determinar el riesgo de que un delincuente vuelva a delinquir e imponer una sentencia en consecuencia con esto, de acuerdo con Reid.

NOTICIA: ¿Facebook es responsable de la victoria de Trump?

Pero para el profesor de Derecho de la Sheffield Hallam University advierte que las compañías y los gobiernos tienen demasiados intereses dentro del desarrollo y puesta en marcha de todo tipo de algoritmos, por lo que no será fácil regular estos programas informáticos.

Los algoritmos son (...) altamente lucrativos. Las corporaciones y las organizaciones gubernamentales desean mantener cómo funcionan sus algoritmos en secreto , afirma Reid. Actualmente, varios de estos programas computacionales están protegidos por derechos de propiedad intelectual o por acuerdos de confidencialidad, lo que impide que cualquier persona acceda a su estructura.

Para Reid, la regulación no puede centrarse en el algoritmo en sí, sino en los datos de entrada que utiliza para tomar decisiones y en los datos de salida, los cuales son sus resultados. Aunque las instituciones gubernamentales intenten regular la transparencia de los algoritmos, es decir, que su funcionamiento sea conocido por todo aquel que esté interesado, esto no incide directamente en la forma en la que el algoritmo trabaja.

Una buena opción, según Reid, es lo que ocurre en Reino Unido en donde gracias a una ley de control judicial, la cual permite a los jueces evaluar la legalidad de las decisiones adoptadas por los organismos públicos . En este sentido, un juez puede decidir si los datos introducidos, es decir, los datos de entrada en algún algoritmo de una institución gubernamental, son correctos, prudentes y razonables. Lo mismo sucede con los datos de salida, para los cuales el juez determinará también si el resultado es lícito y proporcional.

Pero en el caso de las empresas privadas, la situación se complica. De acuerdo con Alan Reid, la regulación para las empresas comerciales que utilicen algoritmos debe corresponder al impacto que su servicio tiene entre la población. Por ejemplo, plataformas como Spotify o Netflix, que utilizan uno de estos programas para conocer tus gustos personales y adecuarse a tus necesidades, no requerirían demasiada regulación; pero si una compañía aumenta sus precios o se rehúsa a ofrecerte algún servicio basándose en las decisiones que un algoritmo tomó a partir de tus ingresos o de tu estatus social entonces la necesidad de una regulación mucho mayor se hace expresa.

NOTICIA: ¿Dejarías que un algoritmo eligiera al próximo presidente de México?

El uso y la protección de los datos personales es la forma más simple de lidiar con los problemas que podrían implicar los algoritmos para la vida cotidiana de la gente. Reid recurre a otro ejemplo del Reino Unido, en donde la ley indica que las personas pueden oponerse a que una máquina tome decisiones a partir de sus datos si estas decisiones conllevan un impacto negativo para ellos.

No obstante, para el profesor en Derecho, las personas en todo el mundo siguen siendo demasiado inconscientes de estas formas de evitar que los algoritmos afecten sus vidas. Mayor educación digital y una mayor conciencia de que los datos personales no pueden vagar libremente por Internet son estrategias para aminorar el impacto que tienen los algoritmos en nuestra vida cotidiana.

rodrigo.riquelme@eleconomista.mx