Algoritmos y datos: los dominios de los hijos de Al-Khwarizmi

Foto: iStock.

A nuestros oídos llega cada vez con más frecuencia la palabra "algoritmo". Cabalgando sobre la ola de la creciente penetración en la sociedad de dispositivos y aplicaciones, la palabra de origen árabe ha saltado de las páginas especializadas de los libros de matemáticas a lugares privilegiados en los espacios de los medios de comunicación. Al-Khwarizmi, el matemático uzbeko del siglo octavo que inventó y dio nombre al término, estaba lejos de pensar que un día la palabra sería parte del vocabulario habitual de un amplio sector de la población.

La Real Academia define "algoritmo" como un "Conjunto ordenado y finito de operaciones que permite hallar la solución de un problema" y etimológicamente como "cálculo con números arábigos". La representación de cualquier dato como una secuencia numérica y la codificación de las operaciones para tratarlos como aplicaciones informáticas, hace del siglo XXI una buena época para ser un algoritmo. Nunca un algoritmo dispuso antes de tantos datos ni de tanta capacidad de cálculo para ejecutarse.

Los algoritmos han obtenido un revestimiento de objetividad e infalibilidad al migrar su entorno de ejecución desde la mente humana a los circuitos de los dispositivos digitales. Por ejemplo, en una anterior contribución al Huffington mencioné la creciente confianza en la selección automatizada de noticias que realizan las redes sociales, a pesar de los indicios de sesgo que introducen en el proceso. La ejecución automatizada nos hace olvidar que, tanto el diseño del algoritmo como la selección de datos que maneja y la interpretación de sus resultados, son tareas realizadas por humanos. Los prejuicios o la imparcialidad de quienes intervienen son ineludiblemente incorporados a los algoritmos.

Carecemos sin embargo de capacidad para apreciar en todos los casos la subjetividad de los procesos algorítmicos desarrollados por aplicaciones. Es necesario una investigación especializada para percibir cómo la búsqueda de puestos de trabajo en Google muestra empleos mejor pagados a hombres que a mujeres. Aún siendo capaces de identificar una situación de sesgo en una información o decisión, la opacidad de los algoritmos y la posibilidad de conectarlos entre sí puede hacer imposible detectar el origen del tratamiento injusto.

Como demostró la Federal Trade Commission de Estados Unidos, la abundancia de datos y algoritmos pueden dar lugar efectivamente a nuevas situaciones de discriminación, especialmente hacia las clases desfavorecidas. En concreto, la agencia norteamericana señalaba el especial peligro del procesamiento algorítmico cuando informa decisiones sobre el acceso de la población a la atención de la salud, el crédito y la vivienda. No es necesario salir de Estados Unidos para confirmar estos temores. Investigadores han demostrado que las herramientas predictivas de reincidencia criminal utilizadas por la policía de un condado de Florida tenían un 77% más de probabilidad de incluir a afroamericanos que a otras etnias en este grupo.

Aspectos sensibles, como nuestras garantías sanitarias o cobertura de seguros ante cualquier tipo de incidentes pueden verse afectadas por la extensión de las prácticas algorítmicas. En menos de cinco años se espera que cientos de millones de personas tengan monitorizada su salud a través de dispositivos conectados a Internet. ¿Alguien duda de que los datos recogidos vayan a dar lugar en el medio plazo a distintas cláusulas de seguro médico? Ya está sucediendo con otro tipo de pólizas. Recientemente una gran empresa aseguradora británica intentó comercializar una póliza para automóviles basada en los post en Facebook del contratante. La comercialización fue frenada en seco por Facebook remitiendo a los términos y condiciones de sus servicios, quizás tan sólo por no ser la compañía de Silicon Valley parte del negocio.

Afortunadamente, la preocupación por la opacidad de los algoritmos comienza a ser incorporada a la agenda política. Hace unos meses, Angela Merkel llamaba a hacer públicos los mecanismos de priorización de noticias en redes sociales y buscadores, cuando aún estaba por llegar el caso de las noticias falsas en las elecciones americanas. La canciller alemana criticaba como la falta de transparencia de los algoritmos puede dar lugar a una distorsión de nuestra percepción de la realidad, limitando la información que recibimos. Más allá de su impacto sobre la libertad de información, parlamentarios europeos están llamando a abrir un debate sobre la responsabilidad y transparencia de los procesos algorítmicos que pueden influir en la vida diaria de los ciudadanos.

Los datos son el complemento necesario a los algoritmos. Generalmente, asimilamos que los hijos de Al-Khwarizmi solo manejan datos personales nuestros y que lo hacen sólo bajo nuestro consentimiento. No deja de ser una simplificación que nos da una falsa percepción de seguridad en la protección de nuestra intimidad, como hemos visto en algunos de los casos antes comentados. Es esperanzador que también se esté iniciando el debate político sobre la propiedad, transferencia y uso de datos personales y no personales, al menos en la Unión Europea. En el ámbito del Mercado Único Digital, la Comisión Europea anuncia una iniciativa de libre flujo de datos para buscar respuestas al reto de las decisiones basadas en datos.

El desconocimiento por la población del rol actual y potencial de los algoritmos y datos en la sociedad y economía digital protege la falta de transparencia de los mismos. Dentro de los márgenes del secreto comercial de las empresas, se configura la reivindicación de un nuevo derecho ciudadano: Conocer qué datos personales y no personales son utilizados en un proceso algorítmico de decisión sobre cada uno de nosotros y conocer las características del mismo. Existe un espacio potencial para la regulación como medio para eliminar la asimetría de información entre ciudadano y empresas.

Los algoritmos y los datos son el núcleo de un futuro en que nuestras vidas serán condicionadas por la inteligencia artificial. Embridar el mañana, gestionando los riesgos y beneficios para el bien social es parte de las obligaciones de los poderes públicos. Así, por ejemplo, estaba sucediendo en Estados Unidos durante la Administración Obama. Dado que es imposible frenar el progreso en este área, hay que crear las condiciones de entorno para que sus aplicaciones sean justas, seguras y manejables. Podemos estar aún a tiempo, aunque varios científicos y expertos piensen que ya vivimos en Matrix y crean en la posibilidad de que nuestra realidad es un gran algoritmo en el que vivimos inmersos y nuestra rutina el resultado de un torrente de datos.