Resolver "el dilema de las redes": Una reforma del modelo de negocio de las grandes empresas tecnológicas

Por Rasha Abdul Rahim, codirectora de Amnesty Tech (Amnistía Internacional):

Si hay algo que el año 2020 ha puesto de relieve es nuestra dependencia del mundo online para las conexiones y las interacciones sociales. Para muchas personas, las plataformas y los servicios online de empresas como Facebook y Google han sido un balón de oxígeno durante la pandemia: gracias a ellos pudimos mantenernos en contacto con familiares y amistades, trabajar y estudiar online o conseguir información de salud actualizada. Pero esta ventaja supone un coste para nuestros derechos humanos, incluida nuestra salud mental, y esto es lo que demuestra convincentemente El dilema de las redes, el nuevo documental que puede verse en Netflix desde la semana pasada.

El dilema de las redes nos abre los ojos respecto a la forma en que nuestras vidas son constantemente monitoreadas —y controladas— por estas plataformas. Es como un Show de Truman a gran escala en el que se mantiene bajo observación a un tercio de la población del planeta.

En abril, el ex director ejecutivo de Google, Eric Schmidt, señaló: “las ventajas de estas grandes empresas —a las que nos encanta demonizar— en cuanto a la posibilidad de comunicarse [...], la posibilidad de conseguir información, son inmensas…” y afirmó que la gente debería estar agradecida de que “ estas empresas hayan conseguido el capital, hayan hecho las inversiones y hayan creado las herramientas que ahora estamos utilizando y que tanto nos han ayudado”. Sin embargo, en el documental, personas que conocen bien Silicon Valley ven las cosas de forma muy diferente. Afirman que en estas plataformas siguen manifestándose los peores aspectos de la humanidad como consecuencia directa de la forma en que han sido diseñadas.

Estas plataformas están diseñadas para optimizar tres cosas: 1) el tiempo que pueden mantenernos sin despegar los ojos de la pantalla; 2) la cantidad de nuevos usuarios que pueden conseguir; y 3) los ingresos por publicidad que pueden generar presentando anuncios a esas personas que están pegadas a la pantalla.

Todo esto alimenta el modelo de negocio que hay tras ellas, y que en esencia consiste en recopilar y monetizar nuestra información personal. La característica fundamental de este modelo es acumular enormes cantidades de datos sobre las personas manteniéndolas en las plataformas el mayor tiempo posible, utilizar esa información para elaborar perfiles increíblemente detallados de sus vidas y su conducta, y monetizarla vendiendo esas predicciones a quien quiera influir en ellas.

Como advertimos en nuestro informe de 2019, el modelo empresarial o de negocio de Facebook y Google, basado en la vigilancia, es intrínsecamente incompatible con el derecho a la privacidad y representa un peligro sistémico para diversos derechos más, como la libertad de opinión y de expresión, la libertad de pensamiento y el derecho a la igualdad y a no sufrir discriminación.

El algoritmo de YouTube determina qué vídeo se reproducirá a continuación, mientras que el de Facebook determina el contenido de nuestros feeds y los anuncios que se nos presentarán. Con mucha frecuencia este algoritmo aumenta la desinformación y el contenido disgregador, exacerba el racismo e incluso influye en nuestras creencias y opiniones.

El documental de Netflix revela cómo en Silicon Valley equipos formados principalmente por hombres blancos tienen encomendada explícitamente la tarea de explotar las vulnerabilidades de nuestra psicología humana: nuestra naturaleza adictiva, nuestra necesidad de aprobación social y nuestra tendencia hacia el contenido incendiario y sensacionalista. Y esto precisamente porque estas empresas descubrieron que ésa es la mejor manera de mantener a la gente conectada durante más tiempo, conseguir más y más datos y hacer mejores predicciones sobre ella y sacar beneficios de venderle anuncios.

Dicho de otra forma, todo el ecosistema de información que actualmente se presenta a un tercio de la población del planeta no está configurado para servirnos, sino para manipularnos y utilizarnos. Los servicios de Facebook y Google son aparentemente “gratuitos”, pero, como dice en el documental Tristan Harris, que fue diseñador de Google, “si no pagas por el producto, el producto eres tú”. Y la predominancia de las plataformas de estas empresas hace que en la práctica sea imposible conectarse actualmente a Internet sin “aceptar” su modelo de negocio basado en la vigilancia.

Aunque según el documental esto es el “dilema de las redes”, no tiene por qué ser en absoluto un dilema. A pesar de lo que nos han hecho creer, Internet no tiene necesariamente que depender de la vigilancia. Las personas que se registraron en plataformas cuando éstas respetaban mucho más la privacidad, o antes de que las comprara Facebook o Google, se enfrentan ahora a tener que elegir entre dejar un servicio del que dependen o someterse a una vigilancia constante. Una elección que no es —ni debe ser— legítima.

Necesitamos urgentemente que los gobiernos reaccionen e introduzcan normativas para reformar ese modelo de negocio y proteger nuestros derechos. Se trata de un problema sistémico y estructural que no será fácil resolver y exigirá una combinación de soluciones políticas, legales y estructurales.

Los esfuerzos por fijar unos límites mucho más estrictos al rastreo y el uso de datos personales no serán suficientes si no abordan el problema de la gran concentración de información —y poder— que hay en manos de Facebook y Google. Al mismo tiempo, las voces —cada vez más numerosas— que desde el ámbito político, jurídico y académico proponen que las grandes empresas tecnológicas deben “disgregarse” no resolverán los abusos sistémicos contra los derechos humanos a menos que presionen para que se tomen medidas que aborden holísticamente el propio modelo de negocio basado en la vigilancia.

Ningún enfoque funcionará aisladamente, ni nadie puede resolver el dilema de las redes en solitario. Necesitamos liderazgo y una actuación urgente de nuestros gobiernos para que nos protejan de los abusos de estas grandes empresas tecnológicas.