¿Amenazan los algoritmos la libertad de expresión?

Danny O'Brien es director de estrategia de la Electronic Frontier Foundation, una de las organizaciones sin ánimo de lucro más importantes y longevas en la defensa de las libertades civiles en el mundo digital.

La EFF trabaja desde 1990 en la intersección entre regulación, tecnología y derechos humanos, y también lo hace O'Brien: "Si realmente quieres cambiar las cosas en la dirección correcta, tienes que anticiparte a los cambios tecnológicos y sociales antes de que se produzcan".

Como tal, la EFF asesoró e informó a los jueces de lo que era el correo electrónico en 1990, de cómo funcionaba la web en 1994, de la importancia de la encriptación en 1998, de los retos a los que se enfrentarían las industrias de la música y los medios de comunicación a principios de la década de 2000 y del desastre en materia de privacidad que nuestros grandes gigantes tecnológicos, como Facebook y Google, han provocado desde antes de alcanzar su dimensión actual.

¿Aumenta Internet la polarización y el extremismo?

Si se observan las métricas independientes que hacen seguimiento de la polarización en Estados Unidos, por ejemplo, no hay un gran aumento con la introducción de Internet, sino que se trata de una línea ascendente desde los años ochenta. Esto implica que lo que está provocando el aumento de la polarización ya existía antes de Internet.

Tampoco parece aplicar a todos los países. Definitivamente se puede ver a líderes autoritarios o populistas aprovechando Internet en todo el mundo, al igual que hicieron con la radio y la televisión cuando eran nuevas, pero, de nuevo, hay muchos estados que no muestran tal reacción.

La teoría con la que trabajo es que más fuentes de información ha llevado a la ampliación de las opiniones expresadas. La gente puede atascarse fácilmente cuando recibe tanta información pensando que está viendo el mundo entero, cuando sólo está viendo una parte distorsionada de él.

También podría ser que las políticas y modelos de negocio de las empresas de redes sociales hayan acelerado esta tendencia: de nuevo, tiene sentido para mí (y para muchos otros críticos), pero me gustaría tener más datos en los que basarme.

Los gobiernos de todo el mundo recurren cada vez más a las plataformas privadas de Internet como reguladores de facto de la expresión de los internautas. De hecho, el Ministerio de Justicia de Alemania tiene previsto obligar a las plataformas a denunciar de forma proactiva los casos graves de incitación al odio a las fuerzas del orden. El primer borrador de la Ley Avia de Francia establecía la obligación de las plataformas de retirar los contenidos "explícitos" de odio señalados por los usuarios en un plazo de 24 horas, arriesgándose a recibir multas si no lo hacían, pero posteriormente se consideró inconstitucional. ¿Cuál es su opinión sobre este tipo de regulación?

A pesar de los retos a los que nos enfrentamos, creo que es una idea terrible. Estamos en un punto en el que estas grandes empresas tecnológicas ocupan un lugar tan central en Internet, y en la mente de los políticos, que incluso las regulaciones que se supone  limitan su daño reflejan la propia visión de las empresas sobre cómo funciona  Internet.

Mark Zuckerberg insiste constantemente en que Facebook funciona muy bien moderando a miles de millones de usuarios en todo el mundo, cuando todo indica que cometen errores constantemente, a veces con terribles consecuencias.

El enfoque de Alemania y Francia es decir «hagan lo que están haciendo, más rápido». Todo lo que hacen es cimentar la posición permanente y central de estas empresas en los estados democráticos; así, los políticos apuntalan a las empresas de redes sociales que dicen estar cumpliendo la voluntad del político, y excluyen a la potencial competencia  y a otras políticas diferentes y mejores sobre cómo podemos lidiar con el discurso no deseado en línea.

Como respuesta a la presión a la que se han visto sometidas, las plataformas han empezado a eliminar el discurso político, los vídeos publicados por organizaciones de derechos humanos y las discusiones de los usuarios sobre temas religiosos islámicos con el fin de combatir el extremismo violento. ¿A qué puede llevar esto?

A nada bueno. Seamos claros, cuando estamos intentando vigilar el discurso de miles de millones de personas, hay que automatizarlo (o bien crear una economía parecida a la de Stasi, en la que un porcentaje considerable de la población modere de algún modo al resto).

Pero los algoritmos no son capaces de captar las sutilezas del discurso político: la diferencia contextual entre, por ejemplo, imágenes de extremismo violento y alguien que documenta el extremismo violento, o la desnudez artística y la desnudez obscena o la desnudez educativa. Dado el ínfimo porcentaje de contenidos en línea y fuera de ella producido por extremistas, incluso la más mínima posibilidad de un falso positivo implicará censurar a miles de opinadores inocentes.

El problema fundamental es la incapacidad de las grandes empresas tecnológicas de valorar de manera realista y efectiva su capacidad para moderar el discurso, que es básicamente lo que nos ha metido en este lío. Confiar en ellas para la solución es bastante retrógrado. Aplicar los mismos filtros al discurso de todo el mundo va a tener, como mínimo, un efecto distorsionador, independientemente de cómo se ejecute.

¿Cómo afecta la moderación de contenidos actual al activismo online?

Una de mis primeras interacciones con Facebook fue en 2008 o 2009, cuando cerraron un grupo de Facebook de apoyo al movimiento democrático en Hong Kong, con cientos de miles de miembros.

Estoy seguro de que se marcó erróneamente debido a una serie coordinada de quejas falsas de nacionalistas chinos. Unos años más tarde, Facebook estuvo a punto de influir seriamente en la trayectoria de la Primavera Árabe en Egipto cuando eliminó la cuenta del principal grupo organizador de la oposición justo antes de una gran protesta: estoy seguro de que fue accidental, pero esto no lo hace mejor.

Los activistas son especialmente vulnerables a los errores de estos sistemas, porque tienen adversarios dispuestos a jugar y manipular el sistema de marcado de Facebook para silenciarlos. Y su trabajo a menudo se encuentra en la línea entre lo que es aceptable y lo que es demasiado impactante o provocativo para cumplir con las condiciones de servicio de las empresas de medios sociales.

¿Cómo pueden los gobiernos regular y equilibrar la lucha contra la desinformación, la incitación al odio y la calumnia por un lado y el derecho a la libertad de expresión por otro?

Creo que es un error preguntarse cómo pueden los gobiernos regular estos problemas, cuando son cuestiones que la sociedad busca equilibrar constantemente y con las que hemos lidiado durante mucho tiempo.

Durante mucho tiempo se ha considerado Internet como un lugar sin ley, tanto, que el instinto natural es compensar introduciendo nuevas y brillantes leyes específicas para dicho entorno.

Sin embargo, cada vez es más obvio que lo que se necesita es más bien la aplicación justa y efectiva de la normativa existente, utilizando todas sus características procesales, controles y equilibrios. Creo que si los gobiernos dedicasen el mismo tiempo a actualizar el sistema judicial y de investigación penal para que adaptarlos a la era digital, podríamos descubrir que nuestras viejas leyes contienen suficiente sabiduría y vigor para abordar estas nuevas iteraciones de problemas antiguos.

¿Por qué es importante proteger la libertad de expresión en línea?

Creo que una de las consecuencias del crecimiento del entorno digital es que la protección de la libertad de expresión se ha vuelto mucho más importante, en lugar de más problemática.

Una gran parte de nuestra vida discurre ahora en conversación, en lectura y escritura, en desplazamientos, chats de audio, salas de vídeo y buzones de mensajes: todo ello a través de nuestras facultades de expresión.

La libertad de expresión, y sus límites, afectan a una parte mucho mayor de nuestra que nunca antes. Creo que esto significa que tenemos que abordar las consecuencias de tal expansión a nivel humano: crear y apoyar un mundo digital que sea tan variado y complejo como las conversaciones que mantenemos en él.

Una sola medida no sirve para todos: especialmente cuando esa medida parece que la establecen un puñado de empresas y países, que moderan y regulan el discurso de la mayor parte del mundo.