¿En qué casos de discriminación en sistemas sociales digitales están trabajando?
¿Qué entendemos por Estado de Bienestar Digital?
¿Cuál es el impacto de la digitalización del estado de bienestar en la sociedad?
¿Qué está tratando de lograr la digitalización de los sistemas de bienestar social en todo el mundo?
¿Puede darnos un ejemplo de un caso de éxito?
¿Cómo podemos estar seguros de que el estado de bienestar digital es igualitario en términos de género?
¿Cómo podemos ayudar al sistema a conseguir un escenario diverso en términos de género y no simplemente reproducir el existente?
Christiaan van Veen es el director del Proyecto de Derechos Humanos y Estado de Bienestar Digital en New York University Law. El Proyecto se creó en 2019 para avanzar en la comprensión del advenimiento del estado de bienestar digital y sus implicaciones para los derechos humanos. También trabaja como Asesor Especial sobre nuevas tecnologías y derechos humanos del Relator Especial de las Naciones Unidas sobre pobreza extrema y derechos humanos.
¿En qué casos de discriminación en sistemas sociales digitales están trabajando?
Hemos trabajado junto con el Relator Especial de las Naciones Unidas sobre pobreza extrema y derechos humanos en la demanda a los Países Bajos en el caso SyRi (System Risk Indication). También en la defensa de los derechos humanos en la implementación del sistema nacional de identificación biométrica en Irlanda. Por otro lado, organizamos eventos sobre estos temas, siendo el último uno sobre Tecno-Racismo y Derechos Humanos. El año que viene nos centraremos, entre otros temas, en los sistemas de identificación digital en África y su impacto en la exclusión social y las violaciones de derechos humanos mediante investigaciones, talleres y otras actividades en los propios países.
¿Qué entendemos por Estado de Bienestar Digital?
Acuñamos el término ‘estado de bienestar digital’ en una visita al Reino Unido con el entonces relator especial de la ONU sobre pobreza extrema y derechos humanos, Philip Alston, a final de 2018.
Estábamos investigando un sistema llamado ‘Crédito Universal ‘ en el Reino Unido, una fusión de 6 subsidios existentes en un único y nuevo sistema que fue el primer servicio gubernamental importante en convertirse en’ digital por defecto ‘. Descubrimos que el Crédito Universal era parte de una tendencia de transformación, a través de la innovación digital, de sistemas de bienestar para los pobres así como de una gama más amplia de derechos y servicios sociales y otras intervenciones gubernamentales.
¿Cuál es el impacto de la digitalización del estado de bienestar en la sociedad?
Es algo que afecta no sólo cómo el gobierno opera internamente (por ejemplo, a través de automatización de los procedimientos de toma de decisiones), sino también la forma en que los ciudadanos interactúan con el gobierno (con la interacción cada vez más mediada a través de tecnologías digitales).
La digitalización del estado de bienestar, y del estado en general, es un proceso que ha tenido lugar durante muchas décadas en el Reino Unido y en otros lugares, pero en los últimos años hay un número creciente de ejemplos de cómo esto está afectando directamente a las personas y sus derechos humanos. En parte, esto puede explicarse por una mayor atención por parte de las organizaciones de derechos humanos y otras organizaciones de la sociedad civil, pero creo que también refleja un cambio en la forma en que operan los gobiernos. El informe a la Asamblea General de la ONU, mencionado anteriormente, rastrea esos desarrollos en países de todo el mundo.
¿Qué está tratando de lograr la digitalización de los sistemas de bienestar social en todo el mundo?
Los argumentos a favor de la digitalización del estado de bienestar y del estado en general son específicos del contexto y del país, pero a través de mi investigación he encontrado muchos argumentos similares a favor del estado de bienestar digital.
Una es que la digitalización facilita la vida de quienes solicitan prestaciones, buscan atención médica, asistencia social, etc. Los gobiernos y actores destacan los beneficios de una experiencia de usuario que se asemeja a los servicios de Big Tech. Otro argumento destacado es que la digitalización hace que la gestión de un gobierno sea más barata y más empresarial, por ejemplo, porque las nuevas tecnologías permiten a los gobiernos ejecutar procesos de manera más eficiente o dirigir sus esfuerzos de manera más racional. Estos son objetivos admirables, por supuesto, y ciertamente hay ejemplos de éxito.
¿Puede darnos un ejemplo de un caso de éxito?
En mi país de origen, los Países Bajos, por ejemplo, ahora es posible presentar los impuestos sobre la renta en línea con relativa facilidad, lo cual es una gran ventaja. Sin embargo, también vemos que estos desarrollos son desventajosos para ciertos grupos, a menudo aquellos con ingresos más bajos o grupos que son más a menudo víctimas de discriminación.
Los Países Bajos también son un ejemplo de ello, pues el gobierno analizó vecindarios pobres principalmente de grandes municipios para predecir la probabilidad de fraude en subsidios individuales a través de un modelo algorítmico.
¿Cómo podemos estar seguros de que el estado de bienestar digital es igualitario en términos de género?
Es importante, en primer lugar, que aquellos individuos que se deciden por la digitalización en el estado del bienestar, los que diseñan sistemas digitales y los operan, no sean completamente diferentes de aquellos que utilizan estos sistemas y se ven afectados por ellos.
Si dejamos que los hombres construyan los sistemas que utilizan las mujeres, es probable que el resultado no sea óptimo para lograr la igualdad de género.
Otro factor importante es garantizar que las mujeres sean consultadas en profundidad desde la fase de desarrollo hasta el despliegue de la innovación digital gubernamental que puede afectar sus derechos.
Y finalmente, otro factor importante es asegurar que los resultados de un sistema en términos de igualdad de género sean medibles y monitoreados para permitir que un cambios o incluso su eliminación.
¿Cómo podemos ayudar al sistema a conseguir un escenario diverso en términos de género y no simplemente reproducir el existente?
La digitalización del estado de bienestar es, en última instancia, un desarrollo impulsado por objetivos políticos. Al final, siempre hay una agenda política involucrada en la transformación digital del gobierno. Eso no es bueno ni malo, es simplemente una circunstancia relevante.
Aquellos que se preocupan profundamente por lograr la igualdad de género deben participar en debates políticos y de otro tipo sobre la forma y la manera del estado de bienestar digital del futuro para llevar las cosas en la dirección correcta. El trabajo de Digital Future Society es un buen ejemplo de ello.