Retratos sonoros para entender los algoritmos que nos afectan
El sector público está en plena transformación. Hasta hace poco, todas las tareas y decisiones dentro de la administración recaían sobre seres humanos. Pero en los últimos años gobiernos de todo el mundo han integrado sistemas automatizados en sus procesos de trabajo.
Sin embargo, el uso de algoritmos y de Inteligencia Artificial en este sector suele pasar desapercibido para la ciudadanía. Estos sistemas son en ocasiones difíciles de ver y entender. Pero sus efectos sobre la sociedad son, en cambio, muy reales: su buen o mal desempeño tiene consecuencias directas sobre la vida de las personas.
Con este podcast queremos explorar varios algoritmos que el sector público español viene utilizando desde hace tiempo. Sistemas con propósitos muy diferentes y que reflejan los muchos retos que estas soluciones tecnológicas tienen por delante. Pero también los potenciales riesgos que implican si no se diseñan e implementan del modo adecuado.
Prólogo
Los Podcasts
Capítulo 1. RisCanvi (I): el algoritmo de la cárcel
¡Escúchalo ya! Desde hace más de una década en las cárceles de Cataluña se usa un algoritmo decisivo para el transcurrir de cualquier persona que entra en prisión. En 2008 un grupo de investigadores sobre violencia comenzó a diseñar RisCanvi.
Capítulo 2. RisCanvi (II): ¿Se puede predecir el próximo delito?
¡Escúchalo ya!Riscanvi está en parte inspirado en otros software que llevan años usándose en el extranjero, como el COMPAS o el OASys. Dichos algoritmos levantaron un gran revuelo al descubrirse que en algunos casos discriminaban en sus decisiones
Capítulo 3. BOSCO y el bono para pagar la luz
¡Escúchalo ya!
La subida del precio de la luz se ha convertido en un auténtico problema para muchas familias en España. Con el fin de ayudar a los hogares más vulnerables, el Gobierno creó hace años un bono social que subvenciona, en parte, el pago de la factura de la luz.
Capítulo 4. VioGén, el software contra la violencia machista
¡Escúchalo ya!
VioGén incorpora un algoritmo que trata de predecir el riesgo que corre la mujer que va a denunciar, además de sus hijos. Lo hace a partir de la información que la víctima comparte con el agente y de otros datos en manos de la policía.
Capítulo 5. SALER y los algoritmos contra la corrupción.
¡Escúchalo ya!
En Valencia, en 2018, el parlamento autonómico aprobó la creación de un sistema automatizado para detectar indicios de fraude dentro de la administración valenciana. Esta herramienta, conocida como SALER, pretendía por medio de una serie de algoritmos adelantarse a potenciales casos de corrupción.
Capítulo 6: Epílogo: ¿Cómo construir algoritmos para el bien común?
¡Escúchalo ya!
En este capítulo final abrimos un espacio para la reflexión sobre hacia dónde va esta automatización del sector público. También profundizamos en cuestiones como los límites éticos y democráticos de los algoritmos; la necesidad de tratar de mitigar los sesgos inherentes a estos sistemas; o los retos de los gobiernos al gestionar sociedades cada vez más complejas y repletas de datos.
El uso de algoritmos predictivos en el ámbito penal y penitenciario genera muchas dudas entre algunos expertos
La cuestión de la transparencia (o la falta de ella) es otro de los grandes temas al hablar de Inteligencia Artificial.
La asignación de ayudas públicas es una de las áreas del sector público donde más ha crecido el uso de sistemas automatizados.
Creadores
Tanya Álvarez
Pablo Jiménez Arandia
