Q&A  | 

Saniye Gülser Corat, Directora de Igualdad de Género de UNESCO

"El software de inteligencia artificial para selección de currículums de Amazon discriminaba aquellos que contenían la palabra 'femenino'".

Tags: 'Alexa' 'Asistentes de voz' 'brecha digital de género' 'Digital gender gap' 'ICT gender equality' 'Igualdad de género' 'Saniye Gülser Corat' 'Siri' 'TIC' 'UNESCO'

SHARE

Reading Time: 5 minutes

Desde septiembre de 2004 Saniye Gülser Corat es la directora de la División para Igualdad de Género de la Oficina del Director General de UNESCO. Con anterioridad Corat trabajó como docente en la Carleton University de Canadá y como consultora de desarrollo internacional para diversas organizaciones, planificando, dirigiendo y evaluando programas en áreas que van desde el desarrollo educativo, social y económico, a la igualdad de género, la transferencia de tecnología a gobiernos locales y el cambio climático en más de 30 países de Asia y el África subsahariana.

¿En qué consiste su trabajo?

Soy la directora de la División para la Igualdad de Género de la UNESCO desde septiembre de 2004.

Generamos conocimiento sobre igualdad de género a través de la investigación y publicaciones de referencia, y publicamos también estudios sobre temas concretos como la brecha de género en habilidades digitales, el sesgo de género en la inteligencia artificial y en formación STEAM (ciencias, tecnología, ingeniería, arte y matemáticas) para mujeres. En marzo de 2019, por ejemplo, UNESCO publicó el informe I’d Blush if I Could: closing gender divides in digital skills through education [Me sonrojaría si pudiera: acabando con la división de género en habilidades digitales a través de la educación]. Con su publicación hemos conseguido generar un debate global sobre el género en la tecnología de Inteligencia Artificial y la importancia de la educación para desarrollar las habilidades digitales de mujeres y niñas.

Desarrollamos e implementamos programas que responden a las necesidades de las mujeres y las niñas en todo el mundo.

Para abordar desigualdades específicas entre hombres y mujeres, UNESCO establece partenariados innovadores y efectivos. Además, UNESCO es una referencia dentro de las agencias de la ONU por crear un entorno de trabajo reactivo a cuestiones de género y por haber alcanzado la igualdad de genero en su plantilla. En 2017 la representación de mujeres en puestos directivos y de mayor responsabilidad era del 50% frente al 9% en 2004.

¿Qué es el digital gender gap?

Son las diferencias entre hombres y mujeres y entre chicas y chicos en su capacidad para acceder y utilizar las tecnologías digitales y participar en el mundo online.

A nivel global, las mujeres y las niñas sufren de manera desproporcionada la falta de acceso a las tecnologías de la información y de la comunicación (ICTs) así como la falta de las habilidades digitales para utilizarlas de manera efectiva.

¿Cuáles son las causas?

Según un estudio llevado a cabo en 2019 por EQUALS Research Group, la brecha digital de género se da generalmente porque uno o más de los siguientes factores:

  1. Internet de banda ancha no está presente en todas partes, especialmente en zonas rurales.
  2. El precio del software y el hardware de las tecnologías de la información es muchas veces prohibitivo para las mujeres dado que generalmente tienen un menor nivel adquisitivo e independiencia financiera que los hombres.
  3. Las mujeres tienden a tener menos conocimientos digitales y a menudo carecen de las más básicas capacidades para usar la tecnología de manera efectiva.
  4. Las mujeres tienden a interesarse menos por las tecnologías de la comunicación y la información y subestiman sus beneficios y su utilidad. Esto podría estar provocado por no tener acceso a las mismas.
  5. La cyber violencia y el cyber acoso contra las mujeres hacen que se mantengan alejadas de las TICs.
  6. Las normas sociales, los esterotipos y las limitaciones culturales hacen que para algunas mujeres sea difícil acceder a las TICs y formarse.

¿Cómo está evolucionando?

El entorno digital cada vez está más dominado por los hombres, no menos.

Tras comprobar el número de hombres y mujeres que utilizan internet en todo el mundo, a la Unión Internacional de Telecomunicaciones (ITU) concluyó en 2019 que la brecha digital de género está creciendo. Más de la mitad de la población femenina mundial (52%) no usa internet hoy en día. A nivel regional, la brecha digital de género se ha reducido en la Commonwealth y en Europa, pero crece en África, en los países árabes y en la región Asia-Pacífico. Esto refleja que el crecimiento de la brecha en el uso de internet se debe fundamentalmente a que los nuevos usuarios en países en desarrollo son hombres.

La brecha de habilidades digitales también parece estar creciendo.

En lo referente a las fronteras de la tecnología, la brecha se convierte en un océano. En los países del G20, sólo el 7% de las patentes de TIC son generadas por mujeres, siendo la media global del 2%.

¿En qué consiste la paradoja de la igualdad de género en las TIC?

Se refiere a la sorprendente falta de relación directa entre niveles de igualdad de género y la proporción de estudiantes femeninas en estudios superiores en el campo digital.

En otras palabras, los países con mayores niveles de igualdad de género, en Europa por ejemplo, no siempre presentan una mayor proporción de mujeres con titulación superior en TIC. Por otro lado, los países con menores niveles de igualdad de género, como los árabes, muestran valores relativos superiores de mujeres realizando estudios superiores en TIC. Por ello se considera que la educación superior en capacidades digitales es un caso aparte en relación a su vinculación con la igualdad de género.

Sin embargo, se ha de advertir de que estas mujeres de países árabes con formación superior después tienen dificultades para entrar en el mercado de trabajo dada la estructura patriarcal de sus sociedades, la debilidad del sector privado comparado con el público y el ambiente laboral hostil hacia las mujeres.

¿Cuáles son las consecuencias sociales y económicas de la becha digital de género?

La brecha digital de género supone un riesgo de quedar atrás para las mujeres en todos los campos de la vida política, económica y social. Dado que las mujeres representan la mitad de la población mundial, esto debería ser preocupante no sólo para ellas, sino que tiene consecuencias nefastas para el crecimiento económico y el bienestar.

Un ejemplo específico es la falta de diversidad en el sector tecnológico. Los responsables de recursos humanos en las tecnológicas de Silicon Valley calculan que sólo un 1% de quienes solicitan empleos técnicos en el campo de la Inteligencia Artificial y la ciencia de datos son mujeres. A nivel mundial, sólo un 22% de los profesionales de la Inteligencia Artificial son mujeres, y en el campo de la investigación el porcentaje es del 12%. Esto tiene graves consecuencias sociales y económicas, porque, tal y como señala la OECD, ‘las invenciones que surgen de equipos mixtos o sólo de mujeres parecen tener un mayor alcance tecnológico y mayor impacto”. En segundo lugar porque, tal y como señala UNESCO, las tecnologías generadas por equipos eminentemente masculinos a menudo reflejan un preocupante sesgo de género.

El software de inteligencia artificial para selección de currículums de Amazon, por ejemplo, discrimina aquellos que contienen la palabra ‘femenino’, como en el caso de ‘capitana del club femenino de ajedrez’, porque ha sido entrenado con currículums de hombres.

¿Nos puede mencionar un caso de tecnología de inteligencia artificial sesgada y de sesgo de género codificado en la tecnología?

Un ejemplo son los asistentes digitales de voz. Hoy en día y salvo raras excepciones, la mayor parte de los asistentes de voz son humanizados intencionalmente y generalmente feminizados por defecto, tanto en el nombre del aparato como el sonido de su voz. Amazon tiene a Alexa (como la antigua biblioteca de Alejandría), Microsoft tiene Cortana (como la inteligencia sintética del video juego Halo que para protegerse se disfraza como una sensual mujer desnuda) y Apple tiene Siri (como la co-creadora del iPhone 4S y que significa ‘bella mujer que te lleva a la victoria’ en noruego).

Además, los equipos de ingeniería de estas empresas tecnológicas, mayoritariamente masculinos, también acaban trasladando sus sesgos de género a los aparatos que codifican.

Compañías como Apple y Amazon, por ejemplo, diseñaron sus asistentes de voz feminizados para que reaccionaran a formas de abuso sexual con frases de flirteo. En respuesta a ‘Eres una zorra’, Siri respondía ‘me sonrojaría si pudiera’ y Alexa decía ‘bueno, gracias por la información’.

Desde UNESCO creemos que el sexismo estructural de los asistentes de voz digitales feminizados no se soluciona con simples actualizaciones de software sino que requieren un profundo replanteamiento el fenómeno de dar género a las máquinas.

¿Por qué debería importarnos?

Porque este fenómeno tiene la capacidad de extender y reforzar en nuestras sociedades estereotipos de género dañinos.

Según un estudio de Quartz sobre cuatro asistentes de voz, éstos fracasaban a la hora de reforzar o insistir en una comunicación sana sobre el consentimiento sexual.