La discriminación algorítmica de género describe cómo ciertas herramientas de IA pueden tener un sesgo perjudicial contra ciertos grupos en función de su género. Con o sin intención, los sesgos existentes pueden integrarse en estos sistemas.

Los algoritmos de aprendizaje automático procesan grandes cantidades de datos y se basan en información precisa al igual que la inteligencia humana. Son los humanos quienes generan, recopilan y etiquetan los datos que se incluyen en los conjuntos de datos, y son los humanos quienes determinan de qué conjuntos de datos, variables y reglas aprenden los algoritmos para hacer predicciones. Ahí yace el problema. Según un artículo de Stanford Social Innovation Review, «ambas etapas pueden introducir sesgos que se incrustan en los sistemas de IA».