ALGORITMOS Y GÉNERO: PROGRAMANDO LA NUEVA ECONOMÍA DIGITAL

Economista, miembro del grupo de expertos de la Comisión Europea sobre el futuro del trabajo

Los algoritmos no se ven pero son una realidad con la que ya convivimos. Hay de todo tipo: están los que ordenan facturas, calculan el stock de un almacén o el tiempo de sueño REM que has tenido esa noche. También los que sugieren música en Spotify, películas en Netflix o sentencias judiciales en Estados Unidos. Están por todas partes, igual que la desigualdad de género. Las mujeres, desde el principio de los tiempos, y a lo largo y ancho del planeta, sufrimos discriminación en casi todos los ámbitos: en salud, en educación, en cultura, en mercado laboral o en la representación política, por mencionar algunos de ellos. La igualdad entre hombres y mujeres es algo irrenunciable. Ha de ser un principio básico de la democracia y el nuevo espacio de reivindicación de la igualdad debe ser la tecnología, pero ¿cómo podemos garantizar que la economía digital de este tiempo no replique, potencie o extienda esa discriminación?

Simplificando, los algoritmos son un conjunto de instrucciones (fórmulas matemáticas) que usan gran cantidad de datos (pasados) para aprender una determinada tarea o predecir un patrón concreto. Son diseñados y programados por personas. Deciden quién aparece en las primeras páginas de Google cuando buscas un término; con qué fotos se asocian las palabras que has introducido; deciden la información que lees en tu muro de Facebook, las noticias de tu feed o los tuits que aparecen en tu pantalla. Vemos el mundo a través de los contenidos que seleccionan algoritmos. Pero van más allá: filtran solicitudes de empleo; hacen que los coches sin conductor puedan moverse por las calles; determinan dosis de medicación; o tu idoneidad para recibir un crédito (también su importe). La policía los usa para identificar denuncias falsas o predecir comportamientos delictivos; los sospechosos ahora se buscan a través de reconocimiento facial. Hay un sinfín de casos de uso. Lo importante es comprender que cada vez más aspectos de nuestra vida dependen de lo que decidan estos programas, así que debemos asegurar que estas decisiones no sean discriminatorias.

Por desgracia, aún no hemos llegado a ese punto. El último informe sobre brecha de género del Foro Económico Mundial afirma que solo un 22% de los profesionales de Inteligencia Artificial (AI) en todo el mundo son mujeres. Entre los desarrolladores también cuesta encontrarlas, solo son el 11% del total. La brecha del siglo XXI es la brecha de código. Nuestro futuro digital está siendo creado por hombres y para hombres. Se olvidó incluir a la mitad de la población en el diseño de la nueva era, y el boom algorítmico, sin ningún tipo de control, ha replicado todos los sesgos existentes en nuestra sociedad. El problema no es la tecnología sino el uso que se hace de ella. La responsabilidad no es del algoritmo. ¿De quién es entonces?

El machismo algorítmico está ahí. Recientemente, el Departamento de Servicios Financieros de Nueva York ha abierto una investigación a Goldman Sachs por posible discriminación de género en sus tarjetas Apple Card. Se ha demostrado que el algoritmo asignaba hasta 20 veces menos crédito a una mujer que a su marido, por el mero hecho de ser mujer, ya que el resto de indicadores financieros eran más favorables a la mujer. Es también conocido el caso del asistente de selección de personal que consideraba mejores candidatos para posiciones técnicas o de responsabilidad a hombres; o el que diagnostica enfermedades cardiovasculares y según el informe “Closing Gap” comete persistentemente errores de tipo II (falsos negativos) con las mujeres.

Cuando no se establecen fórmulas para detectar y neutralizar los sesgos en los datos o en el diseño de los propios algoritmos se refuerzan los estereotipos, se perpetúan los roles de género y los desequilibrios de poder históricos que han hecho que las mujeres partamos de una situación de desventaja, siendo sistemáticamente penalizadas por nuestra propia condición.

El progreso nos lleva hacia un mundo digitalizado y sin embargo no somos conscientes de que lo estamos construyendo desde la misma visión androcéntrica de la que venimos. Hablamos de decisiones que penalizan por razón de género y afectan a ámbitos vitales como la capacidad económica, el trabajo o la salud. A medida que se nos algoritmiza la vida, el riesgo es mayor, porque el poder de los algoritmos es también mayor. Debemos programar la igualdad en los cimientos de la economía digital para no volver a cometer los errores del pasado y dejar fuera a la mitad de la población. No hay alternativa.