Los productos que se están desarrollando parecen cometer los mismos errores de la sociedad humana. ¿Tendremos que lidiar con IA con los mismos sesgos de la humanidad?

Muchas veces nos preguntamos qué nos depara el destino, y si en algún momento algo se nos escapará de las manos y los robots conseguirán el dominio total del mundo. La propuesta puede sonar algo exagerada. Lo que sí puede preocupar, al menos por ahora, es la dirección hacia donde van las nuevas creaciones tecnológicas.
En un mundo dónde los temas de género aún no han sido totalmente resueltos, algunos algoritmos en ocasiones incluyen errores que forman parte de la propia sociedad. Existe un sesgo social que está siendo implantado en las nuevas tecnologías. Es decir, estamos creando IA distorsionada, o al menos así lo indica la Unesco en la tercera edición 2018 de El Correo de la Unesco.

Estos algoritmos son creados con información ya existente, por lo cual se pueden ver directamente influenciados. Por ejemplo, en Wikipedia entre el 8,5% y el 16% de los artículos están escritos por mujeres y un 30% de los artículos sobre mujeres, hablan de ellas como hermana, esposa… en relación a alguien más, así lo asegura los datos difundidos por Sue Gardner, exdirectora de la Fundación Wikimedia.

Otro claro ejemplo son los asistentes de voz, que en gran mayoría están creados con voces femeninas y nombre de mujer. Por su parte,  la definición de mujer podría determinarse a través de una nube de tags, encontrando las palabras más repetidos con ellos y ellas:

  • Los términos que ellas tienen en su campo: feminista, actriz, reina, hermanas, señorita, perlas, novias, abuelas, hijas o bailarinas.
  • En cuanto a ellos, las palabras más repetidas son: genio, gurú, brillante, hermanos, sobrinos o barba.

Amazon, una de las grandes del comercio electrónico, terminó desechando un algoritmo construido por ellos mismos. La función mostraba una preferencia clara por los candidatos masculinos y penalizaba los CV que incluían palabras en femenino.

Lo importante son las iniciativas que hacen frente a esta situación, que parece transformarse cada vez más en una tendencia. Adalab, por ejemplo, es un programa que impulsa a mujeres jóvenes con dificultades de empleabilidad para que se conviertan en programadoras.

No te pierdas el B2B sales, deja tus datos en el siguiente formulario para recibir más información: