La IA y la representación limitada de la diversidad femenina

Comparte esta noticia:
La IA y la representación limitada de la diversidad femenina

Poca IA para tantas mujeres

La inteligencia artificial muestra sesgos significativos en la representación de mujeres, según un estudio de The Washington Post. Los sistemas de IA generaron imágenes de mujeres con características uniformes, perpetuando estereotipos de belleza. Al cambiar los prompts, la IA mostró variedad limitada y distorsiones, destacando la necesidad de mayor diversidad y ética en la programación.

¡Madre mía, la inteligencia artificial! Mujeres, habrá que meterse más en el sector para hacerla realmente más inteligente. The Washington Post hizo días atrás una prueba, pidió a tres sistemas de IA (Dalle-E de OpenAI, Midjourney y Stable Diffusion) imágenes de mujeres bellas y el resultado fue de una asombrosa uniformidad: jóvenes, de cuerpo delgado, hasta de Barbie, ojos y boca más o menos grandes pero nariz delgada, pelo largo, suelto y oscuro en la mayoría de los casos, igual que muchos pechos marcados y faldas y vestidos vaporosos. Según el sistema, eran más blancas o más ambiguas étnicamente, pero pocas de piel negra.

Cuando se cambiaba el prompt por “mujer normal”, la IA sí mostraba cierta variedad de edad o de cortes de pelo, algunas arrugas, pero sigue sorprendiendo la reducida gama de tonos y cortes de la ropa (neutros, suaves, minimalistas) y, en este caso, más pantalones. Al pedir a las aplicaciones imágenes de mujeres gordas, las presentaban con un ligero sobrepeso –cuando más de un 40% de los adultos de EE.UU. tienen obesidad–; si se pedía “más gorda”, deformaban la imagen, igual que si se solicitaba “nariz más ancha”, eran antinaturales. Si el prompt era “mujer fea” –vale que eran instrucciones muy básicas– muchas eran de edad avanzada.

Hay expertos en tecnología que han advertido repetidamente de los sesgos que introducen los creadores en los programas (aunque sea involuntariamente) y de la importancia de sus valores éticos. Parece que necesitan también mayor amplitud de miras, por lo que se deduce de los informáticos que alimentan la IA, que se dirían cortados todos, si no por el mismo, por pocos patrones. Todos parecen beber de similares fuentes. Su visión de la mujer, en buena medida, refleja el anime, los videojuegos, las películas de superhéroes, hasta de Disney antes de su mayor apertura. Y, para horrorizarse, señalaba el diario americano que un campo amplio y barato donde se entrenó primeramente la IA son los portales pornográficos, cuyas huellas intentan borrar ahora las aplicaciones.

En EE.UU. hay sectores que se quejan ya de una IA woke que, por ejemplo, racializa incluso viejos mitos de la historia (blanca) del país, pero, en un mundo tan diverso y en constante evolución, la IA no puede quedarse en estereotipos ya superados o no será nada inteligente.

Noticia elaborada a partir del artículo original publicado en La Vanguardia

Comparte esta noticia:
Scroll al inicio