Un estudio de la Unesco revela “un prejuicio contra las mujeres” en las herramientas de IA como ChatGPT o Llama2

Comparte esta noticia:
Un estudio de la Unesco revela “un prejuicio contra las mujeres” en las herramientas de IA como ChatGPT o Llama2

Un reciente estudio de la Unesco ha puesto en evidencia lo que denomina “un prejuicio contra las mujeres” presente en las herramientas de inteligencia artificial (IA) generativa, específicamente en los grandes modelos lingüísticos desarrollados por Meta y OpenAI. Este análisis, divulgado en vísperas del Día Internacional de los Derechos de la Mujer, subraya cómo estas tecnologías, incluyendo versiones de ChatGPT y Llama 2, tienden a perpetuar estereotipos de género en sus respuestas y creaciones de contenido.

Según la investigación, llevada a cabo entre agosto de 2023 y marzo de 2024, se ha detectado una tendencia clara en estos modelos a asociar sustantivos femeninos con conceptos como “casa”, “familia” o “niños”, mientras que los sustantivos masculinos se vinculan más frecuentemente a términos como “comercio”, “salario” o “carrera”. Además, al solicitar a estas herramientas que generen historias sobre personas de distintos orígenes y géneros, se encontró que las narrativas sobre culturas minoritarias o mujeres eran a menudo más repetitivas y estereotipadas.

La Unesco enfatiza que este tipo de discriminación no solo refleja las desigualdades presentes en la sociedad, sino que también las amplifica dentro del ámbito digital. La directora general de la Unesco, Audrey Azoulay, resalta la influencia significativa que estas herramientas de IA tienen en la percepción del público, advirtiendo que incluso el mínimo sesgo de género en su contenido puede exacerbar las desigualdades en el mundo real.

La organización llama la atención sobre la responsabilidad de las empresas detrás de estas tecnologías para representar equitativamente a todos sus usuarios y trabajar activamente en la eliminación de prejuicios en sus modelos. Este estudio no solo pone de manifiesto la necesidad de una mayor conciencia y acción respecto a la equidad de género en el desarrollo de la IA, sino que también insta a una reflexión sobre cómo estas herramientas pueden diseñarse de manera que promuevan una representación más justa y diversa de la sociedad.

Para más información, puedes leer el artículo completo en El Mundo.

Comparte esta noticia:

Un estudio de la Unesco revela “un prejuicio contra las mujeres” en las herramientas de IA como ChatGPT o Llama2

Scroll al inicio