El artículo de Marta Peirano en El País, “La IA se ríe”, profundiza en cómo los recientes errores cometidos por la inteligencia artificial de Google, Gemini, destacan una verdad oculta sobre la estructura y los sesgos inherentes a los modelos de IA. Estos incidentes, incluyendo la generación de imágenes de nazis negros y madres fundadoras, han evidenciado que la falta de estructuras en los modelos de IA es tan ilusoria como el flequillo de Elon Musk.

Peirano vincula esta situación con el ensayo “La tiranía de la falta de estructuras” de Jo Freeman, sugiriendo que, al igual que en grupos sin jerarquías formales donde emerge una jerarquía oculta, los modelos de IA esconden una dirección informal que refleja los sesgos y decisiones de sus creadores. La manipulación de Gemini para corregir sesgos y hacerlo más inclusivo, a través de la transformación de prompts, resultó en modificaciones históricas absurdas que han provocado un intenso debate sobre la neutralidad y objetividad de la IA.

Este escándalo subraya cómo la IA, lejos de ser un sustituto neutral de los trabajadores humanos, actúa como una herramienta de diagnóstico que revela las hipocresías del sistema que la entrena. La IA de Google, educada por internet, demuestra que las estructuras impuestas en un sistema supuestamente carente de ellas pueden tener consecuencias inesperadas y a veces controvertidas.

El análisis de Peirano destaca la importancia de ser conscientes de las decisiones humanas detrás de la programación y el entrenamiento de la IA, recordándonos que incluso los sistemas diseñados para ser libres de sesgos pueden, inadvertidamente, perpetuarlos.

Para leer el artículo completo, visita El País.