El pasado lunes terminaba mi post “¿La IA consciente puede destruir la humanidad?”, afirmando que si llegásemos a ese punto los únicos responsables seriamos los humanos y que por ello debería ser posible desterrar la amenaza. Mi afirmación me ha hecho pensar sobre qué humanos tienen la capacidad de desterrar la amenaza y si su voluntad es o será evitarla.

La respuesta se debe encuadrar en que la inteligencia artificial está transformando nuestra sociedad en todos los ámbitos, ya sea en la forma de trabajar, en cómo tomamos decisiones o en como desarrollamos nuestras actuaciones, por consiguiente, es importante preguntarse ¿quién controla los algoritmos de IA y quien se beneficia de su poder?, porque el riesgo no radica en las IA en sí, sino en sus propietarios, porque podrán influir en el comportamiento de las personas, analizando preferencias y comportamientos a partir de sus interacciones en línea; moldear opiniones, potenciando creencias o efectuando manipulaciones sutiles que alteren la percepción de la realidad; dirigir procesos productivos a nivel global por la automatización de los mismos y condicionar el desarrollo económico al poder decidir cómo, dónde y qué se produce.

Este posible dominio de los mercados, del flujo de información y del comportamiento de los ciudadanos. por parte de organizaciones o individuos que posean el control de las IA puede comportar una concentración de poder sin precedentes dibujando un escenario preocupante, si las decisiones que afectan a millones de personas están en manos de unos pocos. Un riesgo que se amplifica, si las IA están exclusivamente en manos de gobiernos autoritarios que buscan limitar las libertades individuales controlando a sus ciudadanos mediante la censura y la vigilancia masiva para perpetuarse en el poder y, a la vez, alterar los modelos sociales y económicos de los países considerados enemigos.

El peligro real no reside en la IA en sí misma, sino en quienes la controlan. La tecnología, por sí sola, es neutral; el uso que se le dé y como se le entrene es lo que determina su impacto. Si permitimos que el control de estos poderosos algoritmos recaiga en manos de unos pocos, corremos el riesgo de crear un mundo donde la desigualdad y la manipulación sean la norma y donde la opresión se digitalice y perpetúe.

Por eso, es crucial que los gobiernos de los sistemas democráticos y las organizaciones supranacionales como la Unión Europea tomen medidas, no sólo para garantizar que el desarrollo y la implementación de la IA se realicen de manera ética y equitativa, mediante marcos regulatorios que eviten la concentración de poder, sino que también inviertan decididamente en su desarrollo para que sea un bien público.

Soy de los que cree que el futuro con la IA es prometedor, pero es preciso asegurarnos de que esté en manos de todos para aprovechar todo su potencial, sin poner en riesgo nuestra libertad y autonomía como individuos y como sociedad.

Antoni Garrell