ONU: Las empresas crean IA con una temeraria indiferencia hacia los derechos humanos

Comparte esta noticia:
ONU: Las empresas crean IA con una temeraria indiferencia hacia los derechos humanos

António Guterres, Secretario General de la ONU, lanzó una seria advertencia sobre el desarrollo de la inteligencia artificial (IA), acusando a las empresas tecnológicas de priorizar la búsqueda de beneficios sobre los derechos humanos. Durante su intervención en el Foro Económico Mundial en Davos, Guterres enfatizó que el enfoque actual en la tecnología está incrementando la disparidad digital global.

El líder de la ONU señaló que compañías responsables de sistemas avanzados de IA, como ChatGPT, Copilot o Bard, muestran una preocupante falta de consideración por la privacidad individual y el impacto social de sus desarrollos. Resaltó que cada avance en la IA generativa trae consigo riesgos de consecuencias graves y no intencionadas, describiendo la expansión descontrolada de estos algoritmos como una de las mayores amenazas existenciales de nuestro tiempo.

Paralelamente, el Fondo Monetario Internacional, en su informe anual sobre riesgos globales, advirtió sobre los peligros de no implementar marcos regulatorios adecuados para la IA. El informe subraya que la falta de regulación podría convertir a la IA en una amenaza a largo plazo, potenciando la desigualdad a medida que se integra en distintas esferas económicas, sociales y políticas.

A pesar de estos riesgos, Guterres no ignoró el potencial positivo de la IA en el fomento del desarrollo sostenible. Subrayó la necesidad de establecer directrices de gobernanza global y urgente colaboración entre gobiernos y empresas tecnológicas para crear sistemas efectivos de gestión de riesgos en el ámbito de la IA. Insistió en la importancia de desarrollar iniciativas que aseguren el acceso a esta tecnología en los países menos desarrollados, advirtiendo que, de lo contrario, la brecha digital podría expandirse de manera incontrolable.

En respuesta a estas preocupaciones, el Ministerio de Asuntos Exteriores suizo, junto con las escuelas politécnicas de Lausana y Zúrich y varios socios, presentó la Red Internacional de Computación e Inteligencia Artificial (ICAIN). Esta iniciativa busca desarrollar sistemas de IA adaptados a las necesidades de los países emergentes, alineando los proyectos de investigación con los principios de desarrollo sostenible propuestos por la ONU.

El secretario del Ministerio de Asuntos Exteriores suizo, Alexandre Fasel, criticó que actualmente pocas empresas privadas tienen el control sobre el desarrollo de modelos de IA generativa, ignorando las particularidades culturales y lingüísticas de los países menos favorecidos. La ICAIN propone un enfoque ascendente para apoyar iniciativas de investigación con recursos tecnológicos y económicos.

Sam Altman, CEO de OpenAI, reconoció la incertidumbre en torno a la definición y límites de los valores que la IA debería alinear. En Davos, expresó que la ansiedad social generada por la rápida expansión de los sistemas de IA es un reflejo natural de todas las grandes revoluciones tecnológicas, y afirmó que sentir la gravedad de lo que está en juego es fundamental.

En octubre pasado, la ONU anunció un Consejo Consultivo dedicado a la gobernanza internacional de la IA, compuesto por 38 expertos. Guterres concluyó afirmando que, si bien la IA puede impulsar un progreso extraordinario para la humanidad, es esencial reconocer y abordar los riesgos asociados con sistemas inteligentes avanzados para evitar que socaven la confianza en las instituciones, debiliten la cohesión social y amenacen la democracia.

Palabras del texto original: 501 – Palabras de la versión resumida: 353

Información extractada del artículo original publicado en [Wired](https://es.wired.com/articulos/las-empresas-crean

Comparte esta noticia:

ONU: Las empresas crean IA con una temeraria indiferencia hacia los derechos humanos

Scroll al inicio