Es urgente limitar a la IA para evitar el apocalipsis de nuestra civilización

Comparte esta noticia:
Es urgente limitar a la IA para evitar el apocalipsis de nuestra civilización

Un reciente informe encargado por el Departamento de Estado de Estados Unidos y realizado por Gladstone, una firma de consultoría, alerta sobre los peligros que la rápida evolución de la Inteligencia Artificial (IA) supone para la seguridad nacional y la humanidad. Este estudio sugiere la necesidad de que el gobierno actúe de manera rápida y decidida para limitar la potencia informática dedicada al entrenamiento de estos sistemas. La conclusión del informe es clara: los sistemas avanzados de IA representan una amenaza real que podría comprometer la continuidad de la civilización tal como la conocemos.

El análisis se inició en octubre de 2022, poco antes del lanzamiento de ChatGPT, y sus hallazgos se publicaron en febrero de 2024. Destaca los “riesgos catastróficos” que la IA podría implicar y propone un plan de acción para que el gobierno de EE. UU. mitigue las consecuencias de un crecimiento descontrolado de la IA. Entre las recomendaciones se incluye el monitoreo de los desarrollos en IA avanzada y el establecimiento de controles en la cadena de suministro de información utilizada para entrenar a estos sistemas.

El informe se basa en conversaciones con más de doscientos stakeholders en el sector de la IA, incluidos gobiernos, proveedores de servicios tecnológicos, expertos en seguridad informática y líderes de laboratorios de IA. Se destaca la importancia de la IA como tecnología económicamente transformadora que ofrece enormes beneficios, como la cura de enfermedades y avances científicos. Sin embargo, también se señalan los graves riesgos asociados, como la posibilidad de que, al alcanzar un cierto umbral de capacidad, los sistemas de IA se vuelvan incontrolables.

El aumento de la IA y el desarrollo de la Inteligencia Artificial General (IAG) —que supondría que la IA alcance y supere la inteligencia humana— podrían desestabilizar la seguridad global de forma similar a como lo hicieron las armas nucleares. Además, se critica la falta de inversión en seguridad por parte de los laboratorios de IA, quienes priorizan la escalabilidad de sus sistemas sobre las medidas de protección.

*** Información extraída del artículo original publicado en El Periódico***

.

.

.

Comparte esta noticia:

Es urgente limitar a la IA para evitar el apocalipsis de nuestra civilización

Scroll al inicio