Ha llegado el «momento Oppenheimer» para los progenitores de la IA

Comparte esta noticia:

Ha llegado el “momento Oppenheimer” para los progenitores de la IA

  • Peligros y dilemas de la inteligencia artificial: el “momento Oppenheimer”
  • Creadores de IA enfrentan dilemas éticos: ¿Hemos creado un monstruo?
  • IA y destrucción: científicos alertan sobre su potencial destructivo

El director de cine Christopher Nolan reconoce haber hablado con científicos especializados en IA que están experimentando un «momento Oppenheimer» y recelan del potencial destructivo de su creación. Nolan reflexiona sobre su película biográfica y explica: «Cuento la historia de Oppenheimer porque creo que es importante, pero también porque es un cuento admonitorio». De hecho, ya hay quienes comparan a Sam Altman de OpenAI con el padre de la bomba atómica.

Oppenheimer fue bautizado por sus biógrafos como el «Prometeo americano» por ser quien arrebató a los dioses el secreto del fuego nuclear, dividiendo la materia con el fin de liberar una energía atroz que, según sus temores, podría calcinar a toda la civilización.

Por su parte, Altman también se pregunta si hizo «algo realmente malo» al desarrollar la IA generativa mediante ChatGPT. Según declaró en una comparecencia ante el Senado, «si esta tecnología sale mal, puede salir muy mal». Gregory Hinton, el llamado padrino de la IA, presentó su dimisión de Google en mayo de 2023 y señaló que una parte de él se arrepentía de haber dedicado su vida a construir máquinas más inteligentes que los seres humanos. Advirtió que «es difícil entender cómo evitar que los malos la utilicen para cosas malas». Otros de sus compañeros han hablado del «riesgo de extinción derivado de la IA», que se sitúa al mismo nivel que otras amenazas existenciales como la guerra nuclear, el cambio climático y las pandemias.

Según Yuval Noah Harari, la IA generativa puede llegar a ser una tecnología destructora de sociedades o, utilizando el término que Oppenheimer tomó prestado de la Bhagavad-gītā para describir la bomba, «destructora de mundos». Esta vez los sapiens se han convertido en dioses, engendrando una descendencia inorgánica que un día podría desbancar a sus progenitores. Harari lo explicaba así en una conversación hace unos años: «La historia de la humanidad comenzó en el momento en que los hombres crearon a los dioses y terminará cuando los hombres se conviertan en dioses».

Tal y como explicaban Harari y los coautores Tristan Harris y Aza Raskin en un ensayo reciente: «En el principio existía la palabra. El lenguaje es el sistema operativo de la cultura de la humanidad. Del lenguaje emanan el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades, las naciones y el código informático. La inteligencia artificial ha conseguido dominar el lenguaje, lo que le permite piratear y manipular el sistema operativo de la civilización. Este dominio del lenguaje otorga a la inteligencia artificial la llave maestra de la civilización, que comprende desde las cajas fuertes de los bancos hasta los sepulcros más sagrados».

Noticia elaborada a partir del artículo original publicado en El Salto

Comparte esta noticia:
Scroll al inicio
Verificado por MonsterInsights