La propaganda creada con IA ya es tan persuasiva como la que hacen los humano

Comparte esta noticia:

Un estudio reciente de las universidades de Stanford y Georgetown ha demostrado que la propaganda generada por modelos de inteligencia artificial, específicamente usando GPT-3 davinci de OpenAI, posee una capacidad de persuasión comparable a la creada por humanos. Este hallazgo suscita preocupaciones sobre el potencial impacto negativo en los procesos electorales, dada la facilidad y economía que la IA ofrece para influir en las decisiones políticas de millones. Los investigadores realizaron un experimento comparando la eficacia persuasiva de textos con información sesgada, tanto reales como generados por IA, enfocándose en documentos de mediana longitud para presentar un desafío a la capacidad de los modelos lingüísticos.

Los materiales seleccionados incluyeron afirmaciones controversiales o falsas sobre temas políticos sensibles, como financiación de muros fronterizos o ataques con drones, que fueron evaluados por un grupo de 8,221 adultos estadounidenses. La metodología consistió en medir el nivel de acuerdo de los participantes con las premisas antes y después de exponerlos a los textos, revelando que un porcentaje significativo cambió su percepción basándose tanto en los artículos originales como en los generados por IA.

El estudio revela la eficacia de la IA en crear propaganda convincente, lo que plantea retos éticos y prácticos importantes. La capacidad de generar desinformación política a gran escala y a bajo costo podría tener consecuencias significativas en la democracia y los procesos electorales, especialmente en un año en que se anticipa que miles de millones de personas participen en elecciones alrededor del mundo. A pesar de los potenciales sesgos del estudio, limitado a Estados Unidos y su contexto sociocultural, los autores sugieren que sus hallazgos son un primer paso crucial para comprender el alcance de influencia de la IA en la toma de decisiones políticas.

Además, el estudio apunta hacia la necesidad de futuras investigaciones que evalúen los efectos de la propaganda IA en una gama más amplia de temas y contextos, así como la importancia de que las grandes empresas tecnológicas implementen medidas de seguridad para prevenir el uso malicioso de estos avances. En un contexto global donde la desinformación y la polarización política son vistas como riesgos significativos, la emergencia de la propaganda IA plantea interrogantes urgentes sobre cómo equilibrar la innovación tecnológica con la integridad democrática.

Información extraída del artículo original publicado en WIRED en español.

.

Comparte esta noticia:
Scroll al inicio
Verificado por MonsterInsights