¿Cómo detectar un texto escrito por IA? Esta nueva herramienta podría tener la solución definitiva

Comparte esta noticia:
¿Cómo detectar un texto escrito por IA? Esta nueva herramienta podría tener la solución definitiva

Herramienta Innovadora para Detectar Textos de IA: Binoculars Supera a Competidores

Kali Hays, Business Insider 26 ene. 2024 4:30h.

Las herramientas de IA generativa, como ChatGPT, se han vuelto populares entre estudiantes, pero han planteado desafíos para detectar textos generados por IA. Investigadores, principalmente de la Universidad de Maryland, desarrollaron una herramienta llamada “Binoculars”. Esta supera a otras herramientas existentes como GPTZero y Ghostbuster en precisión y reducción de falsos positivos.

“Binoculars” fue probada en varios conjuntos de datos, incluyendo noticias, escritura creativa y ensayos estudiantiles, detectando más del 90% de textos escritos por IA con una precisión del 99,9% y una tasa de falsos positivos de solo 0,01%. Este avance es crucial en entornos educativos, donde herramientas anteriores como Turnitin mostraron tasas de falsos positivos más altas, llevando a acusaciones erróneas contra estudiantes.

El equipo de investigación, incluyendo a especialistas de otras universidades y centros, fue financiado por entidades como Capital One, Amazon Research Awards y Open Philanthropy. Binoculars se probó contra modelos de IA de código abierto, destacándose por su funcionamiento sin ajustes específicos, lo que la hace valiosa para moderación en redes sociales y garantía de integridad en plataformas.

La herramienta utiliza un enfoque de “disparo cero”, comparando dos etapas de visualización de texto y emplea la perplejidad para determinar la fuente del texto, sea IA o humano. Binoculars ha demostrado efectividad incluso en textos de hablantes no nativos de inglés, donde otras herramientas mostraron sesgo.

Este desarrollo representa un avance importante en la lucha contra la desinformación, reseñas de productos falsas y manipulación electoral. Los investigadores consideran comercializar Binoculars, lo que podría cambiar significativamente la detección de escritura generada por IA.

*** Información extractada del artículo original publicado en Business Insider***

Enlace al artículo original

Comparte esta noticia:

¿Cómo detectar un texto escrito por IA? Esta nueva herramienta podría tener la solución definitiva

Scroll al inicio