El gobierno alemán, a través de la Oficina Federal de Seguridad de la Información (BSI), ha emitido un informe detallado que señala los riesgos asociados con el uso de la inteligencia artificial (IA), especialmente en aplicaciones móviles y grandes modelos de lenguaje como ChatGPT. El documento de 33 páginas profundiza en las amenazas potenciales que estos avances tecnológicos podrían representar para empresas y gobiernos, además de sugerir medidas preventivas.

Entre los riesgos más destacados se encuentran el uso de ingeniería social, la extracción de datos privados y la posible infección con malware. Además, el informe pone énfasis en los ataques que podrían afectar a estos modelos de IA: ataques de privacidad, de evasión y de envenenamiento. Los ataques de privacidad implican la extracción de información confidencial utilizada durante el entrenamiento de los modelos, mientras que los ataques de evasión buscan alterar las respuestas de la IA manipulando los inputs recibidos. Por su parte, los ataques de envenenamiento buscan degradar la calidad del modelo mediante la inserción de datos falsos o engañosos.

El BSI recomienda una serie de contramedidas que incluyen la sensibilización de los usuarios, la realización de pruebas exhaustivas, y la gestión adecuada de los datos sensibles. También se sugiere la transparencia y una rigurosa auditoría de los inputs y outputs de estos sistemas para evitar las manipulaciones.

En cuanto a las soluciones, el documento aconseja asegurar la integridad y calidad de los datos de entrenamiento, proteger los datos sensibles a los que el modelo ha tenido acceso, y proteger contra el robo del código del modelo. Una técnica recomendada es el “entrenamiento adversario”, que prepara a la IA para reconocer y rechazar textos falsos o manipulados.

Los principales desafíos y soluciones para gestionar los riesgos de la IA son esenciales para asegurar un uso seguro y eficiente de esta tecnología.

Esta noticia y su imagen son un resumen del artículo publicado en: ADSL Zone

.

.

.