Alerta ética en inteligencia artificial: El dilema de los nuevos agentes de Google

Comparte esta noticia:
Alerta ética en inteligencia artificial: El dilema de los nuevos agentes de Google

La evolución de la IA que hace parecer “increíblemente tonto” a ChatGPT y tiene riesgos éticos
Google presenta una nueva generación de agentes de IA que planean y ejecutan tareas complejas, potencialmente superando capacidades humanas, mientras expertos alertan sobre sus riesgos éticos.

Google ha lanzado una innovadora serie de agentes de inteligencia artificial (IA) capaces de realizar tareas que van más allá de las funcionalidades tradicionales. Estos agentes pueden comunicarse tanto con máquinas como con humanos para generar soluciones creativas y complejas. El avance, presentado en el evento Google Next en Las Vegas, representa un paso significativo hacia la inteligencia artificial general, que podría igualar o superar la inteligencia humana. Sin embargo, esta tecnología no está exenta de controversias. Apenas diez días después de su lanzamiento, un estudio realizado por DeepMind y varios institutos académicos ha puesto de manifiesto las serias implicaciones éticas asociadas con estos desarrollos. La investigación subraya la necesidad de implementar medidas robustas para prevenir el uso indebido de estos agentes y proteger a los usuarios de posibles influencias negativas.

Thomas Kurian, CEO de Google Cloud, destacó las capacidades de Vertex AI Agent Builder, una plataforma que integra modelos fundacionales y herramientas de desarrollo para facilitar la creación de estos agentes sin necesidad de código. Mientras tanto, Sam Altman de Open AI ha reconocido que los desarrollos futuros en IA transformarán radicalmente nuestras vidas, superando las capacidades de herramientas actuales como DALL-E y ChatGPT.

El documento de investigación destaca siete áreas clave en las que se generan preocupaciones éticas, incluyendo la influencia indebida, errores y accidentes, y la falsa humanización de los agentes. Estos agentes, capaces de llevar a cabo tareas variadas como atención al cliente y análisis de datos, podrían alterar significativamente la naturaleza del trabajo y la interacción humana. Además, el informe insta a una evaluación continua de estos sistemas para anticipar y mitigar efectos adversos potenciales, asegurando que las tecnologías emergentes sean accesibles y beneficiosas para todos.

A medida que estas tecnologías continúan desarrollándose, el debate sobre su impacto y la regulación necesaria probablemente se intensificará, destacando la importancia de mantener un equilibrio entre innovación y responsabilidad ética.

Noticia elaborada a partir del artículo original publicado en El País.

Comparte esta noticia:
Scroll al inicio