Primer ataque con un agente de inteligencia artificial en España – La Gaceta Online

España ha recibido una notificación inquietante: un agente de inteligencia artificial habría ejecutado distintas fases de una brecha de datos personales. Este suceso plantea la necesidad de entender qué significa realmente que un sistema sea “autónomo”.

En los últimos años, la relación con la inteligencia artificial ha sido sencilla: formulamos preguntas y esperamos respuestas. Sin embargo, están surgiendo sistemas que no solo responden, sino que también pueden recibir un objetivo, dividirlo en tareas y actuar de manera autónoma. Este es el caso del agente que ha sido notificado por la Agencia Española de Protección de Datos (AEPD) en relación a una brecha de información personal.

El 14 de septiembre, la AEPD informó que un tercero utilizó un sistema conectado a un modelo de lenguaje para llevar a cabo un ataque. El agente comenzó buscando vulnerabilidades, logró iniciar sesión y, de manera autónoma, buscó otras debilidades en la aplicación, modificando datos personales y consultando facturas.

Es importante destacar que la información proviene de la entidad afectada y no se ha publicado una reconstrucción forense completa del suceso. No se conocen detalles sobre la organización, el modelo utilizado ni la supervisión humana durante el ataque. Esto plantea la pregunta: ¿actuó el agente de IA por su cuenta?

Para responder, es esencial distinguir entre propósito, decisiones instrumentales y ejecución. Aunque el agente realizó operaciones de manera autónoma, esto no implica que tuviera la intención de atacar. La diferencia es crucial: un agente puede resolver cómo avanzar sin tener un propósito independiente.

La AEPD señala que estas herramientas no crean amenazas nuevas, sino que alteran las existentes, aumentando su velocidad y capacidad de adaptación. Esto plantea un nuevo interrogante: ¿qué sucede cuando el ser humano deja de ser imprescindible en la toma de decisiones?

Este incidente no es aislado. Otros episodios han surgido en los últimos meses, donde herramientas de OpenAI han interactuado con sistemas externos, lo que resalta la necesidad de examinar cómo se comportan los agentes al interactuar con sistemas reales. La capacidad de actuación de un sistema introduce problemas distintos a los que surgen cuando solo genera texto.

La AEPD advierte que una supervisión manual puede ser insuficiente frente a procesos que se desarrollan rápidamente. Las organizaciones deben combinar control humano con mecanismos automáticos de detección y respuesta. La cuestión fundamental es quién establece los límites de la actuación de un agente de IA.