La AEPD ha informado de la primera notificación de una brecha de datos personales en la que un tercero habría utilizado un agente de Inteligencia Artificial para ejecutar de forma autónoma distintas fases de un ciberataque. Según la información comunicada por la organización afectada, el atacante “inició la búsqueda de vulnerabilidades en archivos genéricos y realizó un login correcto”. De este modo, tras conseguir autenticarse en el sistema y acceder al mismo, “comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación, lo que, una vez conseguido, le permitió modificar datos personales y acceder a facturas”.
La autoridad de control advierte, no obstante, de que los hechos comunicados se encuentran pendientes del correspondiente análisis y que la utilización de un determinado modelo de IA no permite concluir que este, o la infraestructura de su proveedor, estuvieran concebidos para fines maliciosos. El elemento relevante se sitúa, por tanto, en el uso de un agente de IA por un tercero como herramienta para encadenar y automatizar distintas etapas de un ataque con acceso a sistemas que contienen datos personales.
Esta primera notificación permite poner de manifiesto una evolución relevante en relación con las amenazas a las que deben hacer frente las organizaciones. A diferencia de los usos de la IA que hasta ahora podían facilitar determinadas actividades de un atacante (como, por ejemplo, la redacción de mensajes de phising, la suplantación de identidades, el análisis de códigos o la identificación de vulnerabilidades), los agentes de IA pueden ejecutar sucesivamente tareas, utilizar herramientas, interpretar los resultados obtenidos y adaptar su actuación en función de ellos. La propia AEPD señala que estas capacidades pueden incrementar la velocidad, escala y capacidad de adaptación de técnicas maliciosas que ya eran conocidas, reduciéndose en consecuencia el tiempo que las entidades tienen para detectar estos ataques y poder contenerlos.
Habida cuenta de ello, este escenario resulta relevante para la gestión de los riesgos por parte de los responsables. La posibilidad de que un agente de IA automatice las fases del ciberataque refuerza la necesidad de que las organizaciones contemplen este tipo de amenazas en sus análisis de riesgos y revisen si los mecanismos de detección y respuesta que tienen implementados pueden actuar con suficiente rapidez (en este sentido la AEPD declara que “Los procedimientos diseñados para ataques ejecutados manualmente pueden resultar insuficientes cuando un agente analiza simultáneamente múltiples activos, prueba distintas vías de acceso y adapta su comportamiento con rapidez”). Así, la seguridad de los tratamientos exige, en este contexto, combinar las medidas organizativas y técnicas existentes con mecanismos capaces de detectar y contener comportamientos anómalos a una velocidad acorde con la naturaleza automatizada de estas amenazas. Afirma la AEPD que “la seguridad de los tratamientos no puede depender únicamente de la intervención manual” de modo que, si bien “La supervisión humana continúa siendo imprescindible, debe apoyarse en mecanismos de detección, contención y respuesta capaces de operar con la rapidez suficiente”.
Esta noticia permite evidenciar que el uso de agentes de IA para realizar, automáticamente, ataques a las empresas introduce un nuevo elemento a considerar en la evaluación de los riesgos que las empresas deben llevar a cabo, debiendo contemplarse como un escenario posible dentro de la gestión de las brechas de seguridad y de las medidas destinadas a prevenirlas.
