La incorporación de la Inteligencia Artificial al día a día de la actividad empresarial ha modificado no sólo la forma de trabajar, sino también los riesgos a los que se enfrentan las organizaciones. Así, la capacidad de estas herramientas para automatizar tareas permite aprovechar debilidades informáticas que ya existían, pero con mayor grado de rapidez y alcance. Habida cuenta de ello, junto a los riesgos derivados del uso de la IA por los empleados o de su implantación para optimizar actividades, las compañías deben tener en cuenta que terceros también pueden utilizar estas herramientas para actuar contra sus intereses.
En este contexto, la autoridad de control española ha advertido sobre la denominada “IA ofensiva”, consistente en el “uso de sistemas de inteligencia artificial para potenciar, automatizar o ejecutar acciones dirigidas a comprometer, dañar o explotar sistemas informáticos, infraestructuras, organizaciones o personas”. La importancia de ello radica en que el uso de IA por ciberdelincuentes está modificando el escenario de amenazas para las organizaciones, puesto que permite automatizar las distintas fases de un ataque, aumentando su velocidad y alcance, reduciendo el tiempo disponible para detectar una intrusión y reaccionar ante ella.
Así, la combinación de agentes de IA con la intervención de terceros atacantes experimentados puede facilitar la identificación y explotación de vulnerabilidades en los sistemas informáticos de las compañías. De este modo, una debilidad recién descubierta puede ser aprovechada en un plazo muy reducido, incrementando el riesgo de acceso no autorizado y de filtración de datos personales.
Tal y como indica la autoridad de control en su artículo, al que puede acceder aquí, este desarrollo tecnológico ha permitido poner de manifiesto problemas que existían con anterioridad en muchas organizaciones, como la utilización de sistemas antiguos, la falta de segmentación de sus redes o la dependencia de proveedores externos sobre los que existe escaso control efectivo. Estas circunstancias permiten amplificar las consecuencias de una brecha, puesto que un incidente que afecte a un único proveedor puede comprometer los datos tratados por numerosas entidades que utilizan sus servicios. En este sentido, incluso las empresas que no utilizan herramientas de IA pueden verse afectadas por ataques apoyados en esta tecnología.
A efectos de reducir estos riegos, se recomienda por la AEPD revisar las medidas de seguridad y adaptarlas a los tratamientos y sistemas utilizados. Entre otras actuaciones, se propone revisar y limitar los permisos de acceso para que cada empleado pueda acceder únicamente a la información necesaria para sus funciones, utilizar sistemas de autenticación resistentes al phishing o eliminar datos que ya no deban conservarse.
Asimismo, las organizaciones deben establecer procedimientos que permitan detectar, evaluar y documentar rápidamente las brechas de seguridad, así como garantizar la coordinación entre el delegado de protección de datos y el responsable de seguridad. Estos procedimientos deben permitir valorar, cuando corresponda, la notificación a la autoridad de control y la comunicación a las personas afectadas.
A largo plazo, la autoridad de control plantea reforzar la seguridad desde el diseño o mejorar el conocimiento técnico dentro de las organizaciones. En este sentido, recomienda, como se ha expuesto, reducir la dependencia de servicios externos, ejercer un control efectivo sobre los proveedores y disponer de planes de contingencia que permitan mantener los procesos esenciales ante un fallo o ataque.
Otro de los riesgos apuntados al inicio de esta artículo es el derivado del uso de este tipo de herramientas de IA por parte de los empleados de una compañía. Así, este riesgo puede surgir con actuaciones aparentemente rutinarias como, por ejemplo, un empleado que introduce los datos de una reclamación en una herramienta de IA con la finalidad de preparar una respuesta a la misma; que sube un contrato para resumirlo o que facilita determinada información comercial a efectos de elaborar una propuesta.
Si bien parece claro que la finalidad de estas herramientas es mejorar el trabajo e incrementar la eficiencia, estas prácticas pueden suponer un riesgo al facilitar acceso a información de clientes o empleados a un proveedor que gestiona dichos sistemas de IA. En este sentido, no se debe olvidar que, en muchas ocasiones, las compañías desconocen las medidas que estas herramientas implementan para garantizar la protección de la información que se facilita.
También debe tenerse en cuenta que cabe la posibilidad de que los empleados usen herramientas de IA que no han sido autorizadas o evaluadas por la compañía. En estos casos, el riesgo se incrementa, puesto que, si los empleados recurren a ellas por iniciativa propia, la entidad puede desconocer qué información se ha introducido, dónde se conserva o quién puede acceder a ella.
Es por ello por lo que, antes de autorizar el uso laboral de este tipo de herramientas, conviene comprobar qué información se conserva en la misma (y durante cuánto tiempo), si el proveedor puede reutilizarla para entrenar modelos, quién puede acceder a ella o cómo se elimina. También debe analizarse qué decisiones o actuaciones pueden derivarse de sus resultados. Las garantías dependerán de las condiciones contratadas y de la configuración elegida ya que, por ejemplo, conectar un asistente de IA al correo corporativo puede ampliar considerablemente la información accesible en comparación con una consulta aislada en la propia aplicación de la herramienta.
Así, con anterioridad a la implementación o uso de estas herramientas, resulta necesario realizar un análisis de su funcionamiento, así como de los posibles riesgos asociados a su uso. Adicionalmente, en aquellos supuestos en los que se puedan tratar datos de carácter personal, será necesario analizar si debe realizarse una evaluación de impacto (en particular, cuando el tratamiento pueda entrañar un alto riesgo para los derechos y libertades de los afectados).
No obstante, la respuesta a estos riesgos o problemas no debe consistir en prohibiciones generales que impidan a los empleados utilizar cualquier herramienta de IA, puesto que ello únicamente iría en contra de una evolución tecnológica a la que las entidades deben adaptarse. Por ello, resulta más adecuado establecer unas condiciones de uso claras, identificar las herramientas autorizadas y formar a los empleados sobre la información que pueden introducir y las precauciones que deben adoptar.
Asimismo, otro de los riesgos a los que se enfrentan las compañías por el uso de herramienta de IA por terceros es la suplantación de identidad de sus propios clientes. En estos casos, una comunicación puede resultar convincente sin ser auténtica. Así, cabe destacar la noticia sobre el fraude sufrido por una entidad de banca privada que autorizó la realización de transferencias tras recibir una llamada realizada por un cliente. Sin embargo, su voz había sido clonada por una herramienta de IA.
Más allá de las circunstancias concretas del caso, este ejemplo pone de manifiesto la necesidad de que las entidades cuenten con procedimientos adecuados para verificar la identidad de quien solicita una operación. En este sentido, la verificación de la identidad debería realizarse mediante un canal independiente, utilizando datos de contacto previamente verificados y conservados en la base de datos de la entidad.
Del mismo modo, los sistemas de IA también pueden utilizarse para generar correos, documentos o imágenes que aparenten proceder de proveedores o personas de confianza. Estas técnicas pueden emplearse para solicitar pagos, modificar cuentas bancarias o conseguir que un empleado facilite determinada información. Es por ello por lo que resulta necesario que las organizaciones establezcan mecanismos de verificación para este tipo de solicitudes y formen a sus empleados para ello.
Gestionar todos estos riesgos exige conocer qué herramientas se utilizan, con qué finalidades y qué información se trata a través de ellas. Este conocimiento permitirá identificar los riesgos, adoptar medidas proporcionadas y revisar periódicamente si las garantías siguen siendo adecuadas. En este sentido, la selección de los proveedores se debe realizar de manera adecuada, evaluando no sólo sus condiciones económicas o de servicios, sino también las garantías que ofrecen en materia de seguridad, confidencialidad y tratamiento de datos personales.
Si desea evaluar los riesgos que la Inteligencia Artificial puede plantear para su compañía, en ZABÍA ABOGADOS contamos con un equipo multidisciplinar especializado en esta materia que puede prestarle estos servicios.
