Distintas autoridades de control han emitido una declaración conjunta en la que advierten de los riesgos que plantean los sistemas de AI capaces de generar imágenes y vídeos realistas en los que se representan a personas sin su conocimiento ni consentimiento. Esta publicación se ha realizado debido a la actual expansión de herramientas de IA generativa y a su uso indebido.
Así, se insta a que las organizaciones que desarrollan o emplean estas herramientas respeten los marcos legales existentes, incluyendo la normativa de protección de datos, haciéndose especial referencia a que la creación de imágenes íntimas no consentidas puede constituir un delito. Existe una evidente preocupación por el potencial daño que esta tecnología puede ocasionar a las personas, señalando ejemplos de ciberacoso o difusión de contenido difamatorio. En este sentido, el EDPB pone de manifiesto que, si bien la IA tiene potencial para aportar numerosos beneficios, estos recientes avances han permitido la creación de contenidos perjudiciales en los que aparecen personas reales.
Entre los principios que se establecen en el documento, destaca la implementación de medidas que permitan impedir el tratamiento indebido de datos personales o la generación de contenido dañino para terceros; la transparencia sobre las capacidades y usos de estas herramientas o la adopción de mecanismos eficaces que permitan eliminar el contenido difamatorio cuando así se solicite por los afectados.
El carácter internacional de la iniciativa refleja el reconocimiento de que estos riesgos no afectan exclusivamente a España o a la Unión Europea, requiriendo una cooperación coordinada, así como la aplicación de estrategias conjuntas de supervisión. Si bien la declaración no tiene fuerza vinculante, su amplio respaldo permiten considerarla una importante referencia en relación con el desarrollo de sistemas de IA.
Puede acceder al documento aquí.
