La Autoridad de control de Países Bajos ha publicado una guía titulada «GDPR Preconditions for Generative AI» en la que se establece las condiciones y requisitos legales y técnicos que permitirían garantizar que el desarrollo de las herramientas o modelos de IA generativa cumplen con lo dispuesto en el RGPD.
La importancia de este documento radica en que, en la actualidad, la mayoría de este tipo de modelos han sido entrenados con grandes volúmenes de información (incluyendo datos personales) recopilados de Internet, sin consentimiento de los afectados, lo que podría infringir el RGPD. A pesar de ello, la autoridad de control considera que es posible reconducir el desarrollo y el modo de entrenamiento de estos modelos de forma que se cumpla con los requisitos legales y éticos mediante el cumplimiento de ciertos principios.
A la vista de lo anterior, la autoridad de control holandesa establece que los requisitos principales que se deben cumplir son los siguientes:
- Respecto a las condiciones previas al entrenamiento del modelo, se establece que los datos usados para entrenar a dicho modelo deben haber sido obtenidos lícitamente. Adicionalmente a lo anterior, antes de realizar el entrenamiento, se debe eliminar aquella información personal que resulte innecesaria u ofensiva.
- Los datos especialmente sensibles (esto es, información sobre salud, orientación sexual, creencias religiosas, ideología, etc.) requieren de una protección especial, debiéndose dar cumplimiento a lo dispuesto en el RGPD, pudiendo ser tratados exclusivamente cuando su titular hubiera dado su consentimiento expreso.
- Los titulares de los datos deben poder ejercer fácilmente sus derechos (acceso, rectificación o supresión, entre otros) incluso con posterioridad al entrenamiento y funcionamiento del modelo.
- La finalidad del tratamiento de los datos debe ser clara y debe haberse definido con anterioridad al tratamiento. En este sentido, se debe haber informado de dicha finalidad a las personas afectadas.
- Los modelos de IA generativa deben haberse desarrollado y entrenado de tal forma que se hayan minimizado los errores que pudieran suponer la generación de información incorrecta o no deseada.
También se proponen iniciativas educativas, el desarrollo de nuevas guías prácticas o la creación de entornos de prueba controlados (sandboxes) para evaluar proyectos de IA de alto riesgo. Con esta estrategia se pretende garantizar un desarrollo responsable de la IA generativa que pueda respetar y garantizar los derechos fundamentales de los ciudadanos.
Puede acceder al documento aquí.
