La autoridad de control holandesa ha publicado un informe sobre la inteligencia artificial generativa en la que destaca la necesidad de implementar esta tecnología de forma segura, responsable y dando cumplimiento a los principios y normativa de protección de datos, advirtiendo que, sin un contexto jurídico claro, existe el riesgo de encontrarnos ante un “salvaje oeste tecnológico” sin control ni garantías.
Esta publicación tiene en cuenta el crecimiento exponencial que está experimentando la IA generativa, con chatbotsconversacionales o generadores de imágenes y contenido multimedia (muchas veces integrados en otros servicios proporcionados por empresas tecnológicas). En este sentido, se pone de manifiesto que el 23 % de la población neerlandesa utiliza programas de IA como ChatGPT, siendo este porcentaje mayor entre los jóvenes.
Así, se declara que, si bien estas herramientas presentan nuevas oportunidades, también pueden generar riesgos significativos para la privacidad, la autonomía y otros derechos fundamentales si no existe un marco jurídico o ético claro durante todo su ciclo de vida (desarrollo, implementación, uso, etc.). La autoridad de control señala que muchos modelos de IA pueden tratar datos personales más allá de lo necesario, priorizándose por las entidades, en muchas ocasiones, la rapidez en su implementación o la funcionalidad de las herramientas sobre el respeto a los principios del RGPD (como, por ejemplo, la minimización de datos o la transparencia de información), sin considerar las posibles consecuencias. Es por ello por lo que se indica que la innovación se debe implementar con cuidado, aplicando medidas de seguridad adecuadas.
En el informe se identifican posibles escenarios relativos al desarrollo y uso de estos sistemas. Así, la falta de normas o valores claros y compartidos por todos los agentes intervinientes podría conducir a un contexto en el que la IA se utilice sin control alguno, lo que conllevaría una serie de consecuencias negativas para los derechos de las personas (lo que se describe como “el salvaje oeste”). En caso contrario, si se existiese un exceso de regulación o se implementase un enfoque excesivamente conservador se podría paralizar la innovación y frenar el progreso tecnológico. Es por ello por lo que la autoridad de control considera que se debería combinar la innovación con la protección efectiva de derechos como la privacidad o la no discriminación.
Teniendo en cuenta lo anterior, se recomienda que el desarrollo e implementación de estos sistemas de IA generativa se base en principios como la transparencia, la mitigación de riesgos o la responsabilidad y cumplimiento jurídico, de modo que se garanticen en todo momento los derechos de los interesados.
Esta iniciativa refleja un enfoque amplio y proactivo dentro de la regulación europea (por cuanto también se ha tenido en consideración aportaciones por parte de empresas o expertos en la materia), donde no basta con aplicar la normativa existente, sino que se debe guiar el desarrollo tecnológico, tratando de qeuilibrar la innovación con la protección y garantía de los derechos de los afectados. Así, se plantea un reto común: cómo hacer compatible la capacidad de transformación de la IA generativa con un marco de valores y principios jurídicos y éticos que proteja a las personas en este contexto digital y tecnológico actual.
Puede acceder al informe de la autoridad de control holandesa aquí.
