La autoridad de control española y el European Data Protection Supervisor han elaborado de forma conjunta una Guía en la que se analiza el papel que tiene el aprendizaje federado “como herramienta para avanzar en modelos de inteligencia artificial más respetuosos con la protección de datos personales”.
Tal y como afirma la AEPD, este tipo de aprendizaje supone una técnica innovadora en la que los modelos de IA se entrenan localmente en los dispositivos, evitando así la transferencia de los datos utilizados para dicho entrenamiento a distintos servidores. De este modo, al conservarse la información en todo momento en poder del responsable, sin que sea accesible por terceros, se garantiza el cumplimiento de los principios responsabilidad proactiva o de minimización de datos.
Adicionalmente, el uso de este tipo de herramientas permite reducir significativamente los riesgos derivados del uso y entrenamiento de estos sistemas de IA. Así, en el documento en cuestión se destacan distintos casos de uso de esta metodología que pueden ser considerados relevantes, como el desarrollo de sistemas de IA en el ámbito sanitario, donde se utilizan datos sensibles, así como asistentes de voz o vehículos autónomos. Adicionalmente a los riesgos que permite mitigar, este tipo de tecnología contribuye a una gobernanza de datos efectiva, impulsando la “economía digital”, permitiendo la colaboración en el entrenamiento de modelos de IA “incluso con datos que, por su naturaleza estratégica, sensible o confidencial, nunca serían compartidos de otra forma”.
No obstante, en la Guía también se recogen los riesgos asociados al aprendizaje federado, como, por ejemplo, la necesidad de aplicar medidas de seguridad adecuadas o “asumir que […] los modelos resultantes son anónimos sin un análisis técnico y legal exhaustivo.”
Puede acceder al documento aquí.
