En el presente caso, la compañía desarrolló una herramienta (que se podía instalar en las plataformas de mensajería Slack y TEAMS) que, mediante el uso de Inteligencia Artificial, podía analizar las conversaciones de los empleados de las entidades que contrataban este servicio (a través del estudio de las frases y palabras usadas) con la finalidad de detectar el nivel de estrés psicológico de aquellos que, voluntariamente, tomaran la decisión de usarlo.
La actuación de la autoridad de control italiana se inició de oficio tras diversas informaciones periodísticas que ponían de manifiesto la posible utilización de esta herramienta en entornos laborales, con capacidad para inferir niveles de estrés de los empleados.
Durante la investigación, la autoridad de control concluyó que el diseño de la solución planteaba serias dudas de compatibilidad con la normativa de protección de datos. Y ello a pesar de que las compañías que contrataban estos servicios no tenían acceso al contenido de las comunicaciones de sus empleados, ni a los resultados individuales de los análisis psicológicos realizados (siendo la compañía desarrolladora de la herramienta responsable del tratamiento).
No obstante lo anterior, debido a que la compañía sí elaboraba informes agregados sobre el estrés de los trabajadores que se proporcionaban a la entidad que contrataba sus servicios, así como el hecho de que se trataban datos de categorías especiales, la autoridad de control ha declarado que la compañía debe adoptar, desde la fase de diseño del servicio, medidas adecuadas que permitan garantizar que se evita cualquier riesgo de acceso, incluso indirecto, a información relacionada con el bienestar emocional o estrés psicológico de los trabajadores.
En este sentido, se pone de manifiesto que esta información sobre sus empleados no puede ser conocida por el empleador, de conformidad con la normativa europea (en especial, el Reglamento Europeo sobre Inteligencia Artificial, que prohíbe el uso de sistemas de IA diseñados para deducir o analizar las emociones de las personas en el lugar de trabajo).
Adicionalmente, se expone que estas herramientas pueden producir resultados que no siempre son transparentes o verificables, generándose una situación de discriminación o suponiendo una serie de perjuicios para los derechos de los trabajadores. Es por ello por lo que el uso de sistemas de IA para estas finalidades se encuentra bajo un intenso análisis.
No obstante, a diferencia de otros expedientes sancionadores, el procedimiento no concluyó con una sanción económica, sino que la autoridad de control ha emitido un “avvertimento” (advertencia formal).
Puede acceder a la resolución de la autoridad de control italiana aquí.
