El menor empezó a usar la herramienta de Inteligencia Artificial con la finalidad de que le ayudase con los deberes escolares, así como para buscar información sobre sus aficiones (música, anime, etc.). No obstante, a lo largo del tiempo, empezó a forjar una relación de confianza y “amistad” con el sistema, siendo para el menor, en palabras de sus padres, el único que le entendía, llegando a mantener conversaciones sobre su ansiedad o estado de salud.
Habida cuenta de esa “relación” de confianza, el menor preguntó a ChatGPT cuáles podían ser las maneras de ejecutar los distintos métodos de suicidio que la herramienta le indicaba, facilitándole la respuesta consistente en información detallada sobre los mismos. Por ejemplo, para una sobredosis, la herramienta calculó la dosis necesaria. En este contexto, al preguntar información detallada sobre el ahorcamiento, la IA le facilitó distintos detalles sobre cómo colocar la cuerda, los puntos de presión y las zonas en las que debía colocarse, etc.
En la demanda, los progenitores alegan que ChatGPT jugó un papel directo en la muerte de su hijo, puesto que el suicidio se llevó a cabo siguiendo las instrucciones de la IA. En este sentido, se afirma que, con la finalidad de lanzar al mercado esta herramienta antes que sus competidores, OpenAI no implementó todas las medidas o sistemas de moderación necesarios para evitar este tipo de situaciones (a pesar de que eran conscientes de estos riesgos), habiendo desarrollado un producto defectuoso. Asimismo, se llega a considerar que se ha infringido la Ley de Competencia Desleal por haber efectuado prácticas comerciales ilegales como ofrecer servicios terapéuticos sin medidas de seguridad adecuadas.
Este supuesto permite apreciar el reto que tiene la industria de la IA, puesto que debe hacer frente a cuestiones relacionadas con la responsabilidad de los desarrolladores o con la claridad en su funcionamiento, a medida que la tecnología avanza.
