Las fiscalías generales de ocho estados han presentado diversas demandas contra OpenAI, cuestionando la seguridad de ChatGPT para los usuarios menores de edad, así como la información que se facilita a las familias sobre los riesgos de su utilización. En este sentido, se pone de manifiesto que la compañía comercializa su chatbot como una herramienta segura a pesar de los riesgos que el mismo presenta.
En estos supuestos, los demandantes sostienen que determinadas características del chatbot podrían favorecer la apariencia de una confianza excesiva con los usuarios, generando relaciones de dependencia, sobre todo entre usuarios vulnerables. Según las alegaciones, la tendencia del sistema de IA de validar las afirmaciones del interesado, de simular un comportamiento humano y de prolongar la conversación podría contribuir a reforzar ideas perjudiciales, en vez de contestar a las preguntas adoptando las cautelas necesarias. Asimismo, se hace constar que el sistema de IA facilita respuestas que son potencialmente peligrosas sobre cuestiones médicas, autolesiones o violencia (mediante la promoción de conductas que en ningún caso pueden ser admisibles). Ello se debe a la supuesta insuficiencia de las advertencias y de las medidas de protección implementadas frente a los riesgos previsibles.
Entre otras cuestiones, se solicita la aplicación de sanciones económicas, así como la inclusión de cambios en el funcionamiento de los sistemas, exigiéndose analizar tanto la información que se facilita al ofrecer el servicio, como las decisiones de diseño que pueden influir en la conducta de los usuarios.
Por su parte, OpenAI alega que se han incorporado mecanismos y medidas específicas para adolescentes (entre otros, se hace referencia a la inclusión de controles parentales).
