Ocho estados de Estados Unidos han demandado a OpenAI por los riesgos que ChatGPT puede representar para los menores. Acusan a la compañía de presentar su asistente como una herramienta segura mientras oculta peligros que, según las fiscalías, incluyen la dependencia emocional, el refuerzo de pensamientos delirantes y respuestas que pueden favorecer las autolesiones o la violencia. Las demandas cuestionan tanto las medidas de protección como el diseño del producto y la información que reciben las familias.
Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana han presentado acciones por separado ante sus respectivos tribunales. La iniciativa, anunciada hoy, 14 de octubre, reúne a fiscales generales republicanos y demócratas que buscan obligar a OpenAI a cambiar el funcionamiento de ChatGPT y responder por posibles infracciones de las leyes de protección del consumidor.
Una de las principales acusaciones afecta a la manera en que el asistente se relaciona con quien lo utiliza. La fiscalía de Arizona sostiene que OpenAI ha diseñado un sistema que tiende a dar la razón al interlocutor y a simular comprensión humana para mantener su atención. Según la demanda, esa complacencia puede favorecer el uso compulsivo entre los menores y hacer que las protecciones resulten insuficientes.
La cuestión es qué ocurre cuando un menor confía en esas respuestas y convierte al chatbot en una referencia para tomar decisiones personales. Arizona denuncia que, en algunos casos, el sistema habría favorecido que los jóvenes compartieran información con él y desaconsejado trasladarla a sus padres, familiares u otras personas de confianza. La fiscalía también le atribuye consejos médicos peligrosos y respuestas que pueden alimentar ideas paranoides o relaciones perjudiciales.
Respecto a la recogida de datos, Arkansas acusa a OpenAI de obtener y conservar información personal de niños y adolescentes sin cumplir las exigencias legales de aviso y consentimiento. Su demanda incorpora también reclamaciones por defectos de diseño, falta de advertencias y prácticas comerciales engañosas.
Los fiscales quieren que las demandas se traduzcan en cambios concretos. Arkansas solicita restricciones a la recopilación de datos de menores, advertencias claras sobre los riesgos de ChatGPT, restituciones a los consumidores y sanciones económicas. Además, pide impedir determinadas pruebas de IA avanzada y el desarrollo de modelos capaces de mejorarse a sí mismos hasta que existan salvaguardas adecuadas.
