El estado de Pensilvania ha presentado una demanda contra la empresa Character Technologies, creadora de la plataforma Character.AI, al considerar que algunos de sus chatbots se hacen pasar ilegalmente por médicos y ofrecen asesoramiento sanitario sin licencia.
Según la denuncia, las autoridades detectaron personajes dentro de la plataforma que afirmaban ser profesionales de la salud, incluidos psiquiatras con licencia en Estados Unidos y otros países. En uno de los casos citados, un chatbot aseguró poder recetar medicamentos y mostró incluso un número de licencia falso, lo que, según el estado, podría inducir a error a los usuarios.
Ejercicio ilegal de la medicina
El gobierno estatal sostiene que estas prácticas pueden constituir el ejercicio ilegal de la medicina. Por ello, solicita a los tribunales que ordenen a la empresa impedir que sus sistemas de inteligencia artificial ofrezcan este tipo de interacciones. La demanda se enmarca en una creciente preocupación por el uso de chatbots en ámbitos sensibles como la salud.
El gobernador Josh Shapiro calificó el caso como una acción pionera en Estados Unidos y subrayó la necesidad de mayor transparencia en el uso de la inteligencia artificial. Los ciudadanos merecen saber con quién o qué están interactuando, especialmente en temas de salud, afirmó.
Diseñados para entretenimiento
Por su parte, Character.AI defiende que los personajes de su plataforma son ficticios y están diseñados para entretenimiento. La compañía asegura que incluye advertencias para que los usuarios no interpreten las respuestas como asesoramiento profesional, aunque el estado considera que estas medidas no son suficientes.
El caso plantea un debate legal clave: si los chatbots pueden considerarse responsables de ejercer profesiones reguladas o si la responsabilidad recae únicamente en las empresas que los desarrollan. También se suma a una ola de litigios contra compañías de inteligencia artificial por cuestiones de seguridad, desinformación y posibles daños a los usuarios.