La UNESCO ha establecido que la inteligencia artificial (IA) no debe sustituir el razonamiento judicial humano, sino utilizarse únicamente como herramienta de apoyo bajo estricta supervisión.
La organización publicó el documento «Directrices para el uso de sistemas de IA en cortes y tribunales», elaborado a partir de consultas globales con múltiples actores del ámbito judicial. Más de 36.000 profesionales de más de 160 países participaron en su desarrollo, lo que permitió integrar distintas tradiciones jurídicas, niveles tecnológicos y necesidades sociales, así como aumentar la conciencia sobre los beneficios y riesgos de estas tecnologías.
Desafíos éticos y legales
En un momento en el que la IA está adquiriendo un papel cada vez más relevante en los tribunales, la UNESCO advierte que las decisiones actuales sobre su implementación condicionarán la administración de justicia en las próximas décadas. Por ello, las Directrices se presentan como un marco clave para orientar su integración de manera responsable en los sistemas judiciales de todo el mundo.
Tu sueldo es el objetivo: los algoritmos esperan a que cobres para lanzarte «ofertas»
El documento reconoce que la inteligencia artificial puede mejorar el acceso a la justicia, agilizar la gestión de casos y apoyar la toma de decisiones judiciales. Sin embargo, también subraya que su uso plantea importantes desafíos éticos, legales y en materia de derechos humanos. Para afrontarlos, establece quince principios fundamentales que guían su adopción y supervisión, entre los que destacan la protección de los derechos humanos, la transparencia, la responsabilidad, la supervisión humana y la fiabilidad de los sistemas.
Las Directrices insisten en que la IA debe ser una herramienta complementaria, nunca sustitutiva. Su función es facilitar el acceso a la información y mejorar la eficiencia del sistema judicial, pero siempre bajo control humano y con revisión ética constante. De este modo, se busca garantizar que la tecnología contribuya a una justicia más equitativa sin comprometer los principios fundamentales del derecho.
Riesgos de un uso inadecuado
Asimismo, el documento advierte de los riesgos de un uso inadecuado. Sistemas defectuosos o mal empleados pueden vulnerar derechos como el juicio justo, el debido proceso, la privacidad o la igualdad ante la ley, además de afectar a valores esenciales como la imparcialidad y la independencia judicial. Por ello, se insiste en la necesidad de prevenir daños y evitar posibles violaciones de derechos humanos.
La UNESCO también subraya que la implementación efectiva de la IA en el ámbito judicial requiere formación adecuada del personal y herramientas fiables, accesibles y respetuosas con los derechos fundamentales. No basta con adoptar normas, sino que es imprescindible preparar a los profesionales para un uso ético y responsable de estas tecnologías.
Por último, el documento advierte que herramientas como los modelos de lenguaje pueden generar respuestas aparentemente coherentes pero incorrectas, ya que funcionan sobre bases probabilísticas y no comprenden el significado jurídico real. Esto hace necesario un uso prudente, especialmente por parte de personas sin formación legal. La UNESCO concluye que la inteligencia artificial debe servir para mejorar la justicia, pero nunca para reemplazar el juicio humano, que sigue siendo esencial para garantizar el Estado de Derecho.