La nueva tipología de instrumentos de transparencia algorítmica es el el eje central del último informe publicado por la Global Partnership on Artificial Intelligence (GPAI) sobre el uso de algoritmos en el sector público. Bajo el título «Transparencia algorítmica en el sector público: Un informe sobre el estado del arte de los instrumentos de transparencia algorítmica», el documento analiza cómo los gobiernos están intentando cumplir los principios de transparencia en el uso de sistemas automatizados y cuáles son los principales obstáculos que enfrentan en ese proceso.
El informe parte de la premisa de que la transparencia algorítmica no es un concepto único ni un instrumento aislado, sino un conjunto de mecanismos diversos que pueden y deben ser analizados de forma sistemática. En este contexto, la aportación más relevante del documento es la propuesta de una nueva tipología de instrumentos de transparencia algorítmica, que permite ordenar las prácticas existentes y evaluar su alcance real en términos democráticos y de rendición de cuentas.
Transparencia algorítmica
Antes de desarrollar esta tipología, el informe establece un marco conceptual amplio sobre qué debe entenderse por transparencia algorítmica. Lejos de una definición simplista, el documento la presenta como un concepto multifacético que puede interpretarse simultáneamente como capacidad, principio, norma, derecho e instrumento.
En primer lugar, se define como capacidad, en tanto posibilidad de auditar, supervisar y evaluar sistemas algorítmicos. También como principio, que orienta éticamente la divulgación de información relevante. Como norma o regla, expresada en estándares concretos de accesibilidad y explicabilidad. Como derecho, entendido como la prerrogativa ciudadana a conocer cómo funcionan los algoritmos que afectan a su vida; y como instrumento, materializado en mecanismos específicos que hacen efectiva esa transparencia.
El informe vincula esta noción con otros principios fundamentales de la gobernanza pública digital, como la explicabilidad, la rendición de cuentas y el derecho de acceso a la información. En términos operativos, define la transparencia algorítmica como «la capacidad de los actores internos o externos al desarrollo de un algoritmo para obtener información, supervisar, probar, criticar o evaluar la lógica, los procedimientos y el rendimiento de un sistema algorítmico con el fin de fomentar la confianza y aumentar la responsabilidad de los desarrolladores o controladores del sistema».
La tipología, hilo conductor del informe
Sobre esta base conceptual, el informe introduce su principal aportación: una tipología que distingue entre instrumentos de transparencia algorítmica impulsados por la oferta y instrumentos impulsados por la demanda. Esta distinción estructura todo el análisis posterior y funciona como hilo conductor del documento.
Alfredo Collosa publica un libro sobre la IA en el sector público
Los instrumentos impulsados por la oferta se caracterizan por la divulgación proactiva de información por parte del Estado, sin necesidad de una solicitud previa. Entre ellos se incluyen los repositorios públicos de algoritmos, las publicaciones periódicas de información sobre sistemas automatizados, las respuestas automatizadas integradas en trámites administrativos y la divulgación de auditorías algorítmicas.
Por el contrario, los instrumentos impulsados por la demanda se activan como reacción a solicitudes ciudadanas, investigaciones periodísticas o requerimientos administrativos y judiciales. En este grupo se sitúan las solicitudes de acceso a la información pública y las divulgaciones ordenadas por autoridades competentes.
Según el informe, esta tipología no solo permite clasificar los instrumentos existentes, sino también evaluar el grado de madurez de las políticas públicas en materia de transparencia algorítmica y detectar desequilibrios entre enfoques reactivos y proactivos.
Repositorios públicos de algoritmos
Dentro de los instrumentos impulsados por la oferta, el informe presta especial atención a los repositorios públicos de algoritmos, considerados uno de los mecanismos más prometedores para garantizar el acceso ciudadano a información relevante sobre decisiones automatizadas en el sector público.
Uno de los principales aportes empíricos del documento es el mapeo de 83 repositorios públicos de algoritmos, activos o en construcción, distribuidos en distintos niveles de gobierno y regiones del mundo. De estos, el 90% se encuentran activos. Estados Unidos lidera claramente con 37 repositorios, seguido por Países Bajos, Francia y Colombia.
Sin embargo, el informe subraya que la adopción de este tipo de instrumentos es desigual. Solo 11 de los 29 países miembros de GPAI cuentan con al menos un repositorio activo, lo que pone de manifiesto importantes brechas en la implementación de políticas de transparencia algorítmica.
La mayoría de los repositorios han sido desarrollados por organismos nacionales, aunque también se identifican iniciativas subnacionales, académicas y de la sociedad civil. En cuanto a su contenido, suelen incluir información básica como el nombre del sistema, sus objetivos, la unidad responsable, la arquitectura técnica, las fuentes de datos utilizadas y el tratamiento de datos personales.
No obstante, el informe detecta carencias relevantes: la divulgación de métricas de desempeño, impactos sociales, mecanismos de revisión o riesgos de discriminación es limitada o inexistente en muchos casos.
Instrumentos auxiliares y comprensión ciudadana
Algunos repositorios más avanzados incorporan instrumentos auxiliares que buscan mejorar la comprensión ciudadana y facilitar la interacción con los sistemas algorítmicos. Entre estos elementos se encuentran glosarios, manuales explicativos, formularios de retroalimentación, alertas personalizadas, simuladores interactivos y estrategias de difusión en redes sociales.
Según el informe, estos componentes adicionales resultan clave para evitar que la transparencia algorítmica se limite a una mera acumulación de información técnica difícil de interpretar, y para avanzar hacia modelos más accesibles y participativos.
Límites actuales
Desde una perspectiva democrática, el informe identifica ocho razones fundamentales que justifican la necesidad de desarrollar instrumentos de transparencia algorítmica sólidos. Entre ellas destacan el fortalecimiento del derecho de acceso a la información, la protección de derechos fundamentales, la promoción de un Estado abierto, la aplicación de principios éticos en inteligencia artificial, la supervisión pública de decisiones automatizadas, la mejora de la eficiencia institucional, el aprendizaje organizacional y la generación de información útil para el ecosistema tecnológico.
Sin embargo, el documento advierte que muchos de los instrumentos actuales, incluidos los repositorios, presentan limitaciones importantes. En numerosos casos, la información publicada es superficial, fragmentaria o difícil de interpretar, lo que puede derivar en una “transparencia performativa” sin efectos reales sobre la rendición de cuentas.
Entre los principales desafíos se encuentran la falta de capacidades institucionales, los costes técnicos y financieros de mantenimiento, las restricciones derivadas de la propiedad intelectual o la ciberseguridad, y la ausencia de estándares comunes. A ello se suma el hecho de que la información suele estar disponible en un solo idioma, lo que limita su accesibilidad en contextos multilingües.
Conclusiones
El informe concluye que la transparencia algorítmica no debe reducirse a la simple publicación de datos, sino que debe permitir evaluar, impugnar y mejorar los sistemas automatizados utilizados por el sector público. En este sentido, propone avanzar hacia estándares mínimos de divulgación, la creación de repositorios centralizados y multilingües, la integración de mecanismos de participación ciudadana y la incorporación de tecnologías de inteligencia artificial explicable como complemento a los instrumentos de transparencia existentes.
Asimismo, recomienda el desarrollo de portales únicos por país o región, con criterios homogéneos de publicación, que faciliten el acceso, la comparación y la supervisión de los sistemas algorítmicos públicos.
Aunque se presume que estos instrumentos pueden aumentar la confianza pública, mejorar la eficiencia administrativa y reducir las solicitudes de información, el informe reconoce que aún no existe suficiente evidencia empírica que lo confirme. Por ello, propone como línea prioritaria de investigación evaluar si los instrumentos de transparencia algorítmica, tal como están diseñados actualmente, generan realmente valor público.