Colombia ha publicado la «Guía Ética para la Implementación, Desarrollo y Uso de Sistemas de Inteligencia Artificial en Entidades Públicas». Se trata de un documento que sienta las bases para una futura normativa legal vinculante y fija como prioridad la protección de los derechos humanos, la dignidad de las personas y los valores democráticos en el uso de estas tecnologías por parte del Estado.
Orientar en todo el ciclo de vida de los sistemas de IA
La guía, dirigida a las entidades públicas nacionales, busca orientar en todo el ciclo de vida de los sistemas de IA. Desde su diseño y desarrollo hasta su implementación y uso, para garantizar que su adopción contribuya al bien común, refuerce la confianza institucional y evite prácticas de control invasivo o automatización sin supervisión humana. El documento se presenta como un instrumento estratégico para convertir la IA en un motor de valor público para el país, en línea con las recomendaciones de la OCDE (2025).
El texto adopta una visión ética integral basada en principios globales y buenas prácticas internacionales, adaptadas al contexto colombiano y a sus necesidades institucionales, sociales y jurídicas. En dicho marco, identifica los principios éticos fundamentales que deben guiar el uso de la IA en el sector público, los habilitadores clave para una implementación exitosa y las salvaguardas necesarias para identificar, prevenir y mitigar los riesgos asociados a estas tecnologías.
La IA como herramienta estratégica para el Estado
Entre sus conclusiones generales, la guía subraya que la IA representa una herramienta estratégica clave para modernizar y fortalecer el sector público colombiano, con potencial para mejorar la productividad, la atención a la ciudadanía y la confianza en las instituciones. No obstante, advierte que su implementación debe abordarse desde una visión integral que combine principios éticos, marcos de gobernanza adaptados al contexto nacional e inversiones sostenidas en capacidades críticas como datos, infraestructura tecnológica, talento humano y financiación.
Alfredo Collosa publica un libro sobre la IA en el sector público
El documento insiste en que, en esta visión, debe prevalecer siempre la protección de los derechos humanos y la dignidad de las personas por encima de criterios de eficiencia o crecimiento económico. Uno de los objetivos centrales es que las entidades públicas diseñen sistemas de IA orientados a potenciar las capacidades humanas y a optimizar procesos, evitando su uso como herramientas de instrumentalización, vigilancia excesiva o control invasivo.
Asimismo, se destaca que el éxito de una IA responsable en el ámbito gubernamental dependerá en gran medida de la colaboración multisectorial entre el Estado, el sector privado, la academia y la sociedad civil, así como del impulso a iniciativas GovTech y a asociaciones público-privadas. A ello se suma la necesidad de consolidar una cultura de aprendizaje continuo, apoyada en mecanismos sólidos de monitoreo y evaluación que permitan ajustar las estrategias conforme evolucionen la tecnología y el entorno.
Recomendaciones
La guía incluye un conjunto detallado de recomendaciones orientadas a asegurar que la adopción de la inteligencia artificial en el sector público colombiano sea ética, equitativa y genere confianza ciudadana. Entre ellas, destaca la inversión estratégica en habilitadores clave, comenzando por los datos, mediante la creación y mantenimiento de una infraestructura de datos públicos de alta calidad, representativa y accesible, con garantías de privacidad y seguridad.
En materia de talento, el documento propone implementar programas de capacitación masiva en inteligencia artificial y alfabetización digital para todos los niveles de la administración pública, desde usuarios generales hasta perfiles altamente especializados. En cuanto a infraestructura, recomienda evaluar y adoptar soluciones de poder computacional, incluidas arquitecturas en la nube o híbridas, que respondan a las necesidades de la IA, incorporando criterios de eficiencia y sostenibilidad ambiental.
Verificar la integridad de la información
Otra recomendación central es la implementación de sistemas integrales de auditoría y evaluación, mediante el desarrollo de capacidades internas y externas para realizar Evaluaciones de Impacto Algorítmico (AIA) y auditorías sociotécnicas de forma regular y obligatoria, especialmente en sistemas considerados de alto riesgo. Estas evaluaciones deben incluir mecanismos robustos para verificar la integridad de la información y mitigar de manera proactiva los riesgos derivados del uso de contenido sintético o deepfakes. La guía también subraya la necesidad de asegurar la rendición de cuentas, identificar riesgos de forma temprana y establecer mecanismos claros de recurso y apelación frente a decisiones asistidas por IA.
En materia de transparencia y explicabilidad, el documento propone la creación de un registro público y accesible de todos los sistemas de inteligencia artificial utilizados por las entidades nacionales, detallando su propósito, los datos empleados, los mecanismos de operación y las evaluaciones de impacto realizadas. Asimismo, se prioriza el diseño de sistemas interpretables, capaces de explicar sus decisiones en un lenguaje claro y comprensible para la ciudadanía, especialmente en ámbitos sensibles como la justicia.
Anonimización de datos
En el caso colombiano, la guía señala que este registro debe ser obligatorio y que, en cumplimiento de la Sentencia T-067 de 2025, los lineamientos de transparencia algorítmica deben contemplar la evaluación proactiva de la publicación del código fuente, total o parcial, en sistemas de alto riesgo, garantizando la anonimización de los datos y la separación de credenciales de acceso a bases sensibles.
Finalmente, la guía recomienda aprovechar y escalar experiencias exitosas mediante la documentación sistemática de las lecciones aprendidas en iniciativas nacionales y territoriales. Estas experiencias deben servir como base para replicar y adaptar soluciones de IA en otros contextos y funciones gubernamentales, fomentando el intercambio de conocimientos y buenas prácticas entre entidades, con estructuras de colaboración permanente que permitan maximizar el impacto de las inversiones públicas en inteligencia artificial.
Con esta publicación, Colombia avanza en la construcción de un marco ético y operativo que sienta las bases para una futura regulación legal vinculante de la inteligencia artificial responsable, con el objetivo de avanzar hacia un gobierno más eficiente, transparente y centrado en las personas.
