La OCDE y la UNESCO han publicado un kit de herramientas del G7 para la aplicación de la IA l en el sector público. El informe está basado en una amplia investigación de ambos organismos y en los aportes proporcionados por los miembros del G7. Destaca tendencias, muestra iniciativas de IA exitosas y aborda los desafíos asociados con la implementación de la IA, sirviendo como gran recurso para los encargados de formular políticas y los administradores públicos comprometidos con el aprovechamiento de la IA.
Objetivos del KIT de IA en sector público
El objetivo del citado kit es apoyar y guiar a los gobiernos en el desarrollo, la implementación y el uso de la IA en el sector público de una manera segura y confiable. Se identifica en primer lugar las tendencias y las mejores prácticas del G7 en áreas clave, incluidas las estructuras de gobernanza, el seguimiento y la supervisión de los sistemas de IA y la creación de un entorno propicio para la IA.
La IA cambia nuestra forma de pensar aceleradamente
A continuación, destaca una serie de tendencias relacionadas con el uso de la IA en diferentes funciones del sector público para mostrar las iniciativas emprendidas, los beneficios obtenidos y los desafíos que enfrentan los miembros del G7 en relación con el uso de la IA en el sector público y por parte de éste. Por último, presenta un mapa del recorrido de las soluciones de IA del sector público, destacando las etapas clave y los factores transversales para su desarrollo, implementación y uso confiables.
El papel clave de los gobiernos
Los gobiernos están a la vanguardia de las iniciativas normativas y reglamentarias, ya que reconocen las importantes oportunidades que presentan las tecnologías digitales, incluida la IA segura y confiable, en todos los ámbitos y sectores de las políticas.
Son conscientes de los desafíos complejos y en constante evolución que plantea la IA respecto a la protección de los derechos humanos, como la privacidad. También lo son de los riesgos para la protección de los datos personales, la seguridad, la propiedad intelectual, el medio ambiente y la ampliación de las brechas digitales, incluida la de género. Estos desafíos y riesgos refuerzan la necesidad de integrar consideraciones éticas en relación con el desarrollo, la implementación y el uso de dichas tecnologías, también en el sector público y por parte de éste.
IA para mejorar la eficiencia en el sector público
Los gobiernos también surgen como usuarios principales y, en algunos casos, desarrolladores de sistemas y aplicaciones de IA, y están aprovechando e integrando progresivamente la IA para brindar mejores servicios y optimizar los resultados de las políticas. La implementación de IA por parte del sector público puede mejorar la eficiencia de las operaciones internas, la eficacia de la formulación de políticas, la capacidad de respuesta de los servicios públicos y la transparencia y la rendición de cuentas.
Implicaciones éticas de la IA
Existen inquietudes en relación con el uso seguro y confiable de tecnologías tan poderosas y la necesidad de gestionar los riesgos. Para abordar dichas inquietudes, los gobiernos deben tener en cuenta una serie de cuestiones. Entre ellas, la integración de consideraciones éticas sobre las implicaciones que puede tener para los ciudadanos y las sociedades el desarrollo, la implementación y el uso de la IA. Asimismo, deben evaluar si los sistemas de IA están diseñados, desarrollados y utilizados de una manera compatible con los derechos humanos, las libertades fundamentales y el estado de derecho.
Premios Nobel de 2024 para la IA
También es necesario tener en cuenta las oportunidades individuales y sociales de la tecnología, así como los daños que pueden causar el uso indebido, el abuso, el diseño deficiente o las consecuencias negativas no deseadas de los sistemas de IA, que incluyen sesgo y discriminación. Así como negación de la autonomía, recursos y derechos individuales, falta de transparencia, invasión de la privacidad, infracción de los derechos de propiedad intelectual y resultados poco confiables, inseguros o de mala calidad.
Planes de acción
Todos los miembros del G7 informan que han establecido objetivos estratégicos y han priorizado resultados, como la mejora de la prestación de servicios, la eficiencia operativa y la propia formulación de políticas. Las estrategias de IA del G7 tienden a concentrarse en facilitadores esenciales como la infraestructura, el acceso a los datos, la capacidad informática, las capacidades de investigación y el desarrollo de la fuerza laboral del sector público.
Los miembros han destacado iniciativas específicas como las directrices éticas, los marcos de gestión de riesgos, el desarrollo del talento, las normas de contratación pública, las asociaciones cooperativas, la disponibilidad de datos y la mejora de la infraestructura digital.
Voces de los usuarios
Los miembros del G7 informan que involucran a una amplia gama de partes interesadas en el diseño de sus estrategias de IA. Por ejemplo, a través de consultas públicas, divulgación de las partes interesadas y solicitudes públicas de comentarios. Las partes interesadas involucradas incluyen actores gubernamentales, líderes empresariales, ecosistemas de tecnología gubernamental y la comunidad de investigación.
La UE se alía con 71 inversores europeos para impulsar la tecnología
Los enfoques inclusivos ayudan a generar confianza entre los usuarios, los gobiernos y otras partes interesadas relevantes para dar forma a los servicios públicos impulsados por IA de una manera que agregue valor a la formulación de políticas y al diseño y la prestación de servicios
Gobernanza ética
Una gobernanza eficaz exige superar las tensiones relacionadas con los mandatos, las estructuras y los mecanismos de las organizaciones del sector público, que suelen estar estancadas. Los miembros del G7 tienden a sortear dichas tensiones y alinear las estrategias organizacionales mediante enfoques transversales o multiinstitucionales, o estableciendo instituciones líderes con una función de coordinación
Marcos más sólidos
Se necesitan marcos jurídicos, reglamentarios y de políticas sólidos para garantizar el desarrollo, la implementación y el uso seguros y confiables de la IA en el sector público y por parte de este. Unas reglamentaciones eficaces, ágiles y preparadas para la innovación pueden proteger a los ciudadanos, incluido el libre ejercicio de sus derechos, gestionar eficazmente los riesgos y prevenir el uso indebido, al tiempo que alinean los avances de la IA con los valores y las necesidades de la sociedad.
Los marcos de gobernanza existentes abordan una variedad de cuestiones que van desde el uso de la IA, la protección de datos, la privacidad y el intercambio de datos hasta la libertad de información. Los miembros del G7 han implementado salvaguardas adicionales para permitir el desarrollo, la implementación y el uso seguros y confiables de la IA.
Incluyen requisitos de transparencia para algoritmos públicos, regulaciones sobre la toma de decisiones automatizada y marcos de gestión de riesgos o directrices éticas que aborden las implicaciones del diseño y el uso de sistemas de IA, proporcionando a los desarrolladores y usuarios los recursos conceptuales y las herramientas prácticas para permitir el diseño y la implementación responsables de proyectos de IA. Al enfatizar las buenas prácticas, los miembros del G7 se centran en garantizar que el sector público respete estos estándares al aprovechar la IA
Mejorar la escalabilidad
Si bien se han logrado avances significativos en el desarrollo y la implementación de la IA en el sector público, aún quedan muchas oportunidades por explorar. Se necesita más investigación al respecto y es fundamental equilibrar los riesgos y las oportunidades, ya que la aplicación de la IA en ciertas áreas puede generar inquietudes sobre privacidad, seguridad, sesgo y discriminación, que superan los posibles beneficios.
Uso más sistemático
Se identificaron varios desafíos clave asociados con la implementación sistemática de la IA en el sector público y se están desarrollando opciones de políticas concretas para abordarlos. Se están realizando esfuerzos para construir las bases necesarias para un uso eficaz y responsable de la IA, que incluyen el fortalecimiento de la infraestructura y la gobernanza de datos.
Los marcos de gobernanza de datos para el sector público son cada vez más relevantes y están alineados entre los países. Están surgiendo un número cada vez mayor de marcos y directrices dedicados a la adquisición de IA que incluyen requisitos relacionados con la confiabilidad de la IA.
Implementación de IA en el sector público
Se ha adoptado un enfoque progresivo en relación con la IA en el sector público, proporcionando una orientación y unos marcos claros y garantizando la eficacia y la fiabilidad de las soluciones de IA, con el fin de maximizar los beneficios y mitigar los posibles inconvenientes.
Los enfoques progresivos y experimentales implican la participación de las partes interesadas durante toda la fase de desarrollo, la evaluación de las necesidades de los usuarios, la evaluación de la disponibilidad y la calidad de los datos y el seguimiento continuo de los avances desde las fases de creación de prototipos y de prueba (por ejemplo, mediante evaluaciones de impacto ex ante o en el marco de entornos regulatorios de prueba).