Microsoft ha elaborado 18 reglas para mejorar la relación entre los humanos y la IA. Las recomendaciones abarcan desde algo tan básico como dejar claro qué puede hacer un sistema de IA y cuáles son sus limitaciones hasta cuestiones mucho más complejas, como explicar sus decisiones, corregir sus errores, gestionar lo que recuerda del usuario o avisar cuando cambia su comportamiento.
Las reglas forman parte del HAX Toolkit (Human-AI eXperience Toolkit), desarrollado por Microsoft Research para ayudar a diseñadores, ingenieros y responsables de producto a construir sistemas de inteligencia artificial centrados en las personas.
La iniciativa intenta responder a un problema que se ha vuelto mucho más visible con la expansión de la IA generativa: las máquinas con las que interactuamos ya no se comportan como el software tradicional. Pueden equivocarse, interpretar de manera diferente una misma petición, aprender de nuestro comportamiento, recordar determinadas interacciones y modificar su forma de responder con el paso del tiempo.
Esto plantea una cuestión que va mucho más allá de la tecnología: ¿cómo debería ser nuestra relación con una inteligencia artificial?
Microsoft lleva más de dos décadas investigando esta cuestión. El resultado es un conjunto de 18 principios que buscan establecer unas reglas básicas para diseñar esa relación y, sobre todo, garantizar que las personas puedan entender, corregir y controlar los sistemas de IA que utilizan.
Las denominadas Guidelines for Human-AI Interaction condensan más de veinte años de investigación sobre interacción entre humanos y computadoras y fueron presentadas originalmente en un trabajo académico publicado en 2019 en la conferencia CHI.
Aunque las guías son anteriores a la explosión de ChatGPT y de la actual inteligencia artificial generativa, muchas de las cuestiones que plantean han adquirido ahora una relevancia mucho mayor: qué debe recordar una IA, cómo debe aprender de nosotros, cómo debería explicar sus errores o hasta qué punto debemos poder controlar su comportamiento.
G1. Deja claro qué puede hacer el sistema
El usuario debe entender cuáles son las capacidades reales del sistema de inteligencia artificial. Parece una recomendación elemental, pero resulta fundamental para evitar que una persona atribuya a una IA capacidades que en realidad no posee.
G2. Deja claro qué tan bien puede hacerlo
No basta con explicar qué hace una inteligencia artificial. También es necesario comunicar hasta qué punto puede hacerlo correctamente. El usuario debe poder comprender que el sistema puede equivocarse y cuál es aproximadamente el nivel de fiabilidad que puede esperar.
G3. Sincroniza los servicios según el contexto
La inteligencia artificial debería decidir cuándo actuar o cuándo interrumpir teniendo en cuenta la tarea que está realizando la persona y el contexto en el que se encuentra. No toda recomendación resulta útil en cualquier momento.
G4. Muestra información contextualmente relevante
El sistema debe ofrecer información relacionada con lo que el usuario está haciendo en ese momento y con su entorno. La relevancia no depende únicamente del contenido, sino también del contexto.
G5. Respeta las normas sociales pertinentes
Una inteligencia artificial no interactúa en un vacío social. Su comportamiento debería ajustarse a las expectativas del usuario teniendo en cuenta su contexto social y cultural.
G6. Mitiga los sesgos sociales
El lenguaje y el comportamiento del sistema deben evitar reforzar estereotipos o reproducir sesgos injustos. Es una de las cuestiones que posteriormente se convertirían en uno de los grandes debates alrededor del desarrollo de la inteligencia artificial.
G7. Facilita la invocación eficiente
Pedir ayuda a la inteligencia artificial debería ser sencillo. El usuario tiene que poder solicitar o activar sus servicios fácilmente cuando los necesite.
G8. Facilita el descarte eficiente
Tan importante como poder utilizar una función es poder ignorarla. El sistema debe permitir descartar fácilmente recomendaciones, intervenciones o servicios que el usuario no quiera utilizar.
G9. Facilita la corrección eficiente
¿Qué ocurre cuando la inteligencia artificial se equivoca? Microsoft considera que el usuario debe disponer de mecanismos sencillos para editar, refinar o corregir el resultado. El error no debería convertirse en un callejón sin salida.
G10. Delimita los servicios ante la duda
Cuando el sistema no comprende exactamente qué quiere una persona, debería intentar aclarar su intención o reducir sus prestaciones de manera controlada. En otras palabras, una inteligencia artificial debería saber gestionar también su propia incertidumbre.
G11. Explica por qué hizo lo que hizo
Esta regla entra directamente en uno de los grandes problemas de la inteligencia artificial: la explicabilidad. El usuario debería poder acceder a una explicación sobre el comportamiento del sistema y comprender, al menos en cierta medida, por qué ha producido determinado resultado.
G12. Recuerda interacciones recientes
Microsoft recomienda que los sistemas mantengan una memoria de corto plazo que permita hacer referencia de manera eficiente a interacciones anteriores. La relación con una inteligencia artificial no debería comenzar necesariamente desde cero en cada intercambio.
G13. Aprende del comportamiento del usuario
El sistema puede utilizar las acciones de una persona para personalizar progresivamente su experiencia. La IA aprende así de las preferencias y del comportamiento del usuario a lo largo del tiempo.
G14. Actualiza y se adapta con cautela
Pero aprender no significa cambiar constantemente. Microsoft advierte de que las modificaciones del comportamiento del sistema deben realizarse con cautela para evitar cambios disruptivos que desconcierten al usuario. Una herramienta que hoy funciona de una determinada manera no debería comportarse mañana de forma completamente distinta sin una razón comprensible.
G15. Fomenta la retroalimentación granular
El usuario debería poder comunicar sus preferencias durante la interacción habitual. No se trata únicamente de valorar si algo está bien o mal, sino de proporcionar señales más específicas que permitan al sistema comprender mejor qué espera la persona.
G16. Comunica las consecuencias de las acciones
Si una decisión del usuario va a modificar el comportamiento futuro del sistema, esa consecuencia debería comunicarse inmediatamente. La persona necesita saber qué efectos tendrá su interacción con la inteligencia artificial.
G17. Ofrece controles globales
La personalización no puede quedar exclusivamente en manos del algoritmo.
El usuario debería disponer de controles generales que le permitan decidir qué puede supervisar el sistema y cómo quiere que se comporte.
G18. Notifica los cambios
La última recomendación resulta especialmente relevante en sistemas que evolucionan constantemente. Cuando una inteligencia artificial incorpora nuevas capacidades o modifica las existentes, debería informar al usuario.
Las 18 reglas también pueden entenderse como una especie de recorrido por la relación entre una persona y una inteligencia artificial. Las dos primeras, G1 y G2, corresponden al comienzo de esa relación. Antes de utilizar un sistema, necesitamos saber qué puede hacer y hasta qué punto podemos confiar en sus resultados.
Las reglas G3 a G10 se concentran principalmente en la interacción cotidiana. La inteligencia artificial debe proporcionar información relevante, respetar determinadas normas sociales y permitir que el usuario pueda utilizar, ignorar o corregir sus servicios fácilmente.
Cuando el sistema falla, las reglas G9 y G11 adquieren especial importancia: hay que permitir que el usuario corrija el error y ofrecer explicaciones sobre lo sucedido.
Finalmente, las reglas G12 a G18 abordan una cuestión cada vez más importante: qué ocurre cuando nuestra relación con una inteligencia artificial se prolonga en el tiempo.
Es entonces cuando aparecen la memoria, el aprendizaje, la personalización y la adaptación, pero también la necesidad de establecer controles y comunicar los cambios.
La expansión de la inteligencia artificial generativa ha transformado radicalmente la manera en que millones de personas interactúan con el software. Ya no se trata únicamente de pulsar botones, navegar por menús o introducir palabras en un buscador. Ahora conversamos con las máquinas.
Les explicamos qué necesitamos, añadimos contexto, corregimos sus respuestas, pedimos alternativas y esperamos que comprendan lo que acabamos de decir. En algunos casos también esperamos que recuerden nuestras preferencias y adapten su comportamiento.
Esa transformación hace especialmente actuales muchas de las preguntas que Microsoft Research planteaba años antes de la popularización de los grandes modelos de lenguaje.
¿Qué debe saber un usuario sobre las limitaciones de una inteligencia artificial? ¿Qué ocurre cuando se equivoca? ¿Cómo puede corregirla? ¿Por qué ha producido determinada respuesta? ¿Qué debería recordar? ¿Cómo aprende de nuestro comportamiento? ¿Hasta qué punto podemos controlar ese aprendizaje? ¿Y qué ocurre cuando el sistema cambia?
Son cuestiones de diseño, pero también de confianza. Un sistema que genera expectativas irreales sobre sus capacidades puede terminar decepcionando al usuario. Una inteligencia artificial que falla sin permitir una corrección sencilla genera frustración. Un sistema que reproduce determinados sesgos puede amplificarlos. Y una herramienta que cambia continuamente sin explicar esos cambios puede terminar erosionando la confianza de quienes la utilizan.
Las Guías para la Interacción Humano-IA intentan proporcionar un lenguaje común para anticipar estos problemas antes de que el producto llegue al usuario. Su principal valor reside precisamente en trasladar años de investigación académica a decisiones concretas de diseño.
Los ejemplos, patrones reutilizables, herramientas de trabajo y procesos incluidos en el HAX Toolkit permiten utilizar estas recomendaciones tanto para construir un primer producto con inteligencia artificial como para revisar sistemas que ya están funcionando.
El objetivo no es impedir que la inteligencia artificial evolucione, sino conseguir que esa evolución resulte comprensible para las personas que van a utilizarla. Porque cuanto más capaces sean estos sistemas, más importante será establecer claramente qué pueden hacer, cuándo pueden equivocarse y qué capacidad mantiene el usuario para intervenir.
El HAX Toolkit puede entenderse, en última instancia, como algo más que un manual de diseño. Sus 18 principios dibujan unas reglas básicas para una relación que se está convirtiendo rápidamente en cotidiana: la relación entre seres humanos y sistemas inteligentes.
Microsoft Research comenzó a sistematizar estas recomendaciones antes de que la inteligencia artificial generativa se convirtiera en un producto de consumo masivo. Sin embargo, la expansión actual de estos sistemas hace que muchas de aquellas preguntas resulten todavía más relevantes.
La inteligencia artificial puede aprender, recordar, recomendar, anticiparse y adaptarse. Pero también puede equivocarse. Y precisamente por eso no basta con diseñar máquinas cada vez más inteligentes. También es necesario diseñar cómo queremos relacionarnos con ellas.