La inteligencia artificial (IA) ha tenido en la vigilancia una de sus primeras prácticas. Con bastantes críticas desde la perspectiva ética sobre sus sesgos, se ha convertido en herramienta fundamental en aquellos lugares que requieren especiales controles como: aeropuertos, entradas a infraestructuras sensibles, etc. Incluso en herramienta para algunas políticas criminales. Es una IA que vigila. Pero de mano de la propia IA estamos entrando en una nueva etapa de la automatización. Una automatización que convierte en actores con capacidad de decidir a máquinas. Es a partir de aquí donde la relación de vigilancia parece invertirse, lo que hay que vigilar es a la IA. Especialmente a partir del momento que puede tomar decisiones. Un requerimiento que nos conduce a la paradoja de la automatización de las máquinas, incluyendo la IA.
IA humana
Desde que las primeras máquinas empezaron a moverse sin impulso animal, el sueño del automatismo ha ido aumentando su presencia. Máquinas que trabajaran por sí mismas. En principio, imaginadas de ruedas, poleas y cuerdas. Hasta el Estado se pensó así, como un organismo de ruedas dentadas que funciona autónomamente. Así lo pensó Hobbes, para librarnos de los vicios humanos. Pero el Estado no consiguió librarse de esos vicios, más fuertes y escurridizos que el acero de los cables y esas ruedas dentadas.
350 millones contra la IA: Warren Buffett respalda la resistencia del New York Times
Ahora, el automatismo se imagina de chips y placas. Ya estamos rodeados de múltiples dispositivos que funcionan autónomamente, estimulados por pequeños detalles del entorno. Se trata de aparatos con bastante complejidad, pero para respuestas relativamente simples, que controlan pocas dimensiones: luces, adaptación de temperaturas, alarmas, respuestas muy estandarizadas. Pero el sueño sigue estando ahí. Con la creciente sensación de que está ya tocándose con los dedos: medios de transporte autónomos, conversaciones con respuestas complejas, dispositivos de control de grandes infraestructuras, etc. En estas automatizaciones de control, se trataba fundamentalmente de que los dispositivos intervenían por sí mismos si algo fallaba.
Se trata de un sueño que ha cultivado también terribles pesadillas. La pesadilla de que la autonomía de tales máquinas se volviera contra sus creadores. Contra los seres humanos. Por eso, Asimov dispuso las tres reglas de la robótica: 1. No dañar: un robot no dañará a un ser humano ni, por inacción, permitirá que sufra daño; 2. Obedecer: un robot obedecerá órdenes humanas, a menos que entren en conflicto con la Primera Ley; 3. Protegerse: un robot protegerá su propia existencia, siempre que no viole la Primera o Segunda Ley.
Nueva etapa de la automatización
Dentro de todo este proceso late las dudas sobre el propio concepto de automatización, que también ha venido desarrollándose, según aumentaban las capacidades de la propia automatización. En cierto modo, cuanta más automatización se consigue, más autonomización queremos. Es un proceso que tiene las características de lo adictivo, pues, cuando las cosas son se hacen más fáciles por la automatización, nos cuesta volver a etapas anteriores, previas a la misma. Pues bien, estamos en el camino hacia una nueva etapa de la automatización, la denominada era agéntica o era de los sistemas que se marcan objetivos. Algo que va más allá de la lógica adaptación-respuesta-
Una nueva etapa de la automatización dirigida por la IA. Básicamente se trata de plantear problemas a la máquina, de la índole que sea, y que ella se las apañe. José Maldonado nos daba en Observatorio Blockchain ejemplos de esta nueva lógica. Los negocios pasan a dirigirse en colaboración con estas nuevas máquinas. Pronto ocuparán puestos directivos. Está a punto de empezar una dura batalla entre directivos de las empresas a la hora de decidir qué máquinas de estas implementar. Una decisión que emite señales sobre qué cargos pudieran desaparecer en el futuro, pues estas máquinas se encargarán de realizar buena parte de su trabajo. Una parte de estas tareas consistirá en dar órdenes a humanos empleados. Esperemos que sigan las reglas de Asimov en vigor.
Resistencias a las órdenes del próximo BossIA
Es difícil esperar una réplica del “buen jefe”, ya que tal figura parece inexistente. Pero, al menos, que no se alimente fundamentalmente del perfil del “mal jefe”. Adelantamos resistencias a las órdenes del próximo BossIA. Seguro que aparece una nueva legislación que obligará a las empresas a alimentar a estos nuevos jefes con la documentación de la organización limpia de malas actuaciones.
Solo podrá tener por referencia la trayectoria de los mejores empleados. Otra tarea para los de compliance, hasta que sean sustituidos por una máquina agente autónoma. En todo caso, pensemos que las empresas cumplirán con esta buena dieta informativa. Pero el nuevo agente autónomo podría querer tener su propia dieta. Ser un ente autónomamente curioso y actuar, pero sin responsabilidades.
Tal vez sin tomar en consideración las potenciales consecuencias de su decisión. Ya se han registrados casos de decisiones automatizadas por IA que han derivado en importantes pérdidas para las compañías para las que trabajaban. Entonces, habría que moderar su autonomía. Pero toda moderación de autonomía sería una no autonomía. Tal vez, poner un supervisor, delegando a nivel de herramienta subordinada el alcance del agente IA. ¡Demasiadas alforjas para tan corto camino! Casi se volvería a la situación presente. De la IA que vigila, nos convertimos en los vigilantes de la IA.