¿Por qué 6 meses son suficientes para salvarnos de la gran amenaza de la IA?

Información falsa y pérdida de empleo, principales amenazas de la IA

3 abril, 2023 3 min read

Más de mil expertos en inteligencia artificial (IA), altos ejecutivos de empresas tecnológicas e ilustres pensadores firman una “carta abierta”, publicada por la organización Future of Life Institute. El objetivo es parar la carrera durante seis meses del entrenamiento de los sistemas de inteligencia artificial. Lo califican de gran amenaza para la Humanidad.

La lista de firmantes está repleta de talento y renombre: Steve Wozniak, Elon Musk, Yuval N. Harari, Bill Gates y una larga lista de investigadores. Solicitan parar de inmediato el entrenamiento de los sistemas de inteligencia artificial más potente que GPT-4. Perciben que los laboratorios implicados en tal entrenamiento se han enfrascado en una carrera sin control. Pero ¿por qué seis meses parecen suficientes para salvarnos de esta gran amenaza?

IA

La respuesta de OpenAI apenas se hizo esperar. Tres horas. Sam Altman, CEO de la empresa, publicó en Twitter: “Todo muy calmado en el ojo del huracán”. Una respuesta en que se asume como centro al que se dirige la carta. Altman aprovechó para decir las cosas necesarias para un buen futuro de AGI: capacidad técnica para alinear una superinteligencia, suficiente coordinación entre la mayoría de los principales esfuerzos de AGI y un marco regulatorio global efectivo que incluya la gobernabilidad democrática.

La oportunidad de blockchain en la publicidad con IA

Si la solicitud no es escuchada por las empresas que están trabajando con inteligencia artificial generativa, los firmantes piden la intervención de los gobiernos. Cuestión que llama la atención, teniendo en cuenta la notable presencia de pensadores de tendencia liberal entre los firmantes. En Italia, la agencia de protección de datos pidió el cese del uso de ChatGPT en su territorio, tras acusar a OpenAI de incumplir con la normativa de protección de datos de los usuarios. La respuesta de Sam Altman, CEO de OpenAI, no se hizo esperar e indicó en su cuenta de Twitter que aunque cree que están siguiendo todas las leyes de privacidad, desde el 31 de marzo ya no ofrecen ChatGPT en Italia.

We of course defer to the Italian government and have ceased offering ChatGPT in Italy (though we think we are following all privacy laws).

Italy is one of my favorite countries and I look forward to visiting again soon!

— Sam Altman (@sama) March 31, 2023

Los principales riesgos que se señalan los firmantes de la carta son: la generación de información errónea y la extensa sustitución de tareas por la automatización, con la consabida pérdida de empleos. Sobre lo segundo, hace más de un decenio que se viene anunciando. Según el informe publicado en 2019 por la consultora Deloitte, State of AI in the Enterprise, el 57% de los líderes empresariales creía que su empresa iba a experimentar importantes transformaciones en los próximos tres años. Parece que, como si se tratara de una condena de muerte, ha llegado la fecha.

Blockchain e IA, la suma perfecta para la descentralización de la Web3

Sobre la generación de información errónea, en su versión “ingenua”, o falsa, es de esperar que se desarrollen rápidamente máquinas con la inteligencia artificial capaz de detectar qué está hecho con inteligencia artificial. Incluso que está erróneamente hecho por una máquina de IA. Máquinas que controlan. Todo buen lector de Ciencia Política o de Ciencia Ficción se preguntará: ¿Y qué o quién controla a las máquinas que controlan los resultados de las máquinas? Y, en tal caso ¿Tendrán tiempo de actuar?

Cómo hacer una IA de todos en Web3 con nuestros datos

En todo caso, es precisamente esta posibilidad de “error” la más preocupante. Una potencia de error que va más allá de lo anecdótico que puede ser ver al Papa con un moderno abrigo de la firma Balenciaga. Aunque en la anécdota hay ya germen para el terror. Puede tratarse de un error de información que cause una gran catástrofe.

Ahora bien, como dice el propio Future of Life Institute, el problema de la IA no es cómo se siente, pues ni siente, ni padece. El problema es lo que puede llegar a hacer, sin padecer lo más mínimo. Incluso estando programada para fines beneficiosos. ¡Es tan apasionante, como estresante! ¿Se hará caso al llamamiento de la carta? ¿Qué se hará durante los próximos seis meses? Estaremos atentos.