La irresponsable responsabilidad de la IA

19 agosto, 2024 2 min read

En su responsabilidad, la IA de ChatGPT nos avisa de que puede cometer errores. Lo dice así, literalmente. A lo que añade una invitación: “Considera verificar la información importante”. Mensaje que le deja a uno un tanto perplejo, envuelto en un mar de paradojas. El que sea verano es lo bueno, pues para eso está: para sumergirse en el mar y las paradojas. Pues lo de ChatGPT es un trampolín.

Por qué Grok 2, la nueva versión de la IA de Elon Musk, supera a ChatGPT

Empiezan las dudas sobre el grado de importancia de la demanda informativa hecha a ChatGPT. ¿Será suficientemente importante la información que pido, como para buscar la respuesta más allá de lo que ChatGPT me haya dado? Lo deja en el tejado del demandante de la información, de quien consulta. Pero ¿Y, si le preguntamos a ChatGPT que nos diga si la información que ha sido solicitada sobre -pongamos “X”- es suficientemente importante, sería esta segunda demanda de información suficientemente importante? Así se podría ir hasta el infinito ¡Y más allá!, como proclama Buzz Lightyear.

La responsabilidad de la IA

Otro grado de paradoja se encuentra en la calificación del propio ejercicio de ChatGPT al fijar ese mensaje en el final de sus respuestas. Es como si pidiese que confiáramos en ChatGPT porque nos aclara -hablando, así, en confianza, y aquí la redundancia es retóricamente excesiva- que sus respuestas son un tanto inciertas. Una especie de ejercicio de responsable irresponsabilidad. Debería darnos las respuestas correctas; pero puede que su producto sea poco satisfactorio. Esta sería la irresponsabilidad. Después y esta es la parte de responsabilidad, nos advierte.

Así ha sido la evolución de los ETFs de Bitcoin y Ethereum

Todo huele, aunque de lejos, a un clásico. A la clásica paradoja del mentiroso –“yo miento”- de la que se han escrito voluminosos tratados, concluyendo, entre otras cosas, que se trata de una relación de varias paradojas en forma condensada.

El mensaje de la IA es una responsable irresponsabilidad o una irresponsabilidad responsable, en la que hay que confiar desconfiadamente o desconfiar confiadamente. Como ocurre con, por ejemplo, los mensajes publicitarios. Cuando un mensaje se enmarca bajo la categoría de “publicidad” nos está diciendo algo parecido: esto es algo diferente a la información-información. Tampoco es ruido, pero su credibilidad y uso dependen de usted.

Internet, publicidad, cosas y personas

También ocurre en muchos contratos, llenos de salvedades y avisos, que suelen dejar la responsabilidad en la parte más débil de la contratación. Véanse la mayor parte de los contratos que se firman con los bancos. Y, mientras tanto, la vida práctica discurriendo: hay que firmar la hipoteca, comprar esto o aquello, saciar nuestra demanda de información. Las necesidades prácticas son las que resuelven las paradojas. Entonces ¿aceptamos la respuesta que nos da ChatGPT?

Los tokens de inteligencia artificial (IA) más capitalizados

En mi experiencia, decir que las respuestas de ChatGPT tienden a ser bastante atinadas en cuanto a nombres, de cosas o personas. Al fin y al cabo, internet, fuente de alimentación de ChatGPT está hecho principalmente de publicidad de cosas y personas. En cuanto a las fechas, pues, eso: considere verificarla si se trata de algo importante.

Con el desarrollo de la inteligencia artificial todo este panorama cambiará. Se arreglará, por ejemplo, poniendo calificaciones al grado de veracidad o confianza que ChatGPT -u otra concepción de la GAI (Inteligencia Artificial Generativa, por sus siglas en inglés)- proyecta en sus propias respuestas. Una especie de autocalificación de su trabajo. Así, con estrellitas u otros iconos