El problema de las alucinaciones verosímiles de la IA

Criptoagosto: El problema de las alucinaciones verosímiles de la IA

3 agosto, 2024 1 min read

Alucinaciones (hallucinations) son las respuestas incorrectas que los distintos modelos de inteligencia artificial (IA) nos ofrecen. Tal vez porque, enemigos declarados o silenciosos de la IA, la hagamos preguntas perversas e impertinentes. El caso es que hay empresas y técnicas ya especializadas en evitar las alucinaciones de los modelos de la IA.

STABLECOINS GANADORAS (PAYPAL) Y PERDEDORAS (USDT) TRAS ENTRAR EN VIGOR MICA

Alucinaciones de la IA

Entre las empresas, se encuentra Contextual AI, la startup que acaba de levantar 80 millones de dólares estadounidenses para su financiación. Y las técnicas para posibilitar, al menos, la verificación de una respuesta, se irán implementando en los distintos modelos. En especial, en los ofertados por las grandes corporaciones tecnológicas: Microsoft, Google, Amazon, etc.

De momento, las alucinaciones de la IA están ahí. Sin que puedan atribuirse a trastornos mentales o ingesta de sustancias. El problema de estas respuestas alucinadas es lo creíbles que son. Nos las tragamos con bastante facilidad. Carecen de verificación; pero tienen amplia verosimilitud.

ARGENTINA INICIA EL CAMINO DE LA TOKENIZACIÓN CON CERTIFICADOS DE DEPÓSITOS Y WARRANTS

Incluso los expertos se preguntan de dónde surgen tales alucinaciones. Entre otras cosas, se reconoce a la inteligencia artificial una capacidad de inventiva e incluso creación, que está fuera de toda planificación. Es un inventar por su cuenta y, lo que asombra todavía más, de manera verosímil.

Alucinaciones verosímiles e infundadas

Se comprenden las respuestas erróneas cuando se trata de errores como los que podría cometer un humano. Por ejemplo, preguntar por el autor de una novela y contestar con otro nombre de otro autor coetáneo y paisano. También se comprende que ofrezca información muy desactualizada, pues ello depende de la información con que se ha alimentado el modelo de inteligencia artificial. Pero lo que alucina son sus alucinaciones verosímiles e infundadas.