ChatGPT no sabe lo que te va a contestar. Ni siquiera cuando ya empezó a escribirlo.
Va decidiendo palabra por palabra, en vivo, como quien inventa una excusa mientras la está diciendo y se va comprometiendo con lo que lleva dicho.
Eso no es un defecto ni una simplificación mía. Es literalmente cómo funciona, y entenderlo explica de golpe casi todo lo raro que hace: por qué inventa datos, por qué suena seguro cuando se equivoca, y por qué a veces responde distinto a la misma pregunta.
Las tres letras
LLM significa Large Language Model, o sea Modelo Grande de Lenguaje. Las tres palabras dicen algo:
Grande por la cantidad de parámetros, que son los números que el modelo fue ajustando mientras aprendía. Los modelos de hoy tienen cientos de miles de millones.
Lenguaje porque su único trabajo es predecir qué pedazo de texto viene después.
Modelo porque es una representación matemática, no una base de datos con respuestas guardadas. Esa distinción es la que casi nadie tiene clara y la que más importa.
Lo que pasa cuando le preguntas algo
Aquí está el punto que cambia cómo entiendes todo lo demás.
Cuando le escribes una pregunta, el modelo no busca la respuesta en ningún lado. La calcula.
Toma todo lo que llevas escrito, estima qué pedacito de texto es el más probable que siga, y lo escribe. Después vuelve a empezar, ahora incluyendo ese pedacito que acaba de poner. Y otra vez. Y otra.
Palabra por palabra, cada una condicionada por todas las anteriores.
Por eso lo ves escribir de corrido en la pantalla. No es una animación bonita, es el modelo generando de verdad, en ese momento.
Qué pasa por dentro
El modelo no ve letras. Ve números.
Cada palabra se convierte en una lista larga de números que representa su significado. Toda esa matemática pasa por una arquitectura llamada Transformer, que se presentó en 2017 en un artículo con un título que ya es famoso: Attention Is All You Need.
Lo que resolvió ese trabajo fue un problema concreto: qué parte de una frase importa para entender cada palabra. El mecanismo se llama atención, y es lo que permite que el modelo sepa que en "el banco de la plaza" el banco es para sentarse, y en "fui al banco por dinero" es otra cosa completamente distinta.
Esa arquitectura es la base de prácticamente todos los modelos que usas hoy.
Por qué inventa cosas
Ahora sí, el detalle que lo explica todo.
El modelo no tiene un cajón de hechos que consultar. No hay una lista de datos verificados en algún lugar de su memoria. Solo tiene su estimación de qué texto es probable que siga.
Entonces, si la continuación más probable suena bien pero resulta ser falsa, la escribe igual. Con la misma seguridad. Con el mismo tono.
A eso se le llama alucinar, y no es un error que se pueda parchear del todo, porque es consecuencia directa de cómo está construido. Nunca sabe que no sabe.
Por eso conviene tratarlo como alguien que habla muy bien de todo pero que a veces inventa, no como una enciclopedia.
Entonces qué es, en corto
No te está entendiendo como te entiende una persona. Está calculando qué texto sigue, muy bien, muchísimas veces por respuesta.
Y aun así resulta útil, porque calcular bien qué sigue en una conversación se parece lo suficiente a razonar como para resolver problemas reales. Pero saber que es eso, y no otra cosa, es lo que te permite usarlo sin creerle todo.
La próxima vez que te dé un dato muy específico y muy convincente, acuérdate de que lo calculó, no lo consultó. Y verifícalo.
Fuentes
- Vaswani et al., Attention Is All You Need (2017): el artículo que introdujo la arquitectura Transformer y el mecanismo de atención