Cómo funciona un chatbot de IA como Claude, ChatGPT o Gemini

Escribes una pregunta, pulsas enviar y en segundos aparece una respuesta que parece escrita por una persona. Por dentro, ese proceso tiene tres piezas: el entrenamiento previo, los "tokens" y la generación palabra a palabra.

El entrenamiento: mucha lectura, ningún profesor

Antes de que puedas hablar con él, el modelo ha "leído" una cantidad enorme de texto de internet, libros y otras fuentes, ajustando internamente millones de parámetros hasta que se le da bien predecir qué palabra suele venir después de otra en un contexto dado. Después pasa por una fase de ajuste fino donde personas revisan y corrigen sus respuestas para que sea más útil, más seguro y menos propenso a decir barbaridades.

Tokens: el idioma real de la IA

La IA no ve palabras completas, sino fragmentos llamados tokens (a veces una palabra, a veces solo una sílaba). Tu mensaje se trocea en tokens, el modelo calcula cuál es el token más probable que sigue, lo añade, vuelve a calcular el siguiente, y así sucesivamente hasta terminar la respuesta. Por eso a veces ves la respuesta "escribirse" en tiempo real: literalmente se está generando token a token.

¿Por qué a veces responde distinto a la misma pregunta?

Porque no elige siempre la palabra más probable a rajatabla; introduce algo de aleatoriedad controlada para sonar menos robótico y repetitivo. Eso también explica por qué dos personas pueden hacer la misma pregunta y recibir respuestas ligeramente distintas.

La memoria (y sus límites)

Dentro de una misma conversación, el modelo "recuerda" lo que has escrito porque se lo vuelves a enviar todo junto cada vez, no porque guarde recuerdos como una persona. Cuando la conversación es muy larga o abres una nueva, ese contexto se pierde salvo que la aplicación concreta tenga alguna función de memoria persistente activada explícitamente.

Entender esto te ayuda a usarla mejor: cuanto más claro y completo sea el contexto que le des en el mensaje, mejor será su respuesta, porque literalmente es lo único con lo que está trabajando.

La "ventana de contexto": por qué a veces parece que se olvida de algo

Cada modelo tiene un límite de cuánto texto puede tener en cuenta a la vez, llamado ventana de contexto. Incluye tanto tu mensaje actual como todo lo anterior de la conversación. Si la conversación se alarga mucho —muchos mensajes, documentos largos pegados, etc.— puede llegar un punto en el que el principio "se sale" de esa ventana y el modelo deja de tenerlo en cuenta, aunque siga apareciendo escrito más arriba en la pantalla. Por eso, si notas que empieza a contradecirse o a repetir preguntas que ya respondiste, suele ayudar resumir tú mismo lo importante en un mensaje nuevo en vez de seguir alargando la misma conversación.

Un ejemplo paso a paso de principio a fin

Escribes: "Necesito un email corto para pedir un día libre el viernes por un tema médico". Ese texto se convierte en tokens. El modelo, entrenado con millones de ejemplos de correos similares, calcula que una respuesta útil empieza probablemente con un saludo formal, sigue con el motivo, la fecha concreta y una despedida cortés —no porque "entienda" que es educado pedir las cosas así, sino porque ese patrón aparece constantemente en los textos con los que fue entrenado. Genera esa estructura palabra a palabra, y tú recibes en segundos algo que normalmente te habría costado un par de minutos redactar desde cero.

Por qué unos modelos son más caros o más lentos que otros

Los modelos más grandes —con más parámetros internos ajustados durante el entrenamiento— suelen dar respuestas más matizadas y manejan mejor tareas complejas, pero requieren más potencia de cálculo para funcionar, lo que se traduce en más coste y, a veces, más lentitud. Los modelos más pequeños son más rápidos y baratos, e ideales para tareas sencillas como resumir un texto corto o clasificar un mensaje, aunque pueden quedarse cortos en tareas que exigen razonar varios pasos seguidos. La mayoría de aplicaciones que usas a diario eligen automáticamente qué tamaño de modelo usar según la tarea, aunque algunas te dejan elegirlo tú manualmente.