Etapa 1 · Cómo se construye
Preentrenamiento
¿Cómo aprende?
La etapa más larga y cara: el modelo lee cantidades enormes de texto y ajusta sus parámetros para predecir cada vez mejor el token que sigue. De ahí salen el idioma, los datos y los estilos.
Una imagen para recordarlo
Alguien que leyó toda la biblioteca pero nunca tuvo una conversación. Sabe muchísimo y no sabe atender a nadie.
El malentendido
Lo programaron con reglas. Nadie escribió reglas como "si preguntan X, responde Y". Hay patrones aprendidos de los datos.
Qué cambia en la práctica
Por eso suena seguro sobre cualquier tema: aprendió a producir texto plausible, no a verificarlo.