Preentrenamiento
La primera fase del entrenamiento de un LLM, la pesada: el modelo lee medio internet y aprende el idioma.
Se distingue del ajuste fino, que es una adaptación dirigida posterior, y del RLHF, que enseña a responder de forma útil. El preentrenamiento es donde ocurre casi todo: prácticamente todo el conocimiento del modelo entra por aquí. Para los modelos grandes cuesta millones de dólares y se hace de una sentada, lo que explica bastante bien por qué hay tan pocas empresas haciéndolo y tantas ajustando lo que otros preentrenaron.