SFT
Der erste Fine-Tuning-Schritt nach dem Pre-Training — Training auf Prompt-Antwort-Paaren, damit das Modell lernt, Anweisungen zu befolgen.
Kommt vor RLHF/DPO. Der Datensatz besteht aus handgeschriebenen oder kuratierten Beispielen: "Frage X → gute Antwort Y". Kleinerer Datensatz (10.000–100.000 Beispiele), dafür hohe Qualität. Schritt 1 → SFT, Schritt 2 → RLHF oder DPO. Zusammen ergibt das ein "Instruct"-Modell.