Fine-tuning (LLM)
Att vidareträna en redan förtränad språkmodell på egen, mer specifik data för att anpassa den till en uppgift, domän eller stil. Justerar modellens vikter — till skillnad från RAG (som ger kunskap via kontext) eller prompting (som bara instruerar).
När det lönar sig: lära modellen ett format/en ton den ska följa konsekvent, en nischdomäns språk, eller en specifik uppgift — saker som är svåra att få stabilt med enbart prompt. När det INTE lönar sig: att "lära modellen fakta" (RAG är oftast bättre och billigare för föränderlig kunskap). Avvägningar: kräver data av kvalitet, kostar compute, och risk för "catastrophic forgetting" (modellen tappar generella förmågor) och överträning. Full fine-tuning (alla vikter) är dyrt → därför dominerar parameter-effektiva metoder (LoRA, QLoRA, PEFT) som bara tränar en liten del. Distinkt från förträning (att bygga basmodellen från grunden). En central teknik men ofta överanvänd där RAG/prompting räcker. Hör ihop med LoRA och PEFT.