Fine-tuning (LLM)
Dalsze trenowanie wstępnie wytrenowanego modelu językowego na własnych, bardziej specyficznych danych, by dostosować go do zadania, dziedziny lub stylu. Zmienia wagi modelu — w odróżnieniu od RAG (który dostarcza wiedzę przez kontekst) i promptowania (które tylko instruuje).
Kiedy się opłaca: gdy model ma stale trzymać się formatu lub tonu, opanować język niszowej dziedziny albo wykonywać konkretne zadanie — rzeczy trudne do ustabilizowania samym promptowaniem. Kiedy się NIE opłaca: „uczenie modelu faktów” (do zmieniającej się wiedzy zwykle lepszy i tańszy jest RAG). Koszty: potrzebne są dobre dane, zużywa moc obliczeniową i grozi „katastrofalnym zapominaniem” (model traci ogólne umiejętności) oraz przeuczeniem. Pełny fine-tuning (wszystkich wag) jest drogi, dlatego dominują metody oszczędne parametrowo (LoRA, QLoRA, PEFT), trenujące tylko niewielką część. Nie mylić z pretrenowaniem (budowaniem modelu bazowego od zera). Technika kluczowa, ale często nadużywana tam, gdzie wystarczyłby RAG lub prompt.