QLoRA
Kwantyzowana LoRA — technika (2023), która pozwala dostrajać bardzo duże modele na jednej konsumenckiej karcie graficznej: model bazowy trzymany jest w 4-bitowej kwantyzacji, a trenuje się tylko małe adaptery LoRA. Zdemokratyzowała fine-tuning.
Mechanizm: zamrożone wagi modelu bazowego przechowywane są w zwartym formacie 4-bitowym (NF4, „NormalFloat"), co drastycznie zmniejsza zapotrzebowanie na pamięć; podczas treningu wagi są dekwantyzowane na bieżąco do obliczeń, ale gradienty aktualizują wyłącznie małe adaptery LoRA (nie model bazowy). Efekt: model 65B można dostroić na jednej karcie 48 GB — coś, co wcześniej wymagało klastra. Nowości z artykułu: 4-bitowy NormalFloat, podwójna kwantyzacja i stronicowane optymalizatory. Koszt: niewielka utrata jakości przez kwantyzację, w praktyce jednak wyniki bliskie pełnej precyzji. Opiera się na LoRA i otworzyło fine-tuning przed hobbystami i małymi zespołami.