QLoRA
Quantized LoRA — eine Technik (2023), die es ermöglicht, sehr große Modelle auf einer einzigen Consumer-GPU zu feintunen, indem das Basismodell in 4-Bit-Quantisierung gehalten und nur kleine LoRA-Adapter obendrauf trainiert werden. Demokratisierte Fine-Tuning.
Mechanik: Die eingefrorenen Gewichte des Basismodells werden in einem kompakten 4-Bit-Format (NF4, "NormalFloat") gespeichert, was den Speicherbedarf drastisch senkt; während des Trainings werden die Gewichte für die Berechnung on the fly dequantisiert, aber die Gradienten aktualisieren nur die kleinen LoRA-Adapter (nicht das Basismodell). Ergebnis: Man kann ein 65B-Modell auf einer einzigen 48-GB-GPU feintunen — was zuvor einen Cluster erforderte. Neuerungen im Paper: 4-Bit NormalFloat, doppelte Quantisierung und Paged Optimizers. Abwägung: ein kleiner Qualitätsverlust durch die Quantisierung, aber in der Praxis nahezu Full-Precision-Ergebnisse. Baute auf LoRA auf und machte Fine-Tuning für Hobbyisten und kleine Teams zugänglich.