Kwantisatiebewuste training (QAT)
Traint het model in de wetenschap dat het gekwantiseerd (INT8/INT4) gaat draaien: nep-kwantisatie in de forward pass, volledige precisie in de backward pass. Verliest veel minder kwaliteit dan kwantisatie achteraf.
PyTorch, TensorFlow en JAX hebben allemaal native QAT-ondersteuning. Het verschil met Post-Training Quantization (PTQ): QAT geeft bij INT4 minder dan 1% verlies tegenover 5–10% bij PTQ. Rekenintensiever (volledige finetuning nodig). Standaard bij mobiele AI (TensorFlow Lite, Core ML). Gebruikt voor de gekwantiseerde Llama 3.2-modellen (Meta bracht in 2024 QAT-versies uit).