Treinamento consciente de quantização
Treina o modelo já sabendo que ele vai rodar quantizado (INT8/INT4) — fake-quantize no forward, precisão total no backward. Perde muito menos qualidade que a quantização pós-treinamento.
PyTorch, TensorFlow e JAX têm suporte nativo a QAT. Diferença para a quantização pós-treinamento (PTQ): o QAT dá perda inferior a 1% em INT4, contra 5–10% da PTQ. Custa mais em computação (exige um fine-tuning completo). Padrão em IA para dispositivos móveis (TensorFlow Lite, Core ML). Usado nos modelos quantizados do Llama 3.2 (a Meta lançou versões QAT em 2024).