量子化認識学習 (QAT)
量子化して実行されることを前提にモデルを学習する手法。順伝播では擬似量子化を行い、逆伝播は通常の精度で行う。学習後量子化より品質の低下がはるかに小さい。
PyTorch、TensorFlow、JAXのいずれもQATをネイティブにサポートしている。学習後量子化（PTQ）との違いは、INT4で損失がPTQの5〜10%に対しQATでは1%未満に収まる点だ。ただし全体のファインチューニングが必要で、計算コストは高い。モバイルAI（TensorFlow Lite、Core ML）では標準的な手法で、Metaも2024年にLlama 3.2の量子化モデルのQAT版を公開した。