PEFT
Parameter-Efficient Fine-Tuning。ベースの重みを凍結し、新たに追加したごく一部のパラメータだけを訓練して大規模モデルを適応させる手法の総称。控えめなハードウェアでもファインチューニングできるようになる。最も有名なPEFT手法がLoRAである。
発想は、何十億もの重みをすべて更新する（メモリも計算も高くつく）代わりに、ごく一部、多くは1%未満のパラメータだけを追加・調整し、残りを凍結することだ。LoRA／QLoRA（低ランクアダプタ）、プレフィックスチューニング、プロンプトチューニング（「ソフト」プロンプトのベクトルを訓練）、アダプタ（小さな挿入層）、IA³などが含まれる。利点は、メモリが大幅に減り、訓練が速くなり、一つのベースモデルに多数の小さなタスク別アダプタを用意できることだ（モデル全体ではなくアダプタを差し替える）。Hugging Faceのpeftライブラリによって標準的な道具になった。今日の実用的なファインチューニングの主流である。LoRAアダプタやファインチューニングと関連する。