LoRA
Low-Rank Adaptation（低ランク適応）— パラメータ効率のよいファインチューニング手法。ベースモデルを凍結し、各アテンション層に小さな行列を2つ足して学習させる。
2021年のMicrosoftの論文が出どころ。着眼点は、重みの更新量が持つ「本質的なランク」が低いという点にある。重み行列全体をいじる必要はなく、低ランク近似で足りる。学習対象はランク r が8〜64程度の行列で、数十億ではなく数百万のパラメータで済む。アダプタのサイズは通常10〜100 MBで、フルファインチューニングの10〜100 GBとは桁が違う。タスクごとに差し替えもできる。
量子化したベースモデルにLoRAを組み合わせたものがQLoRAで、RTX 4090でも650億パラメータ級を調整できる。概念は画像生成のコミュニティにも広がり、キャラクターや画風のLoRAが流通している。実装はHugging FaceのPEFTライブラリが標準的。