TIES-Merging
複数のファインチューニング済みモデルを一つに統合する手法。差分の大半はノイズで、残りも互いに逆方向を向きがちだという洞察に基づく。
名前は三つの手順の頭文字だ。Trimは最も動きの小さいパラメーターを捨てる。実際、差分の5分の1を残すだけで能力を損なわないことが多く、ファインチューニングがいかにスパースかがわかる。Elect Signはパラメーターごとにどの符号を採用するかを決め、正の提案と負の提案の大きさを合計して、重いほうに勝たせる。Mergeは、採用された符号に一致したモデルだけを平均する。二つ目の手順が要点だ。単純な重み平均では、同じパラメーターを逆方向に動かしたい二つのモデルが打ち消し合い、統合結果が元のモデルより悪くなりがちだった。2023年のNeurIPSで発表され、以来モデルマージのツールでは標準になっている。