TIES-Merging
Un metodo per fondere più modelli sottoposti a fine-tuning in uno solo, basato sull'idea che la maggior parte del delta di un fine-tuning sia rumore e che il resto spesso tiri in direzioni opposte.
Il nome abbrevia i tre passaggi. Trim scarta i parametri che si sono mossi di meno: in pratica si può tenere un quinto del delta senza perdere capacità, il che dice qualcosa su quanto sia sparso un fine-tuning. Elect Sign decide per ogni parametro quale segno prevale, sommando le grandezze delle proposte positive e negative e lasciando vincere il lato più pesante. Merge infine fa la media solo dei modelli che concordavano con il segno vincente. Il secondo passaggio è il cuore del metodo: la media ingenua dei pesi lascia che due modelli che vogliono spostare lo stesso parametro in direzioni opposte si annullino, ed ecco perché le fusioni risultavano peggiori delle parti. Pubblicato a NeurIPS 2023 e da allora standard negli strumenti di model merging.