TIES-Merging
Um método para fundir vários modelos ajustados (fine-tuned) em um só, baseado na constatação de que a maior parte do delta de um fine-tuning é ruído e que o resto muitas vezes puxa em direções opostas.
O nome abrevia os três passos. Trim descarta os parâmetros que menos se moveram — na prática dá para ficar com um quinto do delta sem perder capacidade, o que diz muito sobre o quanto um fine-tune é esparso. Elect Sign decide, parâmetro a parâmetro, qual sinal vence, somando as magnitudes das propostas positivas e negativas e deixando o lado mais pesado levar. Merge então calcula a média apenas dos modelos que concordaram com o sinal vencedor. Esse segundo passo é o ponto central: a média ingênua de pesos deixa dois modelos que querem mover o mesmo parâmetro em direções opostas se anularem, e é por isso que as fusões costumavam sair piores que as partes. Publicado na NeurIPS 2023 e padrão nas ferramentas de model merging desde então.