TIES-Merging
Un método para fusionar varios modelos afinados en uno solo, basado en la idea de que la mayor parte del delta de un ajuste fino es ruido, y que el resto a menudo tira en direcciones distintas.
El nombre abrevia los tres pasos. Trim descarta los parámetros que menos cambiaron: en la práctica se puede conservar una quinta parte del delta sin perder capacidad, lo cual dice bastante sobre lo disperso que es en realidad un ajuste fino. Elect Sign decide, parámetro a parámetro, qué signo debe prevalecer, sumando las magnitudes de las propuestas positivas y negativas y dejando ganar al lado más pesado. Merge promedia después solo los modelos que coincidían con el signo ganador. Ese segundo paso es la clave de todo: el promediado ingenuo de pesos deja que dos modelos que quieren mover el mismo parámetro en direcciones opuestas se anulen entre sí, que es justo por lo que las fusiones solían salir peor que sus partes por separado. Se publicó en NeurIPS 2023 y desde entonces es estándar en las herramientas de fusión de modelos.