Aritmética de tarefas
Tratar a diferença entre os pesos de um modelo ajustado (fine-tuned) e os do modelo base como um vetor que pode ser somado e subtraído. Surpreendentemente, muitas vezes funciona.
Um task vector é simplesmente os pesos ajustados menos os pesos iniciais. A descoberta experimental, apresentada por Ilharco et al. em 2022, é que esses vetores se comportam de forma quase linear: some o vetor de outro fine-tuning ao modelo base e você obtém um modelo que conhece parcialmente aquela tarefa; subtraia e o modelo piora justamente nela; some dois vetores e muitas vezes sai algo que dá conta das duas. A técnica foi usada tanto para compor capacidades sem retreinar quanto para tentar remover comportamentos — subtraia o vetor de linguagem tóxica e veja o que acontece. Por que funciona não é totalmente compreendido, e sua relação com a linear mode connectivity e o Git Re-Basin é pesquisa em aberto. É também a base sobre a qual todo método de fusão posterior é construído.