Aritmetica dei task
Trattare la differenza tra i pesi di un modello sottoposto a fine-tuning e quelli del modello di base come un vettore da sommare e sottrarre. Sorprendentemente spesso funziona.
Un task vector è semplicemente i pesi dopo il fine-tuning meno i pesi di partenza. Il risultato sperimentale, presentato da Ilharco et al. nel 2022, è che questi vettori si comportano in modo quasi lineare: aggiungendo al modello di base il vettore di un altro fine-tuning si ottiene un modello che conosce in parte quel compito; sottraendolo, il modello peggiora proprio in quello; sommando due vettori si ottiene spesso qualcosa che gestisce entrambi. È stato usato sia per combinare capacità senza riaddestrare, sia per tentare di rimuovere comportamenti: si sottrae il vettore del linguaggio tossico e si vede che succede. Perché funzioni non è del tutto chiaro, e il rapporto con la linear mode connectivity e con Git Re-Basin è ricerca aperta. È anche il fondamento su cui poggiano tutti i metodi di merging successivi.