Mirostat
Metodo di campionamento che governa la perplessità del testo con un ciclo di retroazione invece di una soglia fissa. Si indica quanto il testo debba essere sorprendente e l'algoritmo si regola strada facendo.
Il presupposto dell'articolo del 2020 è che sia top-k sia top-p producono una perplessità che deriva nelle generazioni lunghe: un valore troppo basso porta a cicli di ripetizione, uno troppo alto all'incoerenza. Mirostat misura invece quanto fosse davvero sorprendente ciascun token scelto, lo confronta con il valore obiettivo tau e sposta la soglia verso l'alto o il basso con velocità di apprendimento eta. Ne risulta un regolatore che mantiene il testo a un livello uniforme, indipendentemente da quanto il modello sia sicuro in un dato passaggio. È diventato popolare nelle configurazioni locali grazie a llama.cpp e Ollama, in particolare per la narrativa lunga. Oggi è spesso superato da min-p, più semplice e quasi altrettanto valido.