EAGLE
Decodificação especulativa que tenta adivinhar as features internas do modelo em vez do próximo token, o que se mostra bem mais fácil de acertar.
A observação por trás do método é que a sequência de estados ocultos da penúltima camada é muito mais regular do que a sequência de tokens, que carrega aleatoriedade genuína introduzida pela amostragem. O EAGLE treina, então, uma rede pequena para prever o próximo vetor de features, alimentando-a também com o token já decidido um passo à frente, para eliminar a incerteza sobre qual caminho a amostragem tomou. O sucessor EAGLE-2 torna a árvore de rascunho dinâmica, deixando a própria confiança do modelo decidir quanto ela se ramifica, e o EAGLE-3 abandona a previsão de features em favor da previsão direta de tokens, com fusão de várias camadas. Desde então o método lidera as comparações do Spec-Bench.