Modelo rascunho (draft model)
LLM pequeno que gera tokens candidatos, enquanto um LLM "alvo" maior os verifica em paralelo. É a base da decodificação especulativa. Taxa de aceitação de 50–80% → aceleração de 2 a 3 vezes na inferência, sem perda de qualidade.
Dupla clássica: Llama-3-8B como rascunho e Llama-3-70B como alvo. O rascunho gera de 5 a 10 tokens à frente; o alvo verifica o lote em uma única passada. Se tudo coincide, aceita tudo. Se há divergência, aceita até o ponto da divergência e regenera a partir do alvo. Autoespeculativo: o próprio modelo alvo faz o papel de rascunho com camadas truncadas (Medusa, Eagle). Padrão no vLLM, TGI e llama.cpp desde 2024. Neutro em qualidade: quem decide a saída final é sempre o alvo; o rascunho é só uma otimização.