Draft model
Liten LLM som genererar kandidat-tokens; större "target" LLM verifierar parallelliserat. Driver speculative decoding. Acceptans-rate 50-80% → 2-3x speedup på inference utan kvalitetsförlust.
Klassisk paring: Llama-3-8B som draft + Llama-3-70B som target. Draft generates 5-10 tokens forward; target verifierar batch i ett pass. Om alla matchar → accept all. Om mismatch → accept fram till divergence, regenerate från target. Self-speculative: target model själv är draft med truncated layers (Medusa, Eagle). Standard i vLLM, TGI, llama.cpp 2024+. Kvalitetsneutralt: target avgör alltid final output, draft är bara optimization.