Prefetcher
Mecanismo que prevê quais dados a CPU vai precisar em breve e os traz para o cache antes de serem pedidos. O objetivo é esconder a latência da memória: quando a instrução chega, o dado já está lá e o cache miss é evitado.
Como funciona: os prefetchers de hardware observam os padrões de acesso à memória e extrapolam. Os mais simples pegam o acesso sequencial (leu a linha N, busca a N+1); os mais avançados detectam padrões de stride (acesso com passo fixo, como a cada 64 bytes, comum em laços sobre arrays) ou até padrões irregulares. Reconhecido o padrão, as próximas linhas são buscadas em segundo plano enquanto a CPU trabalha, e a latência some da conta. Existe também o prefetch por software, em que o compilador ou o programador insere instruções explícitas. O preço: um prefetch agressivo desperdiça largura de banda e polui o cache com dados que nunca serão usados, se o palpite estiver errado. Para cargas que devoram memória, um bom prefetcher costuma fazer toda a diferença.