Prefetcher
Meccanismo che prevede quali dati serviranno a breve alla CPU e li carica in cache in anticipo, prima che vengano richiesti. Scopo: nascondere la latenza della memoria, in modo che i dati siano già disponibili quando arriva l'istruzione, evitando un cache miss.
Funzionamento: i prefetcher hardware osservano gli schemi di accesso alla memoria ed estrapolano. I più semplici riconoscono l'accesso sequenziale (se si legge la linea N, si carica la N+1); quelli più avanzati individuano schemi a stride (accesso a passo fisso, ad esempio ogni 64 byte, tipico dei cicli sugli array) o persino schemi irregolari. Una volta riconosciuto lo schema, le linee future vengono caricate in background mentre la CPU lavora, e la latenza resta nascosta. Esiste anche il prefetch software (compilatore o programmatore inseriscono istruzioni di prefetch esplicite). Compromesso: un prefetching troppo aggressivo può sprecare banda di memoria e inquinare la cache con dati mai usati, se la previsione era sbagliata. Un buon prefetcher è spesso decisivo per i carichi che usano molta memoria.