Префетчер
Механизм, который угадывает, какие данные процессору скоро понадобятся, и подгружает их в кэш заранее — чтобы к приходу инструкции данные уже были на месте.
Аппаратные префетчеры следят за шаблоном обращений к памяти и экстраполируют его. Простейшие ловят последовательный доступ (прочитана строка N — берём N+1); более продвинутые распознают шаг (фиксированный интервал, например каждые 64 байта в цикле по массиву), а иногда и нерегулярные шаблоны. Распознав закономерность, префетчер подтягивает следующие строки в фоне, пока ядро занято работой, и задержка скрывается. Есть и программная предвыборка — явные инструкции от компилятора или программиста. Цена: слишком агрессивный префетчер тратит пропускную способность памяти и засоряет кэш ненужным, если угадал неверно. Для задач с интенсивной работой с памятью хороший префетчер часто решает дело.