NUMA-balancing
De techniek om een thread en zijn data dicht bij elkaar te plaatsen in een NUMA-systeem (Non-Uniform Memory Access), waar een cpu zijn "eigen" lokale geheugen sneller bereikt dan geheugen dat aan een andere processor of socket hangt. Verkeerde plaatsing veroorzaakt onnodige latentie.
Achtergrond: in een server met meerdere cpu-sockets (of een chiplet-cpu) is het geheugen zo verdeeld dat elke processor "zijn" geheugen dichtbij heeft. Lokaal geheugen lezen is snel; geheugen van een andere socket lezen (via de interconnect) is trager, en dat bedoelt men met "non-uniform". NUMA-balancing zorgt dat een thread draait op een kern in de buurt van het geheugen dat hij gebruikt: het besturingssysteem kan de thread naar de data verplaatsen of de data naar de thread. Zonder dat haalt een thread voortdurend data over de trage verbinding, wat bij geheugenintensieve belasting prestaties kost. Belangrijk in grote servers, gevirtualiseerde omgevingen en zelfs moderne chiplet-cpu's (AMD EPYC/Ryzen, waar verschillende CCD's verschillende geheugenafstanden hebben). Linux kent automatische NUMA-balancing. Een centrale optimalisatie voor geheugenintensieve multithreaded prestaties.