Parallélisme
Plusieurs calculs qui s'exécutent réellement en même temps — sur des cœurs de CPU différents, sur un GPU ou dans des pipelines SIMD. On l'oppose souvent à la concurrence (une question de structure) : le parallélisme, lui, concerne l'exécution.
Rob Pike le résume ainsi : « La concurrence, c'est gérer beaucoup de choses à la fois ; le parallélisme, c'est faire beaucoup de choses à la fois. » Le gain est plafonné par la loi d'Amdahl : la part séquentielle fixe le plafond.
Côté matériel : CPU multicœur (de 1 à plus de 100 cœurs), GPU (de 1 000 à 10 000 threads), SIMD (AVX/NEON, de 4 à 64 voies).