CUDA-core
De algemene rekeneenheden van Nvidia-gpu’s; CUDA staat voor Compute Unified Device Architecture (2006) en per SM (Streaming Multiprocessor) zitten 128 CUDA-cores die SIMD-gewijs werken.
Op specificatiebladen worden ze als “aantal cores” aangeprezen. De RTX 4090 heeft er 16.384. Niet te vergelijken met een cpu-core (veel eenvoudiger, geen zelfstandige thread) en door verschillen in IPC ook niet rechtstreeks tussen generaties. De nadruk ligt standaard op FP32; integer- en FP64-berekeningen hebben aparte eenheden. Tensor cores (voor ML) en RT-cores (voor raytracing) zijn gespecialiseerde extra’s bovenop de CUDA-cores. CUDA-programmeren: thread, warp (32 threads), block (1024 threads), grid. Een kernel-aanroep verdeelt het grid over de SM’s.