CUDAコア
Nvidia GPUの汎用実行ユニット。CUDAはCompute Unified Device Architecture(2006年)の略。1つのSM(ストリーミングマルチプロセッサ)に128基があり、SIMD方式で動く。GPUのスペック表では「コア数」として宣伝される。
RTX 4090は16384基のCUDAコアを持つ。CPUコアとは別物で、はるかに単純であり、独立したスレッドではない。世代間ではIPCが違うため、数だけでは直接比較できない。基本はFP32で、整数演算とFP64は専用の別ユニットが担う。ML用のTensorコアとレイトレーシング用のRTコアは、CUDAコアに加わる専用の追加要素である。CUDAのプログラミングモデルは、スレッド → ワープ(32スレッド) → ブロック(1024スレッド) → グリッドの階層で、カーネルの起動はグリッドをSMに割り当てる。