TPU(ハードウェア)
Tensor Processing Unit。Googleが機械学習向けに自社開発したカスタムチップ(ASIC)で、ニューラルネットワークが大量に必要とする行列演算に最適化されている。GoogleのAIを支える原動力であり、クラウドにおけるNvidia GPUの対抗馬でもある。
発想は、汎用のGPUではなく、「シストリックアレイ」を心臓部とするチップを作ることにある。シストリックアレイは乗算器を格子状に並べてデータを流し込む構造で、電力あたりの行列演算効率が極めて高い。大規模モデルの学習にも推論にも使われるが、提供形態はGoogle Cloud経由のみで、単体では販売されていない。世代は2015年の推論用TPU v1から、数千基を束ねる現在の学習用ポッドまで続く。トレードオフは、想定した用途には圧倒的に効率が良い反面、GPUより柔軟性に欠け、Googleのソフトウェア基盤(JAX/TensorFlow)に縛られることだ。AWS TrainiumやMicrosoft Maiaと並ぶ、AI特化ASICという大きな潮流の一部である。NPUやテンソルコアとも関連が深い。