TPU (аппаратная часть)
Tensor Processing Unit — специально созданный Google чип (ASIC) для машинного обучения, оптимизированный под гигантские матричные умножения нейросетей. Движущая сила ИИ в Google и альтернатива GPU Nvidia в облаке.
Идея: вместо универсального GPU Google делает чип, в сердце которого «систолический массив» — сетка умножителей, прогоняющая данные потоком и выполняющая матричное умножение очень эффективно на ватт. Используется и для обучения, и для инференса больших моделей; доступен только через Google Cloud (отдельно не продаётся).
Поколения — от TPU v1 (2015, инференс) до нынешних обучающих «подов», связанных тысячами. Компромисс: огромная эффективность в том, для чего создан, но меньше гибкости, чем у GPU, и привязка к экосистеме Google (JAX/TF). Часть общего тренда ИИ-ASIC (сравните AWS Trainium, Microsoft Maia). Родственны NPU и тензорные ядра.