Triton
詳細情報
- 開発者
- Philippe Tillet(Harvard / OpenAI)
- 公開年
- 種別
- GPUカーネル向け Python 風言語
- ライセンス
- MIT
- ソースコード
- github.com/triton-lang/triton
CUDA カーネルを書くための Python DSL。OpenAI の Tillet が開発し、FlashAttention や PyTorch 2 の torch.compile、現代の大半の LLM 学習を支えている。
売りは、共有メモリやバンク、ワープを手作業で管理せず Python レベルでカーネルを書けること。Triton コンパイラが十分に競争力のある PTX を生成する。FlashAttention の Tri Dao は Cutlass 版と Triton 版の両方を書き、可読性で Triton が勝ったという。AMD ROCm への対応は2024年に入った。まったく別物の Nvidia Triton Inference Server と混同しないこと。