MLX
詳細情報
- 作成者
- Apple
- 公開
- 提供元
- Apple
- 種類
- Apple Silicon向け機械学習フレームワーク
- ライセンス
- MIT
- 公式サイト
- ml-explore.github.io
- ソースコード
- github.com/ml-explore/mlx
Apple Siliconに最適化されたAppleのオープンソース機械学習フレームワーク。CPUとGPUがRAMを共有するユニファイドメモリを活かして、データコピーを避ける。
2023年12月公開。APIはNumPy風の構文を持つPyTorchライクな設計で、遅延評価により演算をGPU実行前に融合できる。量子化を内蔵し、Mistral、Llama、Phi、Stable Diffusionに対応する。
得意分野は、Mシリーズ上でのローカル推論と小規模なファインチューニングだ。ユニファイドメモリ64GBのM2 Maxなら、本来A100が要るLlama 3.1 70B(Q4)をローカルで動かせる。大規模学習向けのJAXやPyTorchと張り合うものではないが、「コンシューマ向けAI」では有力な選択肢である。