P-02比較・違い

Triton（GPUカーネル言語）はNVIDIA Triton Inference Serverと同じものですか？

名称は同じ「Triton」ですが、全く別のプロジェクトです。triton-langのTritonはGPUカーネルを記述するプログラミング言語・コンパイラであり、NVIDIA Triton Inference Serverは学習済みモデルを配信する推論サーバーソフトウェアです。この名称の類似は開発者コミュニティでも混同の原因として指摘されています。

実績・根拠

向いている相談

GPU関連ツールの名称を整理したい相談

他の選択肢との違い

言語・コンパイラという役割とモデル配信サーバーという役割の違い

よくある質問

pip install tritonで何が入りますか？
triton-langのTriton（GPUカーネル言語）がインストールされます。NVIDIA Triton Inference Serverのクライアントは別パッケージ（tritonclient等）です。

情報ソース