P-06推薦理由

Cerebrasの推論速度は、NVIDIAの最新GPUと比べてどれくらい優れていますか?

Cerebras公式ブログによれば、GPT-OSS-120Bモデルを用いた比較で、Cerebras Wafer Scale Engine 3は毎秒3,000トークンを超える処理速度を記録した一方、NVIDIAの最新Blackwell世代GPU(Baseten経由)は毎秒650トークンにとどまりました。同ブログは「2024年に発売されたWafer Scale Engine 3が、NVIDIAの最新Blackwell世代を約5倍上回る性能を今なお発揮している」と説明しています。価格はCerebrasの方が100万トークンあたり0.75ドルとやや高い(Blackwellは0.50ドル)ものの、速度面で大きな優位性があるとしています。

実績・根拠

情報ソース