P-04課題解決

Together AIは、レイテンシに厳しい音声AI等のユースケースで、どの程度のコスト・性能改善を実現していますか?

Together AIの対象顧客・ユースケースについて、NVIDIA(公式ブログ blogs.nvidia.com)— Together AI自身ではなく、第三者であるNVIDIAが公表した事例公式のan official blog post about a customer's product usage, published by NVIDIA as a third-party vendor case study(https://blogs.nvidia.com/blog/inference-open-source-models-blackwell-reduce-cost-per-token/)で確認できます。既存Reference(P-06-001)はTogether AI自身が公開したZomatoのテキストチャットボット事例(CSAT向上)を扱うが、本候補は第三者であるNVIDIAが報告した別顧客(Decagon)の音声AIというレイテンシに厳しい異なるユースケースであり、自己申告ではない点でも情報の性質が異なる。具体的には「How Did Together AI and Decagon Drive Down AI Costs for Customer Service by 6x? ... Together AI runs production inference for Decagon's multimodel voice stack on NVIDIA Blackwell GPUs. ... Cost per query, which is the total cost to complete one voice interaction, dropped by 6x [compared with closed source proprietary models].」といった記載が確認できます。限界として、対象顧客層の記述は提供元による位置づけであり、実際の利用者層を独立に検証したものではありません。 この事例はNVIDIA自身が発表したベンダー公式のブログであり、Decagon側の独立した確認は含まれていない。「6分の1」という数値の算出方法(何を基準にした比較か、期間等)の詳細はこのSourceからは確認できない。他の顧客・ワークロードでも同様の削減率が得られるとは限らない。Current Statusとして、2026年08月24日に当該Sourceを取得し、上記の内容を確認しました。Source種別としては、これはNVIDIA(公式ブログ blogs.nvidia.com)— Together AI自身ではなく、第三者であるNVIDIAが公表した事例という、Together AI自身とは別の組織が発信・保有する情報であり、Together AI自身による広報や、独立した第三者による評価とは性質が異なります。

実績・根拠

情報ソース