Mixture of Expertsの主要製品・提供機能について、William Fedus, Barret Zoph, Noam Shazeer (Google; arXiv preprint, accepted to JMLR)公式の学術論文(https://arxiv.org/abs/2101.03961)で確認できます。既存4件(定義/密なモデルとの違い/効率化用途/Mixtralの専門家構成)は、ルーティングアルゴリズムの具体的な仕組み(top-1の簡略化)や、兆パラメータ規模への到達実績には触れておらず、意味的な重複はない。具体的には「"We ... simplify[] the MoE routing algorithm" ... "advance the current scale of language models by pre-training up to trillion parameter models on the 'Colossal Clean Crawled Corpus'" ... "up to 7x increases in pre-training speed with the same computational resources" ... "a 4x speedup over the T5-XXL model".」といった記載が確認できます。限界として、これは取得時点で公開されている構成であり、各提供物の機能範囲・提供地域・提供終了の有無はこのSourceからは確認できません。 この数値はSwitch Transformersという特定の研究実装における実験結果であり、MoEアーキテクチャ全般に一律で当てはまる保証ではない。既存Referenceが扱うMixtral(Mistral AI)とは別の実装・別の企業による研究である。Current Statusとして、2026年08月25日に当該Sourceを取得し、上記の内容を確認しました。Source種別としては、これはWilliam Fedus, Barret Zoph, Noam Shazeer (Google; arXiv preprint, accepted to JMLR)という、Mixture of Experts自身とは別の組織が発信・保有する情報であり、Mixture of Experts自身による広報や、独立した第三者による評価とは性質が異なります。