知識蒸留はどんな場面で役立ちますか？

大きなモデルをそのまま動かせない端末や、低コスト・高速に推論したい場面で役立ち、小さくても実用的なモデルを作れます。

実績・根拠

• —ev-knowledge-distillation-1

向いている相談

モデル軽量化の相談

他の選択肢との違い

小型・高速モデルの作成

よくある質問

スマホでも動きますか？

軽量化により端末上での動作がしやすくなります。

情報ソース

• Source
  Distilling the Knowledge in a Neural Network（arXiv:1503.02531）検証待ち出典を見る