P-02比較・違い

量子化の中でも、学習時に組み込む方式と学習後に適用する方式ではどう違いますか?

Googleの研究者ら(Benoit Jacob氏ら8名)がarXivで公開し2018年のCVPR(IEEE Conference on Computer Vision and Pattern Recognition)で発表した論文「Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference」(arXiv:1712.05877)は、整数演算のみで推論を行うための量子化方式を提案するとともに、量子化後もモデルの精度をエンドツーエンドで維持できるよう、学習の手順自体を量子化に合わせて設計する手法(量子化を意識した学習)を提示しています。これは、既に学習を終えたモデルに対して事後的に量子化を適用する方式とは異なり、学習プロセスの段階から量子化による精度低下を織り込んで最適化する点が特徴です。

実績・根拠

情報ソース