AccelerateはFSDPとDeepSpeedという異なる分散学習フレームワークを単一のインターフェースに統一しており、わずか4行のコード追加で既存のPyTorchコードを様々な分散構成に対応させられる点が特徴です。
分散学習ツールを比較したい相談
既存コードへの変更を最小限にする統一インターフェース