Accelerateは、Hugging Faceが開発するライブラリで、PyTorchコードをほぼ任意のデバイス・分散構成で実行できるようにする統一インターフェースを提供します。
分散学習の導入を検討する相談
FSDPとDeepSpeedを単一interfaceに統一する設計