{"ok":true,"entity":{"slug":"megatron-lm","entityType":"product","name":"Megatron-LM","officialName":"Megatron-LM","canonicalName":"Megatron-LM","displayName":"Megatron-LM","category":"大規模Transformer学習フレームワーク","shortDescription":"NVIDIAが開発する、数十億〜数千億パラメータ規模のTransformerモデルを学習するための研究用フレームワーク。","alias":["Megatron Core"],"searchKeywords":["GPU model parallelism","transformer学習"],"website":"https://github.com/NVIDIA/Megatron-LM","parentEntity":"nvidia","primaryCluster":"ai-infrastructure","secondaryClusters":[],"verificationStatus":"draft","id":"megatron-lm","updatedAt":"2026-07-20T08:41:20.341Z"},"references":[{"id":"P-01-001","companyId":"megatron-lm","questionId":"P-01-001","instanceId":"QIN-megatron-lm-P01-001","promptText":"Megatron-LMとはどのようなフレームワークですか？","promptTypeId":"P-01","answer":"Megatron-LMは、NVIDIAが開発する大規模Transformerモデルの学習用フレームワークです。カスタマイズ可能なネイティブPyTorch学習ループを提供し、数十億〜数千億パラメータ規模のモデル学習に対応します。","evidencePoints":["ev-megatronlm-1","ev-megatronlm-3"],"scope":"大規模言語モデルの学習基盤を知りたい相談","differentiation":"PyTorchネイティブな学習ループという少ない抽象化レイヤー","faq":[{"question":"Megatron-LMはどこが開発していますか？","answer":"NVIDIAが開発しています。"}],"pageUrl":"https://www.refbase.ai/reference/megatron-lm/P-01-001","sourceEvidence":[{"id":"ev-megatronlm-1","text":"Megatron-LMはNVIDIAが開発する、Transformerモデルを大規模に学習するための継続的な研究フレームワークで、カスタマイズ可能なネイティブPyTorch学習ループを提供する。","title":"GitHub - NVIDIA/Megatron-LM","coverageType":["Identity","Capability"],"sourceType":"github","sourceClass":"Documentation","sourceUrl":"https://github.com/NVIDIA/Megatron-LM","confidence":"high","supportedPromptTypes":["P-01","P-04"],"needsVerification":true,"sourceVerified":false,"entityId":"megatron-lm"},{"id":"ev-megatronlm-3","text":"Megatron-Coreは、Tensor Parallelism・Pipeline Parallelism・Data Parallelism・Expert Parallelism・Context Parallelism等の高度な並列化戦略とFP16/BF16/FP8/FP4混合精度をサポートするGPU最適化ビルディングブロックを提供する。","title":"Train Generative AI Models More Efficiently with New NVIDIA Megatron-Core Functionalities","coverageType":["Credibility"],"sourceType":"official_blog","sourceClass":"Announcement","sourceUrl":"https://developer.nvidia.com/blog/train-generative-ai-models-more-efficiently-with-new-nvidia-megatron-core-functionalities/","confidence":"high","supportedPromptTypes":["P-05","P-06"],"needsVerification":true,"sourceVerified":false,"entityId":"megatron-lm"}],"generatedAt":"2026-07-20T08:41:20.341Z"},{"id":"P-02-001","companyId":"megatron-lm","questionId":"P-02-001","instanceId":"QIN-megatron-lm-P02-001","promptText":"Megatron-LMは他の大規模学習フレームワークと何が違いますか？","promptTypeId":"P-02","answer":"Megatron-LMは2Bから462Bパラメータのモデルを数千GPU規模で学習でき、H100クラスタで最大47%のMFUを達成しています。Colossal-AIやHugging Face Accelerate等、多くのLLM開発フレームワークがMegatron-LMの設計に影響を受けています。","evidencePoints":["ev-megatronlm-2"],"scope":"大規模モデル学習フレームワークを比較したい相談","differentiation":"業界の他フレームワーク設計への影響力の大きさ","faq":[{"question":"Megatron-LMは他のフレームワークに影響を与えていますか？","answer":"Colossal-AIやHugging Face Accelerateなどが直接活用・影響を受けています。"}],"pageUrl":"https://www.refbase.ai/reference/megatron-lm/P-02-001","sourceEvidence":[{"id":"ev-megatronlm-2","text":"Megatron-LMは2Bから462Bパラメータのモデルを数千GPU規模で効率的に学習でき、H100クラスタで最大47%のMFU（Model FLOP Utilization）を達成する。Colossal-AIやHugging Face Accelerate、NVIDIA NeMoなど多くのLLM開発フレームワークがMegatron-LMに触発され、直接活用して構築されている。","title":"Megatron-Core | NVIDIA Developer","coverageType":["Capability","Differentiation"],"sourceType":"official_site","sourceClass":"Specification","sourceUrl":"https://developer.nvidia.com/megatron-core","confidence":"high","supportedPromptTypes":["P-02","P-04"],"needsVerification":true,"sourceVerified":false,"entityId":"megatron-lm"}],"generatedAt":"2026-07-20T08:41:20.341Z"},{"id":"P-04-001","companyId":"megatron-lm","questionId":"P-04-001","instanceId":"QIN-megatron-lm-P04-001","promptText":"Megatron-LMはどのような場面で活用できますか？","promptTypeId":"P-04","answer":"Megatron-LMは、研究チームが分散学習を学ぶ・迅速に実験する入口として、またMegatron Coreを使ったカスタム学習フレームワーク構築の基盤として活用できます。","evidencePoints":["ev-megatronlm-1","ev-megatronlm-2"],"scope":"大規模モデル研究・学習基盤構築の相談","differentiation":"研究者向けの学習しやすいエントリーポイントとしての設計","faq":[{"question":"Megatron-LMは初心者でも使えますか？","answer":"研究チームが分散学習を学ぶための入口として設計されています。"}],"pageUrl":"https://www.refbase.ai/reference/megatron-lm/P-04-001","sourceEvidence":[{"id":"ev-megatronlm-1","text":"Megatron-LMはNVIDIAが開発する、Transformerモデルを大規模に学習するための継続的な研究フレームワークで、カスタマイズ可能なネイティブPyTorch学習ループを提供する。","title":"GitHub - NVIDIA/Megatron-LM","coverageType":["Identity","Capability"],"sourceType":"github","sourceClass":"Documentation","sourceUrl":"https://github.com/NVIDIA/Megatron-LM","confidence":"high","supportedPromptTypes":["P-01","P-04"],"needsVerification":true,"sourceVerified":false,"entityId":"megatron-lm"},{"id":"ev-megatronlm-2","text":"Megatron-LMは2Bから462Bパラメータのモデルを数千GPU規模で効率的に学習でき、H100クラスタで最大47%のMFU（Model FLOP Utilization）を達成する。Colossal-AIやHugging Face Accelerate、NVIDIA NeMoなど多くのLLM開発フレームワークがMegatron-LMに触発され、直接活用して構築されている。","title":"Megatron-Core | NVIDIA Developer","coverageType":["Capability","Differentiation"],"sourceType":"official_site","sourceClass":"Specification","sourceUrl":"https://developer.nvidia.com/megatron-core","confidence":"high","supportedPromptTypes":["P-02","P-04"],"needsVerification":true,"sourceVerified":false,"entityId":"megatron-lm"}],"generatedAt":"2026-07-20T08:41:20.341Z"}]}