SKILL
distributed-training-megatron-core
使用 NVIDIA Megatron-Core 和高级并行策略训练大型语言模型(2B-462B 参数)。在训练超过 1B 参数的模型、需要最大 GPU 效率(H100 上 47% MFU)或需要张量/流水线/序列/上下文/专家并行时使用。用于 Nemotron、LLaMA、DeepSeek 的生产就绪框架。
机器翻译查看英文原文
Trains large language models (2B-462B parameters) using NVIDIA Megatron-Core with advanced parallelism strategies. Use when training models >1B parameters, need maximum GPU efficiency (47% MFU on H100), or require tensor/pipeline/sequence/context/expert parallelism. Production-ready framework used for Nemotron, LLaMA, DeepSeek.
适用对象:学习与科研。自动收录 · 待核查。
在 Cursor 中使用
该组合的专门教程待补充,尚未核实适配。
准备条件
- 本条仅收录原作者的技能元数据;请阅读完整说明,确认依赖、许可与使用条件。
选择已有说明的 AI 工具,或在页面加载后保存待办及提出教程请求。
查看原作者说明 ↗