MindSpeed LLM适配Qwen3-Coder-Next并上线魔乐社区，训练推理教程请查收

MindSpeed LLM作为昇腾AI生态的重要技术支撑专为大规模语言模型设计具有超强的计算能力和灵活的开发支持。Qwen3-Coder-Next一发布MindSpeed LLM框架立刻支持跑通。MindSpeed LLM快速部署与应用Qwen3-Coder-Next的教程已上线魔乐社区欢迎开发者体验 模型权重链接https://modelers.cn/models/Qwen-AI/Qwen3-Coder-Next MindSpeed LLM训练推理教程https://modelers.cn/models/MindSpeed/Qwen3-Coder-Next01 MindSpeed LLM无缝支持跑通模型MindSpeed LLM为开发者提供了一个稳定、高效的平台来快速部署和调优 Qwen3-Coder-Next模型。硬件与框架深度协同立刻跑通MindSpeed LLM与昇腾NPU的深度集成使得 Qwen3-Coder-Next大语言模型在发布的第一时间内就能够顺利跑通并高效运行。无论是在训练过程中还是在推理阶段MindSpeed LLM都为 Qwen3-Coder-Next提供了最佳的硬件加速支持确保性能的最大化释放。开箱即用无需复杂配置开发者只需简单配置即可在MindSpeed LLM上无缝运行 Qwen3-Coder-Next模型。框架提供了完整的工具链帮助开发者快速将 Qwen3-Coder-Next应用到实际项目中减少了复杂的调优过程缩短了开发周期。分布式计算优化MindSpeed LLM内置的分布式计算能力能够有效利用多台昇腾AI硬件确保 Qwen3-Coder-Next在大规模并发任务下的稳定运行极大提升了处理效率和响应速度。MindSpeed LLM框架与Qwen3-Coder-Next的同步发布并立刻支持跑通标志着昇腾平台在大语言模型领域的技术实力再次提升。开发者可以在第一时间内借助强大的昇腾计算能力快速将 Qwen3-Coder-Next应用于实际项目进一步加速智能应用的落地本教程将引导您完成从环境准备到模型训练的完整过程确保您能够快速上手并顺利跑通 Qwen3-Coder-Next模型。我们提供详细的步骤说明帮助您在MindSpeed框架下实现 Qwen3-Coder-Next模型的无缝运行。02 环境配置硬件要求qwen3_coder_next的参考硬件配置如下,本文将以4台Atlas 900 A3 SuperPoD 32卡训练和在线推理对话为例进行介绍MindSpeed LLM仓库部署MindSpeed LLM的主要依赖配套如下表安装步骤参考安装指导https://gitcode.com/Ascend/MindSpeed-LLM/blob/master/docs/pytorch/install_guide.md。1. 仓库拉取git clone https://gitcode.com/ascend/MindSpeed-LLM.git git clone https://github.com/NVIDIA/Megatron-LM.git # megatron从github下载请确保网络能访问 cd Megatron-LM git checkout core_v0.12.1 cp -r megatron ../MindSpeed-LLM/ cd ../MindSpeed-LLM git checkout master pip3 install -r requirements.txt mkdir logs mkdir dataset mkdir ckpt2. 环境搭建torch npu 与 CANN包参考链接https://support.huawei.com/enterprise/zh/ascend-computing/cann-pid-251168373/software# python3.10 conda create -n test python3.10 conda activate test # 安装 torch 和 torch_npu注意要选择对应python版本、x86或arm的torch、torch_npu及apex包 pip install torch-2.7.1-cp310-cp310m-manylinux2014_aarch64.whl pip install torch_npu-2.7.1*-cp310-cp310m-linux_aarch64.whl # apex for Ascend 参考 https://gitee.com/ascend/apex # 建议从原仓编译安装 # 使能环境变量 source /usr/local/Ascend/cann/set_env.sh # 修改为实际安装的Toolkit包路径 source /usr/local/Ascend/nnal/atb/set_env.sh # 修改为实际安装的nnal包路径 # 安装加速库 git clone https://gitcode.com/ascend/MindSpeed.git cd MindSpeed git checkout master # checkout commit from MindSpeed master pip3 install -r requirements.txt pip3 install -e . cd .. # 安装其余依赖库 pip install -r requirements.txt03权重转换权重下载从魔乐社区下载权重和配置文件https://modelers.cn/models/Qwen-AI/Qwen3-Coder-Next权重转换MindSpeed LLM提供脚本将已开源权重转换为mcore权重用于训练、推理、评估等任务。脚本链接https://gitcode.com/Ascend/MindSpeed-LLM/blob/master/examples/mcore/qwen3_coder_next/ckpt_convert_qwen3_coder_next_80b_hf2mcore.sh使用方法如下请根据实际需要的TP/PP等切分策略和权重路径修改权重转换脚本。cd MindSpeed-LLM bash examples/mcore/qwen3_coder_next/ckpt_convert_qwen3_coder_next_80b_hf2mcore.sh04数据预处理预训练数据预处理MindSpeed LLM提供脚本进行数据集处理https://gitcode.com/Ascend/MindSpeed-LLM/blob/master/examples/mcore/qwen3_coder_next/data_convert_qwen3_coder_next_pretrain.sh。使用方法如下cd MindSpeed-LLM bash examples/mcore/qwen3_coder_next/data_convert_qwen3_coder_next_pretrain.sh请根据实际需要修改以下参数微调数据预处理MindSpeed LLM提供脚本进行数据集处理https://gitcode.com/Ascend/MindSpeed-LLM/blob/master/examples/mcore/qwen3_coder_next/data_convert_qwen3_coder_next_instruction.sh使用方法如下cd MindSpeed-LLM bash examples/mcore/qwen3_coder_next/data_convert_qwen3_coder_next_instruction.sh请根据实际需要修改以下参数05预训练执行以下命令cd MindSpeed-LLM bash examples/mcore/qwen3_coder_next/pretrain_qwen3_coder_next_80b_4K_A3_ptd.sh需要根据实际情况修改脚本中以下变量06微调执行以下命令cd MindSpeed-LLM bash examples/mcore/qwen3_coder_next/tune_qwen3_coder_next_80b_4K_full_ptd.sh需要根据实际情况修改脚本中以下变量07在线推理对话执行以下命令cd MindSpeed-LLM bash examples/mcore/qwen3_coder_next/generate_qwen3_coder_next_80b_ptd.sh需要根据实际情况修改脚本中以下变量