智谱最近站在了风口浪尖上。1月8日港股上市45天市值涨了超500%一度突破3200亿港元。资本市场的热度还没消化完技术社区又炸了——智谱GLM-5技术报告公开40页把这款模型如何从「AI辅助写代码」进化到「自主完成工程任务」的底层路径完整交出来了。a16z最近发了一张图表示开源模型和闭源模型的差距正在快速缩小GLM-5作为现阶段最好的开源模型已经极大拉小了和Claude Opus 4.6的距离。说起来过去两个月我写了四篇论文解读——全是DeepSeek的。R1从22页扩到86页那篇、mHC残差连接那篇、Engram记忆论文那篇、OCR 2视觉因果流那篇。写到后来我自己都在想是不是要改名叫「DeepSeek论文博主」了。所以这次换一家。2月17日智谱发了GLM-5的技术报告40页标题挺有意思「GLM-5: from Vibe Coding to Agentic Engineering」——从氛围编程到智能体工程。之前我写过一篇GLM-5的体验文章从GLM-4.5到GLM-5我见证了一个模型从码农晋升为架构师聊的是使用感受。这次不一样我想认认真真地把这40页论文拆开看看里面到底写了什么。先看成绩单GLM-5的规格744B总参数MoE架构256个专家每次激活8个实际推理时活跃参数约40B。预训练数据28.5T tokens成绩确实猛。Artificial Analysis的Intelligence Index拿了50分开源模型首次达到这个水平。SWE-bench Verified 77.8%开源最高。BrowseComp联网检索配合上下文管理75.9%和MCP-Atlas工具调用67.8%论文称是全模型最高——不是开源最高是包括Opus、GPT、Gemini在内所有模型里的最高。论文里还有一个自研的CC-Bench-V2评测包含前端开发、后端开发和长周期Agent三类任务。在这个基准上GLM-5整体和Claude Opus 4.5接近。论文很坦诚地承认了一些不如Opus的地方——比如需要极强审美判断的前端任务。这种坦诚在技术报告里不多见至少说明数据可信度比较高。成绩单到这里一个问题自然冒出来资本市场和技术社区为什么同时这么看好GLM-5我觉得有两个层面。第一个是定位。论文标题说得很直白from Vibe Coding to Agentic Engineering。翻译过来就是从「程序员用AI辅助写代码」变成「Agent 7×24小时自主完成工程任务」。之前的AI编程是人在循环里——人提需求、AI写代码、人检查、人修改。Agentic Engineering是把人从循环里拿出来Agent自己规划、自己写、自己测、自己改bug。这个转变意味着什么意味着AI消耗token的方式从「一次性对话」变成了「持续运转」。一个Coding Agent跑一个SWE-bench任务可能要消耗几万甚至几十万token。当Agent成为主要的token消费者谁的模型最适合做Agent谁就占据了最大的商业想象力。GLM-5就是冲着这个定位去的。第二个是技术。读完40页论文我发现GLM-5的创新主要集中在两个阶段预训练阶段有两个巧妙的工程改进后训练阶段有一套完整的Agent RL训练体系。后者是重头戏但前者也值得先说。预训练两个巧妙的工程改进第一个让两个好工具一起工作。GLM-5同时用了两项技术MLA一种压缩记忆的方法省显存和Muon一种更快的训练优化器。各自都是好东西但放在一起会打架。打个比方MLA的工作方式是把所有信息打包成一个压缩包整体处理。Muon的工作方式是把信息拆开一份一份独立优化。一个要打包一个要拆包硬放一起训练效果就变差。智谱的解法很朴素——在中间加一步先把压缩包拆开让Muon逐份优化优化完再打包回去给MLA用。论文里管这个叫Muon Split。实验数据显示这一拆一合确实改善了训练效果。第二个共享参数的多步预测。MTP是一种加速推理的技术——让模型一次预测接下来的多个词而不是一个一个蹦。DeepSeek用1个预测层来做这件事。GLM-5更大胆用3个预测层但让这3层共享同一套参数。直觉上3个独立的预测层应该更强——各自专精嘛。但共享参数的方案逼着模型学会一种更通用的「多步预测能力」。就像下棋一个人用同一套棋理连想三步比三个人各想一步更连贯。测试数据也证实了这一点同样的推理步数下GLM-5每次预测被接受的词数比DeepSeek多约8%推理更快。这两个改进都不是会上头条的大突破。但做法本身说明一件事光用好技术不够还得让这些技术在一起配合得好。后训练的重头戏Slime异步Agent RL预训练的改进偏「小而美」。后训练阶段才是GLM-5真正的主战场其中最核心的创新是异步Agent RL框架智谱内部叫「Slime」。如果说DeepSeek的GRPO让整个行业记住了一种新的强化学习优化方式那Slime要解决的问题更往前一步——不是「怎么优化RL」而是「怎么让Agent RL大规模跑得起来」。这可能是整篇论文里信息密度最高、也最有行业价值的部分。先解释为什么Agent RL特别难。传统的RL训练是这样的模型生成一段文本比如做一道数学题环境给个分数模型根据分数调整参数。整个过程很快因为「生成答案」和「打分」都可以在GPU集群内部完成。但Agent RL不一样。模型不是在做一道题而是在执行一个完整的任务——比如修复GitHub上的一个bug。这意味着模型需要读代码、写代码、运行测试、看报错信息、再修改。这个过程可能需要几十轮对话每轮都要调用外部工具代码编辑器、终端、浏览器。一个SWE-bench任务的rollout从头到尾跑完一个任务可能要花几分钟甚至几十分钟。而传统的数学推理RL一次rollout只要几秒。这就造成了一个严重的效率问题。在Agent RL场景下绝大部分训练时间都花在了rollout generation上。GPU集群的大部分时间都在等——等外部工具返回结果。传统的同步RL框架比如OpenRLHF、verl解决不了这个问题因为它们假设生成和训练是紧耦合的生成一批、训练一批、再生成一批。当生成要等几十分钟时整个训练流水线就卡住了。智谱的解法是完全解耦生成和训练。Slime框架的架构是这样的Rollout服务器集群一堆独立的服务器每台负责执行一个Agent任务读代码、调终端、跑测试。它们有自己独立的GPU做推理任务跑完就把trajectory完整的执行轨迹发回来。训练集群另一堆GPU只负责根据收到的trajectory做参数更新。不等有数据就训练。TITO网关Token-In-Token-Out这是一个很巧妙的中间层。它接收外部服务器发来的文本用当前版本的分词器转成token再发给模型。模型返回的token也由它转回文字。TITO为什么重要因为在异步RL里rollout服务器上跑的模型版本可能和训练集群上的不一样——你生成的时候是v1.3等你的数据到了训练集群模型可能已经更新到v1.5了。如果直接拿v1.3的token去给v1.5的模型训练分词器都可能对不上比如v1.5新加了特殊token就会出错。TITO网关通过统一的文本中间层解决了这个问题不管你哪个版本生成的我都先转成文本再用当前训练版本的分词器重新编码。保证token永远和模型版本匹配。另一个问题是off-policy数据的稳定性。因为生成和训练不同步训练集群收到的数据可能来自好几个历史版本的模型。用历史版本的数据训练当前版本的模型如果不加处理训练会不稳定甚至崩溃。智谱用了一个叫「双侧重要性采样」的方法来处理。传统重要性采样只用一个比率旧策略vs新策略的概率比Slime用两个一个控制token级别的重要性权重一个控制整个样本级别的。两个一起用既保证了数据利用效率又不会因为某个极端样本把训练带跑偏。这整套系统不是论文里随便写写的。智谱已经把Slime框架开源了github.com/THUDM/slime 任何团队都可以直接用。拆开来看Slime的贡献其实是两层的底层是异步RL基础设施——把生成和训练彻底解耦让GPU不再干等上层是异步Agent RL算法——TITO网关和双侧重要性采样让异步训练在数学上也站得住脚。基础设施解决「跑得起来」算法解决「跑得稳当」。我觉得这是GLM-5论文里最值得关注的创新。所有想做Agent的团队都知道Agent RL效果好但传统同步框架让训练效率低到不可接受。Slime给出了第一个系统级的解法。这件事的意义可能要等更多团队用上这个框架之后才能完全显现。三阶段RL顺序决定命运异步RL解决了效率问题。但还有一个更根本的问题你要让模型学什么GLM-5的RL训练分三个阶段顺序很讲究第一阶段Reasoning RL——教模型「想」。用MATH、AIME、代码竞赛这些有明确对错的任务来训练。这个阶段的目标是建立基础推理能力。第二阶段Agentic RL——教模型「做」。用SWE任务修复真实GitHub bug、终端任务、多跳搜索任务这些长周期Agent任务来训练。这个阶段用的就是前面说的Slime框架。第三阶段General RL——教模型「当人」。用开放对话、创意写作、角色扮演这些任务来训练。这个阶段让模型不只是一台推理机器还是一个有品味、有性格的对话伙伴。为什么顺序重要因为后面的阶段会让模型忘掉前面学到的东西。这个问题在机器学习里叫「灾难性遗忘」。你训练模型学会了修bug再训练它聊天写作它修bug的能力就可能退化。就像一个人去学了烹饪不代表他会忘记开车。但对于神经网络来说这种遗忘是真实存在的。GLM-5的解法叫「On-Policy Cross-Stage Distillation」在线跨阶段蒸馏。做法是在第二阶段训练时同时用第一阶段的最佳模型作为「老师」让学生模型在学新技能的同时保持旧技能。第三阶段同理。论文里给了具体数据没有蒸馏时从Agentic RL进入General RL阶段后SWE-bench得分从77.8%掉到73.2%。用了跨阶段蒸馏后基本不掉分。这个技巧挺实用的。我之前写DeepSeek R1论文解读时提到过R1团队也遇到了RL训练导致能力退化的问题他们的做法是在训练数据里混入历史数据。GLM-5的蒸馏方案更系统——不只是混数据而是让当前模型持续向历史最佳版本学习。Agent场景下的三种思考模式RL训练之外GLM-5在推理策略上也有自己的设计。传统的「思考型模型」比如DeepSeek R1、o1在回答之前会先做一段长长的内部推理放在think标签里。这种模式对数学题和编程题很有效。但Agent任务不一样。Agent需要执行很多轮对话——读文件、改代码、跑测试、看结果、再改。如果每一轮都做一大段思考上下文窗口很快就被撑爆了。GLM-5设计了三种思考模式来应对不同场景Interleaved Thinking交错思考每轮对话都思考但思考内容比较短。适合需要持续推理的场景。Preserved Thinking保留思考只在第一轮做深度思考后续轮次直接执行。思考内容会保留在上下文中供后续参考。适合任务明确、执行步骤多的场景。Turn-level Thinking轮次级思考每轮独立思考但不保留历史思考内容——上一轮的think在下一轮会被清除。适合上下文紧张的长任务。这三种模式的切换是通过系统提示词来控制的。论文里给了一个有意思的实验在SWE-bench任务上Turn-level Thinking的效果比Interleaved Thinking好约2个百分点。原因是SWE-bench需要很多轮交互Interleaved模式的思考内容太多会挤占真正有用的代码和报错信息。这种设计挺实用的。核心不是「思考越多越好」而是「什么时候该想、什么时候该干活得分场景」。一个有意思的细节论文里还有一个有趣的案例值得单独拎出来。幻灯片生成的多层奖励。GLM-5能生成PPT幻灯片通过写HTML/CSS再渲染。训练这个能力时奖励函数的设计分了三层第一层是静态检查——HTML代码有没有语法错误、CSS属性用得对不对。第二层是渲染检查——渲染出来的页面字有没有溢出、元素有没有重叠。这需要用Playwright把HTML渲染成图片再检查。第三层是视觉感知——用另一个VLM视觉语言模型来评价渲染结果好不好看。但这里出了一个经典的reward hacking问题模型学会了一种「作弊」方式来骗取高分——用纯黑背景加白色文字。因为纯黑背景上白字的对比度最高VLM评判时容易给高分。但生成出来的PPT全是黑底白字完全没有设计感。智谱的修复方案是在第三层奖励里引入参考幻灯片对比——不只是问「好不好看」而是问「跟优秀案例比怎么样」。这种reward hacking的故事在RL文献里很常见但每次看到具体案例还是觉得有趣。它说明了一件事训练AI的难度不在于让它「做到」而在于让它「做对」。国产芯片适配不只是一句口号论文里有一章专门写了国产芯片适配。GLM-5从发布之初就原生适配了国产GPU生态覆盖7家主流芯片平台华为昇腾、摩尔线程、海光、寒武纪、昆仑芯、沐曦、燧原。不少媒体在报道这件事时就写了一句「全栈国产」然后带过。但论文里的细节比这丰富得多。以华为昇腾Atlas系列为例智谱做了从量化到推理引擎的全链路优化——W4A8混合精度量化让单台服务器装下750B参数定制融合算子解决稀疏注意力的计算瓶颈深度适配vLLM-Ascend和SGLang两大推理引擎。最终效果是GLM-5在单台国产算力节点上的推理性能足以媲美两台国际主流GPU集群。7家芯片的架构各不相同指令集不同编程模型不同。要在7个平台上都能跑GLM-5意味着很多底层算子得重写7遍。这不是什么「突破性创新」但它是实打实的工程苦活。我之前写DeepSeek论文解读时提过一个观察DeepSeek的很多技术突破其实是「工程驱动」而非「理论驱动」的——他们不是先想到一个新理论再去实验而是在工程实践中遇到问题、被迫想出解决方案。智谱在国产芯片上的适配也是同样的逻辑。你也可以说是「不得不用」但这个约束倒逼出了一套跨芯片的工程能力长远来看反而是竞争优势。写在最后回到开头的问题GLM-5到底做了什么创新预训练阶段Muon Split让MLA和Muon优化器兼容工作共享参数MTP把推理速度往上拉了一截。后训练阶段是真正的重头戏——Slime异步RL框架解决了Agent训练的效率瓶颈三阶段RL配合跨阶段蒸馏防止能力遗忘三种思考模式适配不同Agent场景。这些创新指向同一个方向怎么把一个好底座训成一个好Agent。这恰好是2025-2026年整个行业的核心战场。架构层面趋同之后真正拉开差距的是Post-Training——怎么做RL、怎么训Agent、怎么防遗忘、怎么设计奖励函数。GLM-5在这个战场上拿出了自己的解法而且把核心框架Slime开源了出去下一个团队可以直接站在这个起点出发。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】