LLM推理框架选型全攻略:从小白到专家的上下文工程实践指南
你选的不是框架是上下文工程方案有个概念这两年被提得越来越多Context Engineering上下文工程。Agent 能不能好好干活核心不在于用哪个框架而在于你给它的上下文够不够好。对话历史怎么管、工具调用结果怎么传、记忆怎么存、任务怎么分解——这些才是关键。ninehillshttps://github.com/ninehills/blog/issues/150 在 GitHub 上维护了一份「自主 Agent / 上下文工程资料索引」重要论文和文章都整理在一起。目前中文圈做得最系统的资料汇总值得收藏。框架只是实现上下文工程的工具。搞清楚这个选框架就不会那么焦虑了。上下文工程四大要素对话历史管理、工具调用路由、记忆存储、任务分解中心是 Agent 输出质量先去哪里看几个值得花时间的资源Agent 指南https://agent-guidance.manus.space/22 篇文章组成知识图谱从什么是 Agent讲到生产级系统设计互动式教程免费中英文都有。Hello AgentsDatawhalehttps://datawhalechina.github.io/hello-agents「从零开始构建智能体」国内社区做的适合刚入门把概念搞清楚。Nader 的完整构建指南https://nader.substack.com/p/the-complete-guide-to-building-agents用 Claude Agent SDK 构建 Agent 的全流程Claude Code 的底层原理讲得很透。Nazha.co的文章https://www.nazha.co/posts/how-to-build-agents实操向重点讲 Claude Agent SDK 怎么用以及怎么兼容 Minimax、GLM、DeepSeek 这些国产模型。框架全景我把主流框架和工具分成六层从简单到复杂。找到自己在哪一层往下看就行。Agent 框架六层架构图从底层直接开干到顶层垂直场景复杂度逐层递增第一层直接开干Claude Agent SDK本质是把 Claude Code 的能力包成库。spawn 一个 node 进程跑 cli.js工具调用、长上下文、复杂推理原生支持。几乎所有实践者都先推这个理由只有一个快。早上有想法下午就能跑通。踩坑Electron 打包要加asar.unpack: **/node_modules/anthropic-ai/**不然 cli.js 解包失败App 起不来。另外通过ANTHROPIC_BASE_URLANTHROPIC_API_KEY可以对接 Minimax、GLM、DeepSeek不是只能用 Claude。pi-monohttps://github.com/badlogic/pi-mono★17,938容易被忽视但接近 18k star 不是假的。这是一套工具包coding agent CLI 统一 LLM API多家模型 TUI/Web UI Slack bot vLLM pods不是单一框架。配套有 awesome-pi-agenthttps://github.com/qualisero/awesome-pi-agent——社区维护的扩展列表hooks、tools、skills 各种都有生态挺完整了。craft-agentshttps://github.com/lukilabs/craft-agents-oss基于 Claude SDK 和 Pi SDK 构建文档中心化 Agent 框架自带 GUI。核心思路是把「文档」作为 Agent 的工作对象不是代码不是命令行。内容类、文档处理类的场景用这个。OpenAI Agents SDK2025 年 3 月发布OpenAI 自家的轻量框架专为多 Agent 协作设计。比 LangChain 轻比 LangGraph 好上手。用 OpenAI 模型、又不想搞那么重的这是合理的中间选项。第二层前端交互Vercel AI SDKhttps://ai-sdk.dev/docs/introductionv6 最新这不是完整的 Agent 框架。它是给 Next.js / React / Svelte / Vue 用的前端交互层提供useChat、useCompletion等 hooks流式渲染丝滑。v6 加了 Expo 和 React Native 支持同时上了 Coding Agent 相关功能。后端 Agent 逻辑还是要用别的框架来做Vercel AI SDK 负责「把结果好看地展示出来」。CopilotKithttps://github.com/CopilotKit/CopilotKit★29,078定位是「Frontend for Agents Generative UI」React Angular 都支持。跟 Vercel AI SDK 的区别Vercel AI SDK 是流式渲染层CopilotKit 是 Copilot 嵌入层。要让 Agent 直接操作已有 Web 应用的 UI、跟页面元素交互CopilotKit 才是对的工具Vercel AI SDK 做不到这个。第三层类型安全PydanticAIPydantic 团队做的类型安全 模型无关性。定义好输出 Schema框架保证 AI 返回符合格式的结果换模型不用大改代码。两句社区原话「看了 LangGraph 和 Agno最后选了 PydanticAI更可控。」「只是需要工具调用 结构化输出的话没必要用 LangGraphPydanticAI 够了。」输出要入库、要校验——解析合同、生成结构化报告、对接下游系统——选这个。第四层多 Agent 编排LangChain / LangGraphhttps://langchain-doc.cn/LangChain★127,733这两年从「模型接口封装」转成了「智能体工程平台」官方定位现在是 “The platform for reliable agents.”。核心是 LangGraph★25,248状态机式编排把 Agent 执行过程建模成节点和边支持循环、分支、回滚。生产部署走 LangSmith Deployment今年把 LangGraph Platform 改名了但功能一样。学习曲线最高控制力也最强。流程复杂、需要 HITL人工在某个节点介入审核、Agent 出错了要回到上一步重来——这种场景 LangGraph 才值得学。deepagentshttps://github.com/langchain-ai/deepagents★9,705是 LangChain 官方基于 LangGraph 做的 Agent harness内置 planning tool、filesystem backend、子 Agent 生成。想快速理解 LangGraph 怎么用看这个仓库比看文档直接多了。CrewAI角色扮演式。定义「研究员」「撰稿人」「编辑」分配任务协作完成。逻辑清晰调试时知道是哪个 Agent 出了问题——这是它比 AutoGen 好调的地方。内容生产、市场调研用这个。AutoGen微软对话协商式。Agent 之间通过对话解决问题不是固定角色。灵活但也因为太灵活有时候两个 Agent 会无限对话收不了场。代码 Review 修复这种需要自由协商的技术问题用这个。第五层企业级基础设施MastraTypeScript 企业级框架工作流编排 知识库管理 工具集成打包在一起。TS 技术栈的首选。Agno前 PhidataPython 版企业级 Agent自带记忆模块、知识库、工具调用。做公司内部 AI 助理这类应用合适。有用户反映会遇到循环调用、难以调试的问题选型时注意。Temporalhttps://github.com/temporalio/temporal★18,561不是 AI 框架是任务持久化引擎。断网重连、自动重试、流程不丢失。做公司级应用从架构初期就把它纳入别等出问题了再补。第六层垂直场景场景对得上能省大量时间opencodehttps://github.com/anomalyco/opencode★112,765「The open source coding agent.」star 数跟 LangChain 差不多量级是目前开源 Coding Agent 里最大的项目。如果你要做 AI 编程助手类工具、或者想基于开源 Coding Agent 做二次开发从这里开始。TradingAgents-CNhttps://github.com/hsliuping/TradingAgents-CN★17,954中文化的多 Agent 金融交易框架基于 LLM 做量化分析。场景在金融领域的可以直接用。RD-Agenthttps://github.com/microsoft/RD-Agent★11,421微软出品自动化工业级研发流程。Agent 要跑实验、分析数据、输出研究报告的参考这个的设计思路。测试和架构上生产前不能漏的两个scenariohttps://github.com/langwatch/scenario专门针对 Agentic 系统的测试框架。Agent 写完了怎么保证它在各种场景下行为符合预期scenario 帮你写测试用例跑自动化测试。上线前一定要过这一步。DeepChat Agent 架构解析https://github.com/ThinkInAIXYZ/deepchat/wiki/Agent-系统架构详解不是框架是 DeepChat 项目的架构文档。对 AgentPresenter、agentLoopHandler 等核心组件有详细说明。自己设计 Agent 系统前读一遍少走弯路。上下文工程的实操Agent-Skills-for-Context-Engineeringhttps://github.com/muratcankoylan/Agent-Skills-for-Context-Engineering★12,619专门收集 Agent Skills 的仓库覆盖上下文工程、多 Agent 架构、生产系统实践。用 Claude Agent SDK 写 Skills 的时候来这里找参考不用从零想。选型决策树你要做什么 →个人项目 / 快速验证 └→ Claude Agent SDK / pi-mono要做 Web 界面 ├→ 流式渲染 → Vercel AI SDK └→ 嵌入现有 app 的 Copilot → CopilotKit输出要结构化、要入库 └→ PydanticAI多个 Agent 协作 ├→ 分工明确 → CrewAI ├→ 自由协商 → AutoGen └→ 流程复杂 / 需要人工审核 → LangGraph deepagents 上手垂直场景 ├→ 金融量化 → TradingAgents-CN ├→ 科研 RD → RD-Agent └→ Coding Agent开源最大项目→ opencode★112k企业级、生产环境 ├→ TS 技术栈 → Mastra ├→ Python 技术栈 → Agno ├→ 任务不能丢 → Temporal └→ 上线前测试 → scenario ![](http://cdn.zhipoai.cn/e389c866.jpg) Agent 框架选型决策树从你的场景出发六条路径找到最适合的框架 推荐路径 ---- **刚开始做 Agent**先去 manus.spacehttps://agent-guidance.manus.space/ 或 hello-agentshttps://datawhalechina.github.io/hello-agents 把概念搞清楚然后用 Claude Agent SDK 搞一个具体的小场景比如「帮我自动整理每天的邮件」。跑通了比把所有框架文档看一遍更有用。 **已经在用、觉得不够用**看是哪里不够。流程控制不够LangGraph多 Agent 分工CrewAI结构化输出PydanticAI要做界面Vercel AI SDK 或 CopilotKit。别一下子全上。 **要上生产、给公司用** plaintext 前端Vercel AI SDK / CopilotKit核心逻辑Claude Agent SDK 或 LangGraph持久化Temporal工具连接MCP测试scenarioSkills 参考Agent-Skills-for-Context-Engineering最后普通人如何抓住AI大模型的风口领取方式在文末为什么要学习大模型目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 大模型作为其中的重要组成部分 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 为各行各业带来了革命性的改变和机遇 。目前开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景其中应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过30%。随着AI大模型技术的迅速发展相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业人工智能大潮已来不加入就可能被淘汰。如果你是技术人尤其是互联网从业者现在就开始学习AI大模型技术真的是给你的人生一个重要建议最后只要你真心想学习AI大模型技术这份精心整理的学习资料我愿意无偿分享给你但是想学技术去乱搞的人别来找我在当前这个人工智能高速发展的时代AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料能够帮助更多有志于AI领域的朋友入门并深入学习。真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】大模型全套学习资料展示自我们与MoPaaS魔泊云合作以来我们不断打磨课程体系与技术内容在细节上精益求精同时在技术层面也新增了许多前沿且实用的内容力求为大家带来更系统、更实战、更落地的大模型学习体验。希望这份系统、实用的大模型学习路径能够帮助你从零入门进阶到实战真正掌握AI时代的核心技能01教学内容从零到精通完整闭环【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块内容比传统教材更贴近企业实战大量真实项目案例带你亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事‌02适学人群应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。vx扫描下方二维码即可【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】本教程比较珍贵仅限大家自行学习不要传播更严禁商用03入门到进阶学习路线图大模型学习路线图整体分为5个大的阶段04视频和书籍PDF合集从0到掌握主流大模型技术视频教程涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向新手必备的大模型学习PDF书单来了全是硬核知识帮你少走弯路不吹牛真有用05行业报告白皮书合集收集70报告与白皮书了解行业最新动态0690份面试题/经验AI大模型岗位面试经验总结谁学技术不是为了赚$呢找个好的岗位很重要07 deepseek部署包技巧大全由于篇幅有限只展示部分资料并且还在持续更新中…真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】

相关新闻

深度解析AI大模型技术栈:从Agent到MCP与Skills的必学指南(程序员收藏)

深度解析AI大模型技术栈:从Agent到MCP与Skills的必学指南(程序员收藏)

从基础模型到智能应用的完整技术栈解析 引言 在 AI 技术飞速发展的今天,我们经常听到这些术语:AI 大模型、AI Agent、MCP(Model Context Protocol)、Skills。它们之间是什么关系?如何协同工作? 本文将深入…

2026/7/2 22:01:52 阅读更多 →
python+flask+vue框架的房产租赁管理系统_二手房屋租赁系统-- 项目源码

python+flask+vue框架的房产租赁管理系统_二手房屋租赁系统-- 项目源码

目录项目架构设计数据库设计后端API开发前端页面开发关键功能实现项目部署方案开发进度规划测试策略开发技术路线源码lw获取/同行可拿货,招校园代理 :文章底部获取博主联系方式!项目架构设计 采用前后端分离模式,Flask提供RESTful API后端服…

2026/7/7 4:41:01 阅读更多 →
运筹优化|gurobi的Restricted license

运筹优化|gurobi的Restricted license

目录背景完整代码输出背景 一般来说,通过pip install gurobipy安装的免费gurobi限制了1000个变量,要突破1000个变量限制需要或者证书,下面代码可以测试你是不是获取了证书。你可以修改下面代码的num_vars,将其设为3000试试。 完…

2026/7/3 10:21:48 阅读更多 →

最新新闻

YOLOv10模型改进-特定领域应用-第92篇:YOLOv10改进策略【特定领域应用】| YOLOv10在安防监控中的应用

YOLOv10模型改进-特定领域应用-第92篇:YOLOv10改进策略【特定领域应用】| YOLOv10在安防监控中的应用

一、本文介绍 本文记录的是YOLOv10在安防监控领域的应用。安防监控需要实时检测人员、车辆、异常行为等目标,YOLOv10凭借其高效的推理速度和准确的检测能力,成为安防监控领域的首选目标检测算法。 二、安防监控场景分析 2.1 检测目标 安防监控场景需要检测的目标包括: 人…

2026/7/7 7:26:00 阅读更多 →
Aimmy完整指南:如何用AI智能瞄准提升你的游戏体验

Aimmy完整指南:如何用AI智能瞄准提升你的游戏体验

Aimmy完整指南:如何用AI智能瞄准提升你的游戏体验 【免费下载链接】Aimmy Universal Second Eye for Gamers with Impairments (Universal AI Aim Aligner (AI Aimbot) - ONNX/YOLOv8 - C#) 项目地址: https://gitcode.com/gh_mirrors/ai/Aimmy 你是否曾在激…

2026/7/7 7:26:00 阅读更多 →
企业申报省级企业技术中心有哪些条件?企业技术中心申报要求详解

企业申报省级企业技术中心有哪些条件?企业技术中心申报要求详解

江苏省省级企业技术中心申报条件主要分为基本准入条件(一票否决项)、核心量化指标、评分与行业系数要求以及合规与前置条件四个维度。具体申报要求如下:一、基本准入条件1.主体资格:企业在江苏省境内注册,具有独立法人…

2026/7/7 7:26:00 阅读更多 →
ASM330LHH与STM32L041C6运动跟踪系统设计与优化

ASM330LHH与STM32L041C6运动跟踪系统设计与优化

1. ASM330LHH与STM32L041C6的硬件组合解析1.1 ASM330LHH的6DoF IMU特性详解ASM330LHH这颗汽车级6轴惯性模块堪称运动跟踪领域的精密仪器。它采用系统级封装(SiP)技术,在3.3mm2.6mm0.83mm的微型封装内集成了三轴数字加速度计和三轴数字陀螺仪。实测中我发现&#xff…

2026/7/7 7:24:00 阅读更多 →
IDM注册表锁定激活技术深度解析:永久试用期管理方案

IDM注册表锁定激活技术深度解析:永久试用期管理方案

IDM注册表锁定激活技术深度解析:永久试用期管理方案 【免费下载链接】IDM-Activation-Script IDM Activation & Trail Reset Script 项目地址: https://gitcode.com/gh_mirrors/id/IDM-Activation-Script Internet Download Manager(IDM&…

2026/7/7 7:21:59 阅读更多 →
AlmaLinux 9、Rocky Linux 9 升级到 10 版本

AlmaLinux 9、Rocky Linux 9 升级到 10 版本

注:本文原在2025年6月24日发表于笔者的个人博客《IT人的工作生活》,原文 链接 :https://www.cntse.com/3293.html,如需转载,请私信笔者,征得笔者同意后,方可转载,并且需要保留本段文…

2026/7/7 7:19:58 阅读更多 →

日新闻

鸿蒙新特性:图片画廊与轮播导航——构建沉浸式图片浏览体验

鸿蒙新特性:图片画廊与轮播导航——构建沉浸式图片浏览体验

图片浏览是移动应用中最高频的场景之一。从社交应用的照片流到电商平台的商品图集,从旅游应用的景点相册到摄影作品展示——用户对图片浏览的体验要求不断提高:流畅的切换动画、直观的缩略图导航、便捷的收藏操作、自动播放模式。HarmonyOS NEXT ArkUI 虽…

2026/7/7 0:05:16 阅读更多 →
24V DC-DC降压芯片PW2312B/PW2815,SOT23-6到SOP8-EP方案对比

24V DC-DC降压芯片PW2312B/PW2815,SOT23-6到SOP8-EP方案对比

24V稳压芯片完整选型指南 PW8600 PW75XX PW2815 PW2312B LDODC/DC全方案 一、24V稳压方案概述 24V直流电源在工业自动化、门禁系统、电梯控制、汽车电子、LED驱动、监控设备等场景中应用极广,是最常见的中压直流母线电压。要将24V母线稳定降压至下游MCU、传感器…

2026/7/7 0:05:16 阅读更多 →
RAG+知识图谱混合检索与Graph RAG核心对比

RAG+知识图谱混合检索与Graph RAG核心对比

做企业RAG落地的团队,往往容易卡在一容易踩坑的选型难题: 当需求单纯靠向量RAG搞不定、单纯靠知识图谱也搞不定,必须同时依赖「文本语义理解 实体关系推理」时,到底是做「向量图谱混合检索」就够了,还是必须上「Grap…

2026/7/7 0:07:19 阅读更多 →

周新闻

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容

B站视频下载神器BiliTools:5分钟学会轻松保存任何B站内容 【免费下载链接】BiliTools A cross-platform bilibili toolbox. 跨平台哔哩哔哩工具箱,支持下载视频、番剧等等各类资源 项目地址: https://gitcode.com/GitHub_Trending/bilit/BiliTools …

2026/7/6 8:11:50 阅读更多 →
威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型全解析:从新手入门到实战应用,助你构建安全产品!

威胁模型的陌生现状在忙碌疲惫的一天里,参与了关于混合后量子密码学的讨论,应付端点攻击找茬的人,还参与留言板讨论后,发现“威胁模型”对多数人仍是陌生概念,且多被当作时髦用语。有趣的相关画作有一幅由 Embyr 创作的…

2026/7/6 8:11:52 阅读更多 →
渗透测试入门指南:从零基础到实战环境搭建

渗透测试入门指南:从零基础到实战环境搭建

1. 从“看热闹”到“入门”:我理解的渗透测试到底是什么?每次看到新闻里说某个大公司的数据被“黑”了,或者某个网站被攻击导致服务瘫痪,你是不是和我一样,心里会冒出两个念头:一是“这黑客真厉害”&#x…

2026/7/6 6:52:56 阅读更多 →

月新闻