导读**如果说大模型是‘大脑’那么AI Agent就是让这个大脑真正拥有‘手脚’和‘感官’的神经系统。它的重要性在于解决了AI落地的‘最后一公里’问题。AI Agent通过感知、规划、记忆和工具使用让AI具备了真正的自主性。它不再只是一个聊天窗口而是能够像人类一样为了完成一个目标去浏览网页、操作软件、调用API甚至协同多个智能体共同工作。不论是开发人员、运营人员或者是管理人员深入了解AI Agent都是对当下以及未来的可靠投资。**什么是AI Agent想象一下你想要生成一份关于 AI 研究最新趋势的报告。如果你使用标准的 LLM你可能会:编写prompt并请求大模型总结最近的AI研究论文你查看大模型的输出这是你可能意识到你需要参考论文来源你又编写了一个prompt输入到大模型中去获取参考的论文列表然后你发现某些参考来源已经过时或者不存在,所以你优化了prompt经过多次迭代后你终于得到了有用的输出。这个迭代的过程需要时间和精力要求你在每一步都充当规划者与决策者。现在让我们看看AI Agent如何用不同的方式处理这个问题1.一个研究Agent可以自主地搜索并从arXiv、Semantic Scholar或Google Scholar等平台检索相关的AI研究论文。2.一个筛选Agent会扫描检索到的论文根据引用次数、发表日期和关键词识别最相关的论文。3.一个总结Agent提取关键见解并将其浓缩成易于阅读的报告。4.一个格式化Agent会构建最终报告的结构确保其遵循清晰、专业的布局。在这里AI Agent不仅端到端地执行研究流程还会自我优化输出确保最终报告全面、最新且结构良好而且无需在每一步都进行人工干预。简单来说AI Agent是可以推理、思考、规划、找出相关来源并在需要时从中提取信息、采取行动甚至在出错时自我纠正的自主系统。Agent vs LLM vs RAG让我们用一个简单的比喻来说明LLM 是大脑RAG 为大脑提供新鲜信息Agent是决策者,它使用大脑和工具来规划和行动。1.LLM像GPT-4、deepseek-R1这样的 LLM 是在海量文本数据上训练的它可以完成推理、生成、总结等任务但只能生成它已经知道的内容(即训练数据)。也就是说它很聪明但是是静态的。它无法访问网络、调用 API 或自行获取新的知识或事实。2.RAG(检索增强生成)RAG通过检索外部文档(来自向量数据库、搜索引擎等)并在生成响应前将其作为上下文提供给LLM来增强LLM的上下文。RAG使LLM能够了解更新、相关的信息而无需重新训练。3.AgentAgent为系统添加了自主性。它不仅仅是回答问题——它还决定采取哪些步骤应该调用工具吗调用哪些工具搜索网络吗总结存储信息Agent使用LLM、调用工具、做出决策就像真正的助手一样编排工作流程。AI Agent 的构建模块AI Agent被设计为能够自主推理、规划和采取行动的系统。然而要使其有效必须在构建时考虑某些关键原则。一个优秀的Agent一般需要有六个基本构建块角色扮演专注/任务工具协作防护措施记忆1.角色扮演提升Agent性能的最简单方法之一是给它一个清晰、特定的角色。一个通用的 AI 助手可能会给出模糊的回答但给它一个精确的角色它可能就会给出吻合上下文地精确回答。为什么呢因为角色分配塑造了Agent的推理和检索过程。角色越具体输出就越贴切、越相关。2.专注/任务专注是减少幻觉和提高准确性的关键。给Agent太多任务或太多数据没有帮助反而有害。过载会导致大模型困惑输出糟糕的结果。例如一个营销Agent应该专注于信息传达、语调和受众而不是定价或市场分析。与其试图让一个Agent做所有事情不如使用多个Agent每个都有特定而狭窄的专注点。专业化的Agent总是表现的更好。3.工具当Agent能够使用正确的工具时它们会变得更聪明。但更多工具 ≠ 更好的结果。例如,一个AI研究Agent可以受益于用于检索最新出版物的网络搜索工具用于浓缩长篇研究论文的总结模型用于正确格式化引用的引用管理器。但如果你添加不必要的工具——比如语音转文本模块或代码执行环境——可能会混淆Agent并降低效率。3.1 自定义工具虽然基于LLM的Agent擅长推理和生成响应但它们无法直接访问实时信息、外部系统或专门的计算。工具允许 Agent:搜索网络获取实时数据从API或数据库检索结构化信息执行代码以进行计算任务分析图像、各种类型文档等。例如智能体构建框架CrewAI内置了多种可以与Agent集成的工具:然而有时你可能需要构建自定义工具。在这个例子中我们正在CrewAI中构建一个实时货币转换工具。与其让LLM猜测汇率我们集成了一个自定义工具从外部API获取实时汇率。下面让我们看看如何在CrewAI框架中自定义构建一个工具。首先确保安装了工具包:还需获取汇率API密钥https://www.exchangerate-api.com/(它是免费的)。在 .env 文件中指定如下所示:完成后我们导入一些基本库:接下来我们使用Pydantic定义工具期望的输入字段:现在我们通过继承BaseTool来定义CurrencyConverterTool每个工具类都应该有一个_run方法当Agent想要使用它时就会执行这个方法。在上面的代码中我们使用API请求获取实时汇率。我们还处理了请求失败或货币代码无效时的错误。现在我们定义一个使用该工具进行实时货币分析的Agent并附加CurrencyConverterTool允许 Agent 在需要时直接调用它我们给currency_analyst的Agent分配一个任务最后,我们创建一个Crew将Agent分配给任务并执行3.2 通过MCP自定义工具现在让我们更进一步。与其将工具直接嵌入到每个Crew中不如将其作为可重用的MCP工具公开——使其可以通过简单的服务器跨多个Agent和流程访问。首先安装所需的包在.env文件中继续使用ExchangeRate-API现在我们将编写一个轻量级的server.py脚本公开货币转换器工具。我们从标准的库导入开始现在加载环境变量并初始化服务器接下来我们使用mcp.tool()定义工具逻辑这个函数接受三个输入——金额、源货币和目标货币——并使用实时汇率API 返回转换结果。为了使工具可访问我们需要运行MCP服务器。在脚本的末尾添加以下内容这将启动服务器并http://localhost:8081/sse公开你的convert_currency工具。现在任何CrewAI Agent都可以使用MCPServerAdapter连接到它。现在从CrewAI Agent内部使用这个工具。首先导入所需的CrewAI类。使用来自CrewAI的Agent、Task和Crew,以及 MCPServerAdapter来连接到工具服务器。接下来连接到MCP工具服务器。定义服务器参数以连接到运行的MCP工具现在在Agent中使用发现的MCP工具这个Agent被分配了来自远程服务器的convert_currency工具。它现在可以像本地定义的工具一样调用该工具。我们给 Agent 一个任务描述最后我们创建 Crew传入输入并运行4. 协作多Agent系统在Agent协作和交换反馈时效果最佳。与其让一个Agent做所有事情不如让一组专业化的Agent分割任务并改进彼此的输出。考虑一个AI驱动的金融分析系统一个Agent收集数据。另一个评估风险。第三个制定策略。第四个撰写报告。协作产生更智能、更准确的结果。最佳实践是通过设计工作流程来实现Agent协作,其中Agent可以交换见解并共同改进他们的响应。5. 防护措施Agent很强大但如果没有约束它们可能会偏离轨道。它们可能会产生幻觉、无限循环或做出糟糕的决策。防护措施确保Agent保持正轨并维持质量标准。有用的防护措施示例包括限制工具使用防止Agent过度使用API或生成不相关的查询。设置验证检查点确保输出在进入下一步之前满足预定义标准。建立回退机制如果Agent未能完成任务,另一个Agent或人工审查者可以介入。例如一个 AI 驱动的法律助手应该避免过时的法律或虚假声明——防护措施可以确保这一点。6.记忆记忆是AI Agent最关键的组件之一。没有记忆Agent每次都会重新开始丢失以前交互的所有上下文。有了记忆Agent可以随着时间改进记住过去的行动并创建更连贯的响应。AI Agent中不同类型的记忆包括:短期记忆——仅在执行期间存在(例如回忆最近的对话历史)。长期记忆——在执行后持续存在(例如在多次交互中记住用户偏好)。实体记忆——存储关于讨论的关键主体的信息(例如在CRM Agent中跟踪客户详细信息)。例如在AI驱动的辅导系统中记忆允许Agent回忆过去的课程量身定制反馈并避免重复。5 种 AI Agent 设计模式Agent行为允许LLM通过结合自我评估、规划和协作来改进其输出。1. 反思模式AI审查自己的工作以发现错误并迭代,直到产生最终响应。2. 工具使用模式工具允许LLM通过以下方式收集更多信息查询向量数据库。执行Python脚本。调用API等。3. ReAct (推理和行动) 模式ReAct 结合了上述两种模式Agent 反思生成的输出。使用工具与世界交互。ReAct Agent 在思考 → 行动 → 观察的循环中运行,重复直到达到解决方案或最终答案。这类似于人类如何解决问题:注意:众多Agent框架都默认主要使用这种模式比如CrawAI、AgentScope等。为了理解这一点考虑下面多Agent系统的输出Agent在产生响应之前经历了一系列的思考活动。这就是ReAct模式的实际应用更具体地说在底层许多这样的框架使用ReAct模式让LLM思考问题并使用工具对世界采取行动。例如CrewAI中的Agent通常会在推理和行动(使用工具)之间交替以收集信息或执行步骤遵循ReAct范式。通过结合链式思维推理与外部工具使用增强了LLM Agent处理复杂任务和决策的能力。4. 规划模式不是一次性解决任务AI通过以下方式创建路线图:细分任务。概述目标。这种战略性思维更有效地解决任务。注意在CrewAI中,指定planningTrue以使用规划模式。5. 多 Agent 模式有多个Agent每个都有特定的角色和任务。每个Agent也可以访问工具。在需要时一个Agent将任务委托给其他Agent所有Agent协作交付最终结果。5个层级的AI Agent系统AI Agent系统不仅仅是生成文本它们可以做出决策、调用函数甚至运行自主工作流程。5个层级的AI Agent能力包括从简单的响应者到完全自主的 Agent。1. 基本响应者人类指导整个流程。LLM 只是一个通用响应器接收输入并产生输出。它对程序流程几乎没有控制权。2. 路由模式人类定义流程中存在的路径/函数。LLM 对它采用哪个函数或路径做出基本决策。3. 工具调用人类定义一组LLM可以访问来完成任务的工具。LLM 决定何时使用它们以及执行的参数。4. 多 Agent 模式一个管理器Agent协调多个子Agent并迭代决定下一步。人类列出 Agent 之间的层级、角色、工具等。LLM 控制执行流程,决定下一步做什么。5. 自主模式最先进的模式其中LLM独立生成和执行新代码,有效地充当独立的AI开发者。4个AI Agent项目例子Agentic RAG构建一个具有Agent能力的RAG流水线能够从不同来源动态获取上下文如向量数据库和互联网。技术栈CrewAI用于代理编排。Firecrawl用于网络搜索。LightningAI的LitServe用于部署。工作流程检索Agent接受用户查询。它调用相关工具(Firecrawl网络搜索或向量数据库工具)来获取上下文并生成见解。写作Agent生成响应。1) 设置LLMCrewAI与所有流行的LLM和提供商无缝集成。以下是使用Ollama部署的本地 Qwen3模型2) 定义检索Agent和Task这个Agent接受用户查询Quary并使用向量数据库工具和由Firecrawl驱动的网络搜索工具来检索相关上下文。3) 定义写作Agent和Task接下来写作Agent接受来自检索Agent的输出以生成响应。4) 设置 Crew一旦我们定义了Agent及其Task我们使用CrewAI将它们编排成一个crew并将其放入setup方法中。5) 解码请求这样,我们就编排了Agentic RAG的工作流程它将在传入请求时执行。接下来从传入的请求体中我们提取用户查询。6) 预测我们使用解码的用户查询并将其传递给之前定义的Crew以从模型生成响应。编码响应在这里我们可以对响应进行后处理并将其发送回客户端。注意:LitServe内部按顺序调用这些方法decode_request → predict → encode_request。使用API接下来我们创建基本的客户端代码来调用我们创建的Agent API。至此我们已经使用LitServe部署了我们使用Qwen 3大模型构建的Agentic RAG。Multi-agent Deep Researcher技术栈:Linkup平台用于深度网络搜索。CrewAI用于多Agent编排。Ollama在本地提供基于DeepSeek的大模型服务。Cursor作为MCP主机。工作流程用户提交Query。网络搜索Agent通过Linkup运行深度网络搜索。研究分析Agent验证和去重结果。写作Agent起草带有引用的连贯响应。设置 LLM我们将使用Ollama本地部署DeepSeek-R1提供大模型服务。定义网络搜索工具我们将使用Linkup平台的强大搜索功能它可以媲美Perplexity和OpenAI为我们的网络搜索Agent提供支持。定义网络搜索Agent网络搜索Agent根据用户查询从互联网收集最新信息。之前定义的linkup工具被这个Agent使用。定义研究分析Agent这个Agent将原始网络搜索结果转换为带有源URL的结构化见解。它还可以将任务委托回网络搜索Agent进行验证和事实核查。定义写作Agent它接受来自分析Agent的分析和验证结果并为最终用户起草带有引用的连贯响应。设置 Crew最后设置并启动Deep Researcher crew。创建 MCP 服务器现在将Deep Researcher团队封装在一个MCP工具中。只需几行代码MCP服务器就准备好了。将 MCP 服务器与 Cursor 集成转到File → Preferences → Cursor Settings → MCP → Add new global MCP server。在 JSON 文件中,添加下面显示的内容完成! MCP 服务器已上线并连接到 Cursor。Human-like Memory for Agents如果在生产中部署一个没有记忆的AI Agent每次与Agent的交互都是一张白纸。了解如何构建具有类人记忆的AI Agent来解决这个问题。技术栈:Zep AI用于代理的记忆层。Microsoft AutoGen用于代理编排。Ollama在本地提供Qwen3大模型服务。工作流程:用户提交查询。Agent保存对话并将事实提取到记忆中。Agent检索事实并总结。使用事实和历史记录提供上下文并完成响应。设置 LLM我们将使用通过Ollama本地部署Qwen 3提供本地大模型。初始化Zep客户端利用zep_ai的基础记忆层为AutoGen框架的Agent配备真正的任务完成能力。创建用户会话为用户创建一个Zep客户端会话Agent将使用它来管理记忆。一个用户可以有多个会话。定义Zep可对话AgentZep记忆Agent建立在AutoGen的Conversable Agent之上每次用户查询时从 Zep Cloud提取实时记忆上下文。设置Agent我们初始化Conversable Agent和一个 Stand-in Human Agent来管理聊天交互。设置如下:处理Agentic ChatZep可对话Agent介入以创建连贯、个性化的响应。它无缝集成记忆和对话。它的工作原理如下:Streamlit UI我们创建一个简化的 Streamlit UI以确保与Agent的顺畅和简单交互。它的样子如下:可视化知识图谱我们可以使用Zep Cloud的UI以交互方式映射用户跨多个会话的对话。这个强大的工具允许我们通过图形可视化知识如何演变。看一下:Multi-agent Content Creation System构建一个Agent工作流程将任何URL转换为社交媒体帖子并通过Typefully自动安排它们。技术栈:Motia作为统一的后端框架。Firecrawl来爬取网络内容。Ollama在本地提供 Deepseek-R1 LLM 服务。工作流程:用户提交要爬取的URL。Firecrawl爬取内容并将其转换为markdown。X和LinkedIn Agent并行运行以生成内容。生成的内容通过Typefully安排。Motia的基本构建块由两个主要组件组成:Config对象它指示Motia如何与步骤交互。handler函数它定义步骤的主要逻辑。有了这种理解,让我们开始构建我们的内容创建工作流程。1) 入口点(API)我们通过定义一个API步骤来开始我们的内容生成工作流程该步骤通过POST请求从用户那里获取URL。网络爬取这个步骤使用Firecrawl爬取文章内容,并发出工作流程中的下一个步骤。步骤可以按顺序连接在一起,其中一个步骤的输出成为另一个步骤的输入。内容生成爬取的内容被馈送到并行运行的X和LinkedIn代理以生成精选帖子。我们在触发步骤时自动运行的handler中定义所有我们的提示和AI逻辑。调度内容生成后我们在Typefully中起草它在那里我们可以轻松审查我们的社交媒体帖子。Motia还允许我们在同一工作流程中混合和匹配不同的语言提供极大的灵活性。定义我们的步骤后,我们使用npm install安装所需的依赖项,并使用npm run dev命令运行Motia工作台。Motia工作台提供一个交互式UI帮助构建、监控和调试我们的流程。只需点击一下,你还可以将其部署到云端!普通人如何抓住AI大模型的风口领取方式在文末为什么要学习大模型目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 大模型作为其中的重要组成部分 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 为各行各业带来了革命性的改变和机遇 。目前开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景其中应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过30%。随着AI大模型技术的迅速发展相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业人工智能大潮已来不加入就可能被淘汰。如果你是技术人尤其是互联网从业者现在就开始学习AI大模型技术真的是给你的人生一个重要建议最后只要你真心想学习AI大模型技术这份精心整理的学习资料我愿意无偿分享给你但是想学技术去乱搞的人别来找我在当前这个人工智能高速发展的时代AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料能够帮助更多有志于AI领域的朋友入门并深入学习。真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】大模型全套学习资料展示自我们与MoPaaS魔泊云合作以来我们不断打磨课程体系与技术内容在细节上精益求精同时在技术层面也新增了许多前沿且实用的内容力求为大家带来更系统、更实战、更落地的大模型学习体验。希望这份系统、实用的大模型学习路径能够帮助你从零入门进阶到实战真正掌握AI时代的核心技能01教学内容从零到精通完整闭环【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块内容比传统教材更贴近企业实战大量真实项目案例带你亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事02适学人群应届毕业生无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界。业务赋能突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型。vx扫描下方二维码即可【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】本教程比较珍贵仅限大家自行学习不要传播更严禁商用03入门到进阶学习路线图大模型学习路线图整体分为5个大的阶段04视频和书籍PDF合集从0到掌握主流大模型技术视频教程涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向新手必备的大模型学习PDF书单来了全是硬核知识帮你少走弯路不吹牛真有用05行业报告白皮书合集收集70报告与白皮书了解行业最新动态0690份面试题/经验AI大模型岗位面试经验总结谁学技术不是为了赚$呢找个好的岗位很重要07 deepseek部署包技巧大全由于篇幅有限只展示部分资料并且还在持续更新中…真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】