【学习笔记】工具设计,Agent 的手比大脑更容易出问题-8/16
上一篇我们讲了 Harness Engineering。模型之外的一切决定 Agent 能不能从“会回答”变成“能行动”。这一篇我们拆 Harness 里最具体的一层Tools工具看起来很简单给模型几个函数让它能查数据库、读文件、跑命令、发请求。然后模型自己决定怎么用。很多团队一开始都是这么做的。结果很快会遇到这些问题Agent 总是选错工具。 工具参数填得乱七八糟。 同一个动作绕了三步。 工具返回一大坨 JSON模型看不懂重点。 错误信息只写 failedAgent 不知道怎么恢复。 工具权限太大一次调用就能产生危险副作用。这时候继续换模型可能会有一点改善。但更大的问题在工具本身工具不是 API wrapper工具是 Agent 的行动接口。一、工具决定 Agent 能做什么模型再聪明也不能直接操作世界。它要通过工具行动。对代码 Agent 来说工具可能是read_file write_file apply_patch run_tests search_code git_diff browser_open database_query deploy_preview对业务 Agent 来说工具可能是search_orders refund_payment create_ticket send_email query_user_profile update_subscription工具一旦接入Agent 的能力边界就变了。它不再只是生成文本。它开始产生副作用。所以工具设计不是小细节。它决定了Agent 能不能选对动作。 能不能填对参数。 能不能理解结果。 能不能从错误中恢复。 能不能在权限边界内完成任务。二、好工具的五个标准我建议先用五个标准评估工具。名称清晰 描述准确 参数少而强 输出可读可验证 错误信息可恢复2.1 名称清晰工具名不是给人看的主要是给模型看的。如果工具名含糊模型会猜。比如handle_user process_data do_action run这些名字对模型不友好。它们没有告诉模型工具到底做什么。更好的名字应该接近动作和对象search_customer_orders create_refund_request read_repository_file run_unit_tests get_pull_request_diff不要怕名字长工具名不是 shell 命令它是行动语义。2.2 描述准确很多工具描述写得像 API 文档。比如Call order service.这对 Agent 没什么帮助。它需要知道什么时候用 什么时候不要用 输入代表什么 输出里哪些字段重要 失败时怎么办 有没有副作用一个更好的工具描述应该像这样Search customer orders by user_id or email. Use this before answering questions about order status or refund eligibility. This tool is read-only. If no orders are found, ask the user to confirm the account identifier.注意这里有几个关键信息只读、适用场景、失败后的下一步。这比参数列表更有用。2.3 参数少而强参数越多模型越容易填错。尤其是有多个可选参数、布尔开关、嵌套对象的时候。不要把内部 API 原样暴露给 Agent。内部 API 可能是给程序员调用的。Agent 工具应该是给模型决策用的。比如内部接口需要{ userId: ..., includeArchived: false, includeLineItems: true, sortBy: created_at, sortOrder: desc, limit: 20, offset: 0 }但 Agent 工具可以简化成{ account_identifier: ..., lookback_days: 90 }复杂性应该留在工具实现里不要把复杂性丢给模型。2.4 输出可读可验证很多工具最大的问题不是调用失败。而是调用成功以后输出太难用。比如返回一整段原始 JSON字段很多嵌套很深状态码含义不清时间格式混乱。模型看到了但不一定能可靠理解。更好的输出应该包含摘要 关键字段 来源 置信度或状态 下一步建议 原始数据引用比如订单查询工具不一定要把所有字段塞给模型。可以返回{ summary: Found 2 orders in the last 90 days., orders: [ { order_id: A123, status: delivered, refund_eligible: false, reason: Delivered more than 30 days ago } ], source: orders_service, next_step: If user asks for refund, explain ineligibility policy. }这不是为了让输出变漂亮而是为了让模型少误读。2.5 错误信息可恢复最差的错误信息是failed或者500 internal error这对 Agent 没用它不知道是参数错了、权限不够、服务超时、还是资源不存在。可恢复错误应该告诉模型错误类型 是否可重试 用户是否需要补信息 是否需要换工具 是否需要升级人工例如{ error_type: missing_identifier, message: No user_id or email was provided., recoverable: true, suggested_next_step: Ask the user for an email or account ID. }或者{ error_type: permission_denied, recoverable: false, suggested_next_step: Escalate to a human operator. }这类输出会显著提高 Agent 的恢复能力。三、原子工具 vs 通用工具工具粒度是最难判断的设计问题之一。太原子会让 Agent 做很多低价值编排太通用又会让工具语义变模糊。比如你给 Agent 一个通用工具call_api(endpoint, method, payload)这看起来很强但风险也很高。模型要自己决定 endpoint。自己构造 payload。自己理解错误。自己处理权限。这更像把内部系统裸露给模型。另一边如果你给它太多原子工具get_user get_order get_order_items get_refund_policy get_payment_status get_shipping_statusAgent 可能要调用很多次才能完成一个简单问题。上下文和延迟都会上升更好的做法是按任务设计工具。比如check_refund_eligibility它内部可以调用订单、支付、物流、政策服务但对 Agent 来说它只需要回答一个业务动作这个用户这笔订单能不能退款工具粒度的原则是让工具接近 Agent 的决策动作而不是内部系统的技术拆分。四、工具权限要分级工具不只是能力也是风险。我建议至少分四级Read只读查询 Draft生成草稿不产生外部副作用 Write写入业务系统 Irreversible不可逆或高风险动作比如search_orders Read draft_refund_response Draft create_refund_request Write issue_refund Irreversible不要把这些动作合成一个大工具。如果一个工具既能查询订单又能直接退款Agent 的风险边界就很难控制。高风险工具应该有更强约束必须人工确认 必须二次校验 必须写审计日志 必须有回滚或补偿方案 必须明确金额、对象和原因这不是保守这是让 Agent 能进入真实业务系统的前提。五、工具输出不要污染上下文第六篇讲过工具输出是上下文膨胀的主要来源。工具设计时就要考虑输出层级。可以分三层summary给模型看的摘要 structured_fields模型需要判断的关键字段 artifact_ref原始输出的外部引用不要把所有原始日志都塞给模型。例如测试工具可以返回{ status: failed, failed_tests: 3, top_failure: AuthService should reject expired token, artifact_ref: artifacts/test-run-20260624.log, suggested_next_step: Inspect AuthService token expiry logic. }模型需要时再读取 artifact。这比一次性塞入几千行日志更稳。六、工具也需要评测很多团队会评测 prompt但不评测工具。这是很大的盲区。同一个模型同一个任务只要工具定义不同成功率就可能完全不同。工具评测可以从三个层面做。第一工具选择评测。给 Agent 一组任务看它是否选对工具。用户问订单状态 - search_orders 用户要求退款 - check_refund_eligibility 用户要求改邮箱 - update_user_email第二参数填充评测。看它是否能从用户输入和上下文里抽出正确参数。email order_id date range repository path test command第三恢复能力评测。故意让工具返回错误看 Agent 能不能采取正确下一步。missing identifier - 追问用户 permission denied - 升级人工 timeout - 重试一次 not found - 换查询条件这类评测很实用因为它直接对应生产失败模式。七、反模式清单如果你正在设计工具可以对照下面这份反模式。1. 工具名像内部函数不像行动语义 2. 描述只写 API 功能不写使用场景 3. 参数照搬内部接口过多过细 4. 输出原样返回大 JSON 或长日志 5. 错误信息不可恢复 6. 读写动作混在一个工具里 7. 高风险动作没有人工确认 8. 工具没有 artifact 引用原始证据不可追踪 9. 工具没有版本管理 10. 没有评测工具选择和参数填充这些问题不一定会在 demo 里暴露但会在真实用户、真实数据、真实权限里暴露。八、一个实用设计模板每个工具上线前至少写清楚这些字段。name: 工具名动作 对象 purpose: 解决什么任务 when_to_use: 什么时候应该调用 when_not_to_use: 什么时候不要调用 inputs: 必填参数、可选参数、默认值 outputs: 摘要、关键字段、artifact 引用 side_effects: 是否写入系统是否可逆 permissions: read / draft / write / irreversible failure_modes: 常见错误和恢复建议 eval_cases: 至少 5-10 个工具选择和参数填充样本这比直接写函数定义慢一点但会让 Agent 稳很多。九、最后Agent 的能力不只来自模型也来自它能使用什么工具。一个坏工具会让强模型变笨。一个好工具会让普通模型更稳定。所以工具设计不是“把 API 暴露给模型”而是把复杂系统包装成模型可理解、可调用、可验证、可恢复的行动接口。这也是 Harness Engineering 里最实际的一层。下一篇我们继续拆 Harness验证闭环。因为 Agent 说“我完成了”并不代表它真的完成了。参考资料Anthropic: Writing Effective Tools for AI AgentsOpenAI Agents SDK Documentation: ToolsModel Context Protocol DocumentationAnthropic: Building Effective AgentsOpenAI: Practical Guide to Building Agents参考文献工具设计Agent 的手比大脑更容易出问题

相关新闻

综合能源系统优化调度与MATLAB实现

综合能源系统优化调度与MATLAB实现

1. 项目背景与核心挑战在能源转型的大背景下,综合能源系统的优化调度已成为电力、热力、化工等多行业交叉领域的研究热点。传统能源系统往往将电、热、气等能源形式割裂管理,导致整体能效低下。而综合能源系统(Integrated Energy System, IES…

2026/9/26 0:48:50 阅读更多 →
【IEEE出版、往届快至会后3个月检索】第六届计算机图形学、图像与虚拟化研究国际会议(ICCGIV 2026)

【IEEE出版、往届快至会后3个月检索】第六届计算机图形学、图像与虚拟化研究国际会议(ICCGIV 2026)

第六届计算机图形学、图像与虚拟化研究国际会议(ICCGIV 2026)将于2026年9月18-20日在中国镇江举行。本次会议主要围绕“计算机图形学、图像与虚拟化研究”的最新研究展开,旨在荟聚世界各地该领域的专家、学者、研究人员及相关从业人员&#x…

2026/9/16 4:37:24 阅读更多 →
n8n Skills生态:从AI集成到企业部署的自动化扩展指南

n8n Skills生态:从AI集成到企业部署的自动化扩展指南

1. 从“能用”到“会玩”:为什么你需要关注n8n的Skills生态如果你已经用n8n搭建过一些自动化工作流,比如定时抓取数据、自动发送邮件通知,或者连接几个SaaS工具,那你可能已经体会到了它的强大。但很多时候,我们卡在了“…

2026/9/24 19:33:33 阅读更多 →

最新新闻

UWB不止定位:用SR1120构建低功耗高速短距数据链路

UWB不止定位:用SR1120构建低功耗高速短距数据链路

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/9/26 13:55:32 阅读更多 →
Claude Code模板实战:从提示词工程到AI编程规范化

Claude Code模板实战:从提示词工程到AI编程规范化

第一次看到 claude-code-templates 这个项目名,我的第一反应是:模板?代码生成不是现场发挥吗?等自己实际搭过一遍才发现,模板这套东西不是“把提示词存起来”这么简单。它解决的是我长期以来的一个真实痛点&#xff…

2026/9/26 13:55:32 阅读更多 →
xAI发布Grok Build后,AI终端展深圳开幕:用TaoToken统一Key打通Claude Code与Agent终端链路

xAI发布Grok Build后,AI终端展深圳开幕:用TaoToken统一Key打通Claude Code与Agent终端链路

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/9/26 13:55:32 阅读更多 →
ESP32 NVS数据隔离四层防线:防串门、防覆盖、防崩溃

ESP32 NVS数据隔离四层防线:防串门、防覆盖、防崩溃

1. 为什么“多个小应用共用一块 Flash”会出事?——从 NVS 的物理本质讲起你手头有块 ESP32,上面跑着温控模块、OTA 升级服务、蓝牙配网 UI、还有个本地日志缓存器——四个独立功能模块,各自都要存点东西:温控的校准系数、OTA 的固…

2026/9/26 13:55:32 阅读更多 →
宏翔上位机3.5实战:从CAN调试到ECU刷写完整指南

宏翔上位机3.5实战:从CAN调试到ECU刷写完整指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/9/26 13:55:32 阅读更多 →
Java后端对象分层:PO、VO、BO、DTO、DAO全解析

Java后端对象分层:PO、VO、BO、DTO、DAO全解析

1. 这几个缩写到底在说什么先讲个我面试时的真实经历。有次候选人简历写得挺漂亮,我随口问了句"你们项目里的VO和DTO是一回事吗",对方愣了几秒,回了一句"反正都是用来传数据的,感觉差不多"。这回答不算错&…

2026/9/26 13:54:31 阅读更多 →

日新闻

数据库课后习题答案别硬背:当测试用例集刷,效率翻倍

数据库课后习题答案别硬背:当测试用例集刷,效率翻倍

简介:万常选版《数据库原理与设计》课后习题答案资源,覆盖第2至6章及第9章,适合正在学习关系模型、数据库建模、关系数据理论与模式求精的本科生、自学者作为复习与自测材料。压缩包共7个文件,含3个doc参考答案、2个sql示例脚本、…

2026/9/26 0:00:25 阅读更多 →
学校官网模拟全流程实践:从页面布局到后端接口与部署

学校官网模拟全流程实践:从页面布局到后端接口与部署

如果你正在找一门 Web 大作业的题目,或者刚开始接触 Web 前端开发想做点能拿来展示的东西,“学校官网模拟”几乎是最稳的选择。题目看着简单,但要把导航、新闻列表、轮播 Banner、二级页面、后台数据都串起来,其实已经把前端布局、…

2026/9/26 0:00:25 阅读更多 →
超级玛丽游戏源码C++:从零搭建横版跳跃游戏工程

超级玛丽游戏源码C++:从零搭建横版跳跃游戏工程

简介:这是一份面向游戏开发初学者与C进阶学习者的超级玛丽(超级马里奥)游戏源码,基于C面向对象编程实现,适合想通过经典项目理解游戏主循环、角色类设计、地图关卡加载与物理碰撞检测的读者参考。压缩包共49个文件&…

2026/9/26 0:00:25 阅读更多 →

周新闻

Flutter for OpenHarmony游戏卡片渐变背景实战:从原理到性能优化

Flutter for OpenHarmony游戏卡片渐变背景实战:从原理到性能优化

直接铺开项目本身吧。这几个月我一直在折腾一件事:用Flutter给OpenHarmony做一款游戏集合类的App,说白了就是把若干小游戏塞进一个壳里,用统一入口分发。这个方向本身不算新鲜,真正让我花了不少心思的,是首页那堆游戏卡…

2026/9/25 19:27:14 阅读更多 →
Word表格编号全攻略:从列表编号到题注交叉引用

Word表格编号全攻略:从列表编号到题注交叉引用

写Word文档,最让人头疼的往往是那些“看起来不起眼”的小问题。比如表格编号这事:今天在表后面多加了两个空白行,明天给客户交稿前发现整个章节的编号全部错位,光是挨个改序号就能耗掉大半个下午。我前阵子帮人整理一份上百页的技…

2026/9/25 11:15:26 阅读更多 →
从第一个站到第二个站:独立开发者的静态网站选型与落地实践

从第一个站到第二个站:独立开发者的静态网站选型与落地实践

1. 项目概述1.1 核心需求解析做独立开发者这几年,说实话,第一个网站上线的那天晚上我兴奋得没睡着。但等它跑了半年,流量惨淡、功能臃肿、代码自己都懒得看第二遍之后,我才慢慢琢磨明白一个道理:第一个网站是练手&…

2026/9/25 20:29:09 阅读更多 →

月新闻

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能

持续集成 流水线自动化与 声明式交付 实践:原型怎样变成可用功能分类:[AI/大模型]细分主题:AI 增强型 CI/CD 流水线自动化与 GitOps 实践:Agent 工作流、工具调用与任务拆解:从原型到生产的验收清单很多团队在尝试用大…

2026/9/25 20:29:43 阅读更多 →
容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场

容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场

容器编排 生产环境运维与排障实战:复盘记录怎样真正派上用场分类:[工程技术]细分主题:Kubernetes 生产环境运维与排障实战:可复制的项目复盘模板与决策记录大部分团队的事故复盘报告,最后都变成了躺在 Confluence 或钉…

2026/9/25 20:29:31 阅读更多 →
容器 容器化技术与镜像安全管理:核心链路应该先拆哪一步

容器 容器化技术与镜像安全管理:核心链路应该先拆哪一步

容器 容器化技术与镜像安全管理:核心链路应该先拆哪一步分类:[工程技术]细分主题:Docker 容器化技术与镜像安全管理:核心链路的逐步实现与关键代码取舍面对一个积累了五六年历史包袱的单体架构应用(包含 Web 接口、后台…

2026/9/25 19:27:26 阅读更多 →