FastAPI/Python 接入通义千问 Function Calling（工具调用）

发布时间：2026/10/15 14:21:05

FastAPI/Python 接入通义千问 Function Calling（工具调用）
FastAPI/Python 接入通义千问 Function Calling工具调用实战 Day3关键词FastAPI、通义千问、Function Calling、工具调用、Agent、Python这是大模型接入实战的 Day3。Day1 跑通单轮非流式 / SSE 流式Day2 用 Redis 做了多轮会话 上下文压缩。Day3 往前再走一步——让模型能「调用工具」模型自己决定要不要查天气、查学历程序员负责把工具跑完把结果喂回去模型再生成最终回答。这是做 AI Agent 的基础能力。一、Function Calling 是什么大模型本身只会「说话」不会查实时数据、不会调业务接口。Function Calling工具调用的机制是你先告诉模型「你有哪些工具可用」tools列表每个工具含名称 / 描述 / 参数 JSON Schema用户提问后模型判断是否需要调用工具、调用哪个、参数是什么模型不直接回答而是返回一个tool_calls指明函数名 参数程序员执行对应工具拿到结果把工具结果以roletool的形式塞回messages再调一次模型模型这次基于工具结果生成最终的自然语言回答一句话模型出「调用指令」你出「执行 回填」最后模型「总结」。二、单工具天气查询llm/case5.py2.1 定义工具importjsonimportosimportrandomfromopenaiimportOpenAIdefget_current_weather(arguments):weather_conditions[晴天,阴天,雨天,雪天]random_weatherrandom.choice(weather_conditions)locationarguments[location]returnf{location}今天是{random_weather}tools[{type:function,function:{name:get_current_weather,description:当你想查询指定城市的天气时非常有用,parameters:{type:object,properties:{location:{type:string,description:城市或县区比如北京市、杭州市、余杭区等,}},required:[location],},},}]工具定义就是一段JSON Schemaname是函数名description告诉模型「什么时候该用它」parameters描述入参。模型靠description来决策所以描述要写清楚。2.2 客户端与带 tools 的调用clientOpenAI(api_keyos.environ[DASHSCOPE_API_KEY],base_urlhttps://ws-ulkao56twirebft4.cn-beijing.maas.aliyuncs.com/compatible-mode/v1,)messages[]defget_ai_response(messages):completionclient.chat.completions.create(modelqwen-plus,messagesmessages,temperature0.75,toolstools,# 把工具列表传进去)returncompletion关键点toolstools必须带上否则模型不知道有工具可用。2.3 判断是否需要调用工具 执行 回填user_message{role:user,content:北京今天的天气?}messages.append(user_message)completionget_ai_response(messages)messages.append(completion.choices[0].message)# 判断第一次返回是否需要调用工具ifcompletion.choices[0].message.tool_callsisNone:print(不需要调用工具)print(completion.choices[0].message.content)else:print(需要调用工具)tool_callscompletion.choices[0].message.tool_callsfortool_callintool_calls:tool_idtool_call.idfunc_nametool_call.function.name func_argumentstool_call.function.arguments function_mapping{get_current_weather:get_current_weather}tool_resultfunction_mapping[func_name](json.loads(func_arguments))tool_message{role:tool,content:tool_result,tool_call_id:tool_id,}messages.append(tool_message)completionget_ai_response(messages)# 再调一次拿到最终回答print(f最终的结果是:{completion.choices[0].message.content})流程要点tool_calls is None→ 模型直接回答了不用调工具否则遍历tool_calls模型可能一次让你调多个工具tool_call.function.arguments是JSON 字符串要json.loads成 dict 再传给函数用function_mapping字典映射函数名 → 函数对象不要用eval安全风险回填的消息roletool且必须带tool_call_id与模型下发的 id 对应再调一次get_ai_response模型才能基于工具结果生成自然语言回答三、多工具天气 学历验证llm/case6.py在单工具基础上加第二个工具学历验证。它要调外部 HTTP 接口并用 Redis 缓存结果。3.1 学历验证工具外部 API Redis 缓存importredisimportrequests redis_clientredis.Redis(hostlocalhost,port6379,db7,decode_responsesTrue,protocol2,)defacademic_credential_verification(arguments):vcodearguments[vcode]keyfboss:llm:academic_credential_verification:{vcode}redis_verification_dataredis_client.get(key)ifredis_verification_dataisNone:BASE_URLhttps://www.apimy.cn/api/xxw/bgcxpayload{key:os.getenv(MY_XXW_BGCX_API_KEY),vcode:arguments[vcode]}headers{Content-Type:application/json}responserequests.post(BASE_URL,jsonpayload,headersheaders,timeout30)response.raise_for_status()dataresponse.json()redis_client.set(key,json.dumps(data,ensure_asciiFalse))returnjson.dumps(data,ensure_asciiFalse)else:returnredis_verification_data要点先查 Redis 缓存同一vcode不重复打外部接口省额度也更快外部调用加raise_for_status()timeoutHTTP 异常和超时都要兜底否则会卡死工具调用API Key 走环境变量MY_XXW_BGCX_API_KEY不硬编码3.2 注册两个工具 映射tools[{type:function,function:{name:get_current_weather,description:当你想查询指定城市的天气时非常有用,parameters:{type:object,properties:{location:{type:string,description:城市或县区}},required:[location],},},},{type:function,function:{name:academic_credential_verification,description:当你想查询学历或学历验证时非常有用,parameters:{type:object,properties:{vcode:{type:string,description:学历验证码}},required:[vcode],},},},]function_mapping{get_current_weather:get_current_weather,academic_credential_verification:academic_credential_verification,}调用逻辑和单工具完全一致——遍历tool_calls按function.name从function_mapping取函数执行。模型会根据用户问题自动选工具问天气调天气、问学历验证码调学历。注意case5.py/case6.py目前是原生脚本直接python跑还没封装成 FastAPI 接口。脚本用来验证链路下一步可像 Day1/Day2 那样包成POST /llm-day03/...路由对外提供。四、踩坑清单重点tools的parameters必须是合法 JSON Schematype/properties/required缺一不可required里列的字段模型才会保证给。description决定模型会不会调描述模糊模型容易「该调不调」或「乱调」。把触发场景写清楚。arguments是字符串不是 dicttool_call.function.arguments是 JSON 字符串必须json.loads才能当参数用。回填消息必须roletooltool_call_id少一个模型会报错或忽略结果tool_call_id要和模型下发的tool_call.id一一对应。必须再调一次模型调完工具把结果塞回messages后要再create一次模型才会生成「基于工具结果的自然语言回答」——很多新手只执行工具就结束了以为没输出。一次可能调多个工具tool_calls是列表记得for遍历别只取[0]。用字典映射代替evalfunction_mapping[name](args)安全千万别eval(name)执行模型下发的字符串。外部工具要加失败兜底raise_for_status()timeout并考虑接口超时 / 限流时给模型一个友好错误信息作为 tool 结果回填。外部结果加缓存像 case6 这样用 Redis 按业务 key 缓存避免重复调用、省钱省时。API Key 走环境变量os.environ[DASHSCOPE_API_KEY]缺省会抛KeyError强制校验生产建议os.getenv 显式判空返回友好错误。温度建议调低Function Calling 更看重参数格式正确temperature偏高如 0.75可能影响 JSON 参数稳定性关键业务场景可调到 0.1~0.3。五、小结Day3 把「模型调用工具」跑通了单工具天气查询验证 Function Calling 全流程多工具天气 学历验证后者接外部 API 并加 Redis 缓存核心套路固定定义 tools → 带 tools 调模型 → 判断 tool_calls → 执行工具 → roletool 回填 → 再调一次拿最终回答这是迈向AI Agent的第一步——模型从「只会聊天」变成「能动手查数据 / 调接口」。后续可继续做把 Function Calling 封装成 FastAPI 流式接口SSE 工具执行进度多轮对话 工具调用结合Day2 的 Redis 会话 今天工具工具执行异步化外部 API 慢用httpx.AsyncClient 异步工具结果做结构化校验Pydantic 校验arguments注本文代码片段均来自当天真实提交的后端练习文件llm/case5.py、llm/case6.py仅做脱敏API Key 走环境变量。case3.py/case4.py仍为全注释的多轮对话草稿未纳入本篇。

相关新闻

WPF中的CommunityToolkit.Mvvm框架

WPF中的CommunityToolkit.Mvvm框架

1。概念&#xff0c;安装&#xff0c;使用&#xff08;重要API&#xff1a;ObservableObject&#xff0c;RelayCommand|RelayCommand<T>&#xff09;, 封装视图模型定位器 2。IOC控制反转和DI依赖注入&#xff08;IServiceProvider&#xff0c;ServiceCollection&#xf…

2026/10/14 12:09:47 阅读更多 →
企业从注册到落地全流程拆解：圆梦集团一站式服务到底值不值得选？

企业从注册到落地全流程拆解：圆梦集团一站式服务到底值不值得选？

企业从注册到真正落地经营&#xff0c;真的不是“办张营业执照”那么简单。尤其是建筑工程领域及上下游企业&#xff0c;往往要同时面对公司核名设立、注册地址合规、代理记账、银行开户、资质申请、股权变更甚至注销等一系列连环问题。 很多创业者在初期最大的困惑是&#xff…

2026/10/14 12:10:39 阅读更多 →
OpenClaw系统安装步骤详解，TopClaw三分钟免费纯满血连微信

OpenClaw系统安装步骤详解，TopClaw三分钟免费纯满血连微信

OpenClaw系统安装步骤详解&#xff0c;TopClaw三分钟免费纯满血连微信 兄弟们&#xff0c;这几天后台被问爆了&#xff0c;全是关于OpenClaw系统怎么安装的。说实话&#xff0c;这玩意儿刚出来的时候我也是一脸懵&#xff0c;网上教程不少&#xff0c;但东说一句西说一句&#…

2026/10/14 12:10:23 阅读更多 →

最新新闻

克林纱是什么？格林丝曲丝涤纶装饰纱选型安装指南

克林纱是什么？格林丝曲丝涤纶装饰纱选型安装指南

提到克林纱&#xff0c;很多第一次跑面料市场的人都会愣一下——同一个卷轴上明明写着“格林丝”&#xff0c;隔壁摊位又管它叫“曲丝”&#xff0c;翻翻标签还看到“克林纱”三个字。其实就是同一种东西&#xff1a;一种以涤纶为主要原料&#xff0c;织造时让纱线保持轻微卷曲…

2026/10/15 14:20:23 阅读更多 →
从 REA 到 libuvcpp：当 AI 能“读懂”软件，框架的未来形态是什么？

从 REA 到 libuvcpp：当 AI 能“读懂”软件，框架的未来形态是什么？

从 REA 到 libuvcpp&#xff1a;当 AI 能“读懂”软件&#xff0c;框架的未来形态是什么&#xff1f; 2026 年 10 月&#xff0c;一个叫 REA 的项目三天内拿下了 12 万颗 GitHub 星。它让 AI 能够逆向分析任何软件&#xff0c;理解功能实现&#xff0c;甚至尝试写出相似功能的代…

2026/10/15 14:20:23 阅读更多 →
30-seconds-of-python 切片技巧：用 take() 截取列表前 N 个元素

30-seconds-of-python 切片技巧：用 take() 截取列表前 N 个元素

教程文档 【免费下载链接】30-seconds-of-python Short Python code snippets for all your development needs 项目地址&#xff1a; https://gitcode.com/gh_mirrors/30/30-seconds-of-python 点击查看 免费下载 本指南围绕 30-seconds-of-python 仓库中的 take 代码片段 展…

2026/10/15 14:20:23 阅读更多 →
C++调用命令行程序的三种方法：从Shell重定向到Boost.Process实战

C++调用命令行程序的三种方法：从Shell重定向到Boost.Process实战

1. 项目概述&#xff1a;为什么命令行输出重定向不是“写个 > 就完事”的小事在 Windows 开发、自动化脚本、CI/CD 流水线或本地工具链集成中&#xff0c;我几乎每天都要和cmd.exe打交道——不是为了怀旧&#xff0c;而是因为很多老旧但关键的内部工具、硬件驱动配套程序、第…

2026/10/15 14:20:23 阅读更多 →
一个插件管理多种音乐源:Tubifarry Web客户端(Lucida / DABMusic / T2Tunes / Subsonic)完整配置清单

一个插件管理多种音乐源:Tubifarry Web客户端(Lucida / DABMusic / T2Tunes / Subsonic)完整配置清单

【免费下载链接】Tubifarry Tubifarry is a Lidarr plugin that enhances your music library by fetching music from YouTube, integrating with Slskd for Soulseek access, automating Spotify playlist imports, converting files, and retrieving soundtracks from Radar…

2026/10/15 14:20:23 阅读更多 →
海外仓运作全攻略：从选型、头程到仓内作业与避坑指南

海外仓运作全攻略：从选型、头程到仓内作业与避坑指南

简介&#xff1a;海外仓运作内部培训PPT&#xff0c;定位跨境电商物流从业者、海外仓运营及物流产品相关岗位&#xff0c;旨在帮助读者系统理解海外仓从货物备货、头程运输、入库上架、库内管理&#xff0c;到尾程派送、售后服务及增值服务的全链路运营逻辑。内容以头程、尾程、…

2026/10/15 14:19:22 阅读更多 →

日新闻

Docker Compose 容器化部署 ChirpStack LoRaWAN 网络服务器实战

Docker Compose 容器化部署 ChirpStack LoRaWAN 网络服务器实战

1. 为什么选择容器化方式部署 LoRa 网络服务LoRa 物联网项目落地时&#xff0c;网络服务器是整个链路的核心枢纽。它负责接收网关上报的数据包、完成去重与解密、再把有效载荷分发给上层应用。早期大家习惯把网络服务器直接装在物理机上&#xff0c;依赖一堆系统库和特定版本的…

2026/10/15 0:00:46 阅读更多 →
共享LLM服务下的跨模型自动扩缩容：Kubernetes实战与避坑指南

共享LLM服务下的跨模型自动扩缩容：Kubernetes实战与避坑指南

1. 共享推理服务里&#xff0c;扩缩容到底难在哪做过大模型推理服务部署的人&#xff0c;大概都经历过这样的场景&#xff1a;一个团队共用一套推理集群&#xff0c;A 业务跑的是 7B 的小模型&#xff0c;B 业务跑的是 72B 的大模型&#xff0c;C 业务白天流量高、晚上几乎归零…

2026/10/15 0:00:46 阅读更多 →
Systemd 启动阶段根文件系统只读之谜：fstab 与 remount-fs 服务深度解析

Systemd 启动阶段根文件系统只读之谜：fstab 与 remount-fs 服务深度解析

1. 引子&#xff1a;一次内核恐慌引发的追查先从一个真实场景说起。某次我给一台老旧的嵌入式设备折腾系统裁减&#xff0c;为了把启动时间压进两秒以内&#xff0c;我手贱地把一串自认为“没用”的 systemd 服务给 disable 了&#xff0c;其中就包括systemd-remount-fs.servic…

2026/10/15 0:00:46 阅读更多 →

周新闻

流感时间序列预测实战：ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战：ARIMA/LSTM全流程拆解与避坑指南

简介&#xff1a;基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码&#xff0c;面向计算机相关专业课程设计与期末大作业学生&#xff0c;以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程&#xff0c;…

2026/10/14 3:30:28 阅读更多 →
影刀RPA新手教程：键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程：键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程&#xff1a;键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化&#xff0c;十个新手有八个栽在"往输入框里填东西"这件事上&#xff1a;要么填不进去&#xff0c;要么填了一半&#xff0c;要么直接把原来内容追加在后面。这背后的根因&…

2026/10/14 16:30:29 阅读更多 →
影刀RPA新手教程：阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程：阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程&#xff1a;阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀&#xff1a;什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面&#xff0c;跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/15 13:48:15 阅读更多 →

月新闻

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/15 0:14:36 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/14 22:45:47 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/15 9:49:14 阅读更多 →