基于Dify平台快速构建SmallThinker-3B-Preview智能应用无需编码的AI工作流你是不是也遇到过这样的场景好不容易在服务器上部署了一个不错的AI模型比如SmallThinker-3B-Preview但怎么把它变成一个能让同事、客户或者用户直接使用的工具却成了难题。难道要为此专门写一个前端界面再搭建一套后端服务吗听起来就让人头大。其实现在有更简单的办法。今天我想跟你分享的就是如何利用Dify这个平台把部署好的模型像搭积木一样快速变成一个功能完整、界面友好的智能应用。整个过程你几乎不需要写一行代码只需要在网页上拖拖拽拽配置一下一个专属的AI应用就诞生了。1. 为什么选择Dify来构建AI应用在深入具体操作之前我们先聊聊为什么是Dify。你可能听说过很多AI开发框架但Dify的定位非常清晰它就是一个面向应用开发者的AI工作流平台。简单来说它帮你解决了从模型到应用之间的“最后一公里”问题。你不用关心怎么设计API接口、怎么管理对话状态、怎么处理文件上传甚至怎么设计一个好看的界面。Dify把这些都打包好了你只需要专注于最核心的部分告诉模型该做什么以及如何串联起整个业务流程。对于像SmallThinker-3B-Preview这样的模型它本身提供了强大的文本理解和生成能力。但它的能力是“原始”的你需要通过提示词Prompt去引导它可能需要结合外部知识库比如你的产品文档、公司制度来增强它的回答准确性。这些在Dify里都变成了可视化的配置项。你可以把模型API、提示词模板、知识库检索、条件判断等模块像流程图一样连接起来形成一个完整的智能工作流。2. 准备工作连接你的SmallThinker模型好了我们开始动手。第一步当然是让Dify认识你的模型。假设你已经按照之前的教程成功在星图GPU服务器上部署了SmallThinker-3B-Preview并且拿到了它的API访问地址比如http://你的服务器IP:端口/v1和API Key。登录Dify访问Dify的云端服务或部署好的本地版本注册并登录。添加模型供应商在Dify控制台找到“模型供应商”或“模型配置”相关页面。Dify默认支持OpenAI格式的API而很多开源模型包括SmallThinker都兼容这个格式。点击“添加模型供应商”选择“OpenAI”或“自定义”类型。配置模型连接模型名称可以自定义比如“我的SmallThinker-3B”。API Base URL这里填入你部署好的SmallThinker模型的API地址例如http://192.168.1.100:8000/v1。API Key填入你在部署时设置的API Key。如果模型部署时未强制要求可以填写任意非空字符串如dify-access-key。模型名称这里需要填写模型在API中实际调用的名称。对于SmallThinker-3B-Preview通常就是smallthinker-3b-preview。如果不确定可以查看模型部署的文档或通过API测试确认。配置完成后点击测试连接。如果一切正常Dify会提示连接成功。这意味着Dify现在可以像调用ChatGPT一样去调用你本地的SmallThinker模型了。3. 构建第一个应用智能问答机器人连接好模型我们就可以开始创造应用了。我们从最常见的场景开始构建一个能结合你公司知识库的智能问答机器人。3.1 创建应用与配置提示词在Dify应用界面点击“创建新应用”选择“对话型应用”。给它起个名字比如“产品知识助手”。应用的核心是“提示词编排”。在这里你不是简单地向模型提问而是设计一个“对话模板”。你是一个专业的{company_name}产品支持助手。请根据以下提供的产品知识库内容用友好、专业且准确的语言回答用户的问题。 如果知识库内容中包含与问题相关的信息请严格依据这些信息进行回答。 如果知识库内容中没有相关信息请根据你自身的知识进行回答并说明“此问题未在知识库中找到以下是我的理解”。 【知识库内容】 {knowledge} 【用户问题】 {question} 请开始你的回答看这个提示词模板里有几个用花括号{}包起来的变量比如{company_name}、{knowledge}、{question}。{question}会自动绑定用户输入的问题。{company_name}我们可以设为一个固定值比如“星图科技”。而{knowledge}这个变量就是关键所在——它将会由Dify的“知识库检索”节点自动填充。3.2 接入知识库让回答更精准光有模型和提示词回答可能天马行空。我们需要用我们自己的知识来“约束”和“增强”它。创建知识库在Dify的知识库模块新建一个知识库命名为“产品手册”。然后你可以通过上传TXT、PDF、Word、PPT等文件或者直接输入文本片段的方式把你的产品文档、FAQ、技术白皮书等内容“喂”给知识库。Dify会自动进行文本分割和向量化处理。在工作流中插入“知识库检索”节点回到我们应用的“工作流编排”界面Dify可能叫“编排”或“工作流”。从节点库中拖出一个“知识库检索”节点放在“对话”节点之前。连接节点将“开始”节点连接到“知识库检索”节点再将“知识库检索”节点连接到“对话”节点。配置检索节点选中“知识库检索”节点在右侧配置面板中选择我们刚创建的“产品手册”知识库。设置一个检索相似度阈值比如0.7这可以过滤掉相关性太低的内容。然后将节点的“输出变量”命名为knowledge。绑定变量最后选中“对话”节点在提示词配置中找到{knowledge}这个变量将其绑定为“知识库检索”节点的输出变量knowledge。这样一来整个工作流就通了用户提问 → 系统从知识库中查找最相关的片段 → 将问题和相关片段一起填入提示词模板 → 发送给SmallThinker模型 → 模型生成基于你公司知识的专业回答。3.3 一键发布与分享应用配置好了怎么让别人用呢Dify提供了最省心的方式。在应用界面找到“发布”或“访问地址”选项。Dify会为你的应用生成一个独立的、带界面的Web链接。这个界面通常包含对话历史、输入框风格简洁。你可以直接把这个链接分享给团队成员。他们点开就能用完全不需要知道背后是哪个模型、知识库在哪里。如果你想进一步定制界面比如更换Logo、调整颜色Dify也提供了简单的主题设置功能。对于更复杂的需求你还可以通过Dify提供的API把你构建的这个AI能力嵌入到你自己的网站或移动应用中去。4. 进阶场景构建自动化内容处理工作流问答机器人只是开胃菜。Dify的工作流能力能让你实现更复杂的自动化任务。比如我们构建一个“会议纪要自动总结与任务提取”工作流。这个工作流的设想是上传一段冗长的会议录音转文字稿自动输出一份结构清晰的会议纪要并提取出其中的待办任务。设计工作流蓝图节点1文本分割。将长文本按段落或句子分割成小块。节点2总结提炼。调用SmallThinker模型对每个文本块进行要点总结。节点3任务提取。调用另一个SmallThinker模型或同一个模型但用不同的提示词从全文或总结中识别“任务项”通常包含动作、负责人、时间。节点4结果合成。将总结的要点和提取的任务列表整理成最终格式。在Dify中实现创建“工作流型应用”。从节点库拖入“文本处理”节点进行分割。拖入两个“LLM”节点分别配置不同的提示词。总结提示词“请将以下会议记录片段浓缩成1-2个核心要点[文本片段]”任务提取提示词“请仔细阅读以下文本找出所有明确的待办任务Action Items。请以‘- 负责人任务描述截止时间’的格式列出[文本]”使用“代码”节点或“文本处理”节点将多个LLM节点的输出合并、去重、格式化。最后连接到一个“回答”节点输出最终结果。配置触发器这个工作流可以配置为通过API触发也可以直接在Dify界面上传文件运行。你可以设置一个定时任务每天自动处理指定邮箱收到的会议记录邮件。通过这样的可视化编排一个听起来很复杂的多步骤AI处理流程就清晰、直观地构建出来了。你可以随时调整中间任何一个节点的参数比如修改提示词、调整文本分割长度而无需改动任何代码。5. 一些实践中的心得与建议用Dify玩了一段时间后我有几点感受和建议可能对你有帮助关于提示词Prompt在Dify里调Prompt特别方便因为改完立刻就能在右侧的预览窗格测试。对于SmallThinker-3B这类模型指令需要清晰明确。多试试用“角色扮演”你是一个XX专家、输出格式要求请用列表形式、示例Few-Shot等方式效果提升会很明显。关于知识库知识库的质量决定了问答的天花板。文档建议预处理一下把太长的文件拆开无关的页眉页脚去掉。检索时不一定返回越多内容越好有时候Top 2-3个最相关的片段比一堆模糊的结果更有效。可以多调整一下相似度阈值和检索模式。关于工作流刚开始别设计得太复杂从一个简单的线性流程开始。跑通之后再慢慢加入条件判断IF-ELSE节点、循环等逻辑。Dify的节点有输入输出变量规划好数据流很重要就像给管道贴标签不然后面容易乱。成本与性能由于直接调用你自己的模型除了Dify云服务可能产生的费用如果用云端版主要的推理成本就是你自己的服务器开销。SmallThinker-3B-Preview在7B级别的模型里算比较高效的但如果是公开服务、访问量大的话还是要关注服务器的负载和响应速度。6. 写在最后回过头看Dify这类工具的出现确实大大降低了AI应用的门槛。它把构建一个智能应用从“全栈软件开发”变成了“业务流程设计”。你不需要是前后端专家只要你能想清楚业务逻辑就能把它实现出来。对于已经部署了SmallThinker-3B-Preview的团队来说这意味着你能快速地将模型能力转化为实际生产力。无论是内部的知识库问答、客服助手、报告生成还是对外的智能产品演示都可以在很短的时间内搭建出原型甚至直接投入使用。当然它也不是万能的。非常定制化的UI、极其复杂的业务逻辑集成可能还是需要一定的开发工作。但对于绝大多数想要快速验证想法、实现AI功能落地的场景Dify提供了一个堪称“捷径”的解决方案。你不妨现在就试试把你们团队的那个“要是有个AI能帮我们做XX就好了”的想法在Dify里搭出来看看。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。