背景痛点企业级智能客服到底难在哪去年公司决定把 10086 文本客服搬到线上领导一句“用联通 AI 智能客服两周上线”我们组差点集体原地爆炸。真正动手才发现企业级场景跟 Demo 完全两码事会话持久化用户说“帮我查套餐”5 分钟后再回一句“那流量呢”——这两句必须能串起来否则体验直接翻车。Intent Detection/意图识别联通业务实体太多“宽带新装”“宽带续费”“宽带移机”字面只差两个字模型一个打盹就给你整成“新装”后续流程全错。多轮对话管理套餐查询要鉴权、查余额、选档位3 轮以上就涉及槽位填充、回退、重填状态机一乱用户直接转人工前面算力全白花。一句话高并发、高可用、高准确率一个都不能少。技术对比Rasa、Dialogflow 与联通 AI 平台选型阶段我们把三个主流方案拉到一起跑分维度简单粗暴中文效果、RTResponse Time、定制成本。维度Rasa 3.xDialogflow ES联通 AI 平台中文分词需自插 Jieba歧义高英文模型迁移准确率 82%内置电信语料准确率 93%平均 RT180 ms450 ms北京 VPC120 ms同域定制成本训练数据GPU人日 15按调用收费0.006$/次政企打包100W 次/月运维复杂度自己搭 K8s全托管联通侧托管只接 SDK结论ToB 场景、对中文要求高、又想省运维联通 AI 平台最香Rasa 留给有算法团队且想深度调参的大厂Dialogflow 做海外业务再考虑。系统架构与交互流程先放一张总览图后面代码都能在这里找到对应节点。graph TD A[用户微信] --|HTTPS| B[API-Gateway] B --|JWT 转发| C[Dialog-Service:8082] C --|OAuth2| D[LianTong-AI-SDK] C --|Redis| E[Context-Store] C --|Async| F[Log-Kafka] G[敏感词服务] -.- C核心实现一Spring Boot 整合联通 AI SDK下面这段是dialog-service的启动类亮点在 OAuth2 自动刷新——access_token 有效期 2hSDK 里如果返回 401框架会自动拿 refresh_token 换新的业务线程无感。/** * 联通 AI SDK 配置类 * 遵循 Alibaba 代码规约类名 Upper【U】常量全大写 */ Configuration EnableConfigurationProperties(LianTongProperties.class) public class LianTongConfig { Bean public LianTongClient lianTongClient(LianTongProperties prop) { return LianTongClientBuilder.create() .appId(prop.getAppId()) .appSecret(prop.getAppSecret()) .oauthUrl(prop.getOauthUrl()) .nluUrl(prop.getNluUrl()) .build(); } }调用示例/** * 意图识别入口 * param text 用户原文 * return 意图编码 */ public String detectIntent(String text) { NluRequest req NluRequest.of(text); // 同步阻塞 RT150ms NluResponse resp client.nlu(req); return resp.getTopIntent().getCode(); }核心实现二Redis 对话上下文存储多轮场景下把DialogContext整个对象塞进 Rediskeysession:{userId}TTL 15 分钟用户 15 分钟不说话就自动清理省内存。Configuration public class RedisConfig { Bean public RedisTemplateString, DialogContext contextRedisTemplate(RedisConnectionFactory f) { RedisTemplateString, DialogContext t new RedisTemplate(); t.setConnectionFactory(f); Jackson2JsonRedisSerializerDialogContext ser new Jackson2JsonRedisSerializer(DialogContext.class); t.setValueSerializer(ser); t.setKeySerializer(RedisSerializer.string()); return t; } }存储工具类public void save(String userId, DialogContext ctx) { redisTemplate.opsForValue().set(session: userId, ctx, Duration.ofMinutes(15)); }性能优化压测 熔断用 Apache Benchmark 模拟 200 并发持续 30sab -p body.json -T application/json -c 200 -t 30 http://gateway/dialog/route结果QPS 3.2kP99 280 msCPU 68%满足上线要求。熔断策略联通 AI 的 SLA 承诺 99.9%但偶尔抖到 1s我们加 Sentinelspring: cloud: sentinel: rules: - resource: nlu grade: RT count: 300 # 300ms 以上视为异常 timeWindow: 10触发后自动降级到本地缓存意图保证核心链路可用。避坑指南中文分词、敏感词、日志延迟中文分词歧义用户说“我想开宽带”模型切成“开/宽带”业务码表要的是“开通/宽带”。解决在postProcess里加电信同义词映射表把“开”→“开通”准确率提升 4%。敏感词过滤客服场景必须秒级过滤DFADeterministic Finite Automaton算法最快。核心代码 50 行构建一次仅 30ms匹配 O(n)。public class SensitiveFilter { private final WordNode root new WordNode(); public void loadWord(ListString words) { ... } public boolean contains(String text) { ... } }异步日志一开始用logback-async结果高峰期线程切换把 RT 抬高 20ms。改回同步 批量刷盘Latency 降回 10ms 以内。代码规范小结所有对外接口强制 Javadocparam/return 写清楚单位ms/百分比魔法值一律提常量如private static final int SESSION_TTL_MINUTE 15;日志占位符用{}拒绝字符串拼接防 GC 抖动延伸思考支持语音输入的 WebSocket 扩展文本客服跑稳后领导又拍脑袋“上语音”。思路WebSocket 全双冒前端送 16kHz 单声道 PCM后端用联通 AI 语音转文本插件先拿到文本再走现有流程返回 TTS 音频或文本均可。要点一条长连接 5 分钟心跳防止 NAT 超时语音包分片 320Byte后端用StreamingRecognize边收边转首包延迟 300 ms高并发用 Netty 自己写别拿 Spring WebSocket 硬怼省 30% 内存进阶实践问题如果用户同时打开 App 和微信小程序两条 Session 如何合并识别为同一用户当意图置信度 0.51 刚踩线你会选择“直接回答”还是“反问澄清”如何量化对 C-SAT 的影响语音输入时遇到 3 秒静音应触发“结束识别”还是“继续等待”请给出可配置的阈值策略设计。把这三个问题想透你的智能客服就真正从“能用”进化到“好用”。祝大家开发顺利少踩坑早点下班。