AI大模型在个性化商品推荐与智能导购助手中的技术落地又见面了我是高佣返利省赚客APP研发者微赚在流量红利见顶的今天淘客返利APP的竞争已从“价格战”转向“体验战”。传统的基于协同过滤或规则引擎的推荐系统往往只能做到“千人一面”或简单的“猜你喜欢”无法理解用户复杂的自然语言需求更难以提供有温度的购物建议。省赚客APP研发团队近期引入了LLM大语言模型技术重构了核心推荐链路打造了能够理解上下文、具备推理能力的智能导购助手。本文将深入技术细节分享如何通过RAG检索增强生成、向量数据库及Prompt工程将大模型能力无缝集成到Java后端架构中。构建基于RAG的商品知识增强检索大模型存在“幻觉”问题且缺乏实时的商品库存、价格及佣金数据。我们采用RAG架构将省赚客海量的商品库、历史订单及用户画像向量化存储。当用户提问时系统先检索相关上下文再将其作为提示词的一部分喂给大模型确保回答的准确性与时效性。packagejuwatech.cn.provinceearn.ai.retrieval;importjuwatech.cn.provinceearn.ai.dto.VectorQueryRequest;importjuwatech.cn.provinceearn.ai.entity.ProductEmbedding;importjuwatech.cn.provinceearn.ai.repository.ProductVectorRepository;importlombok.RequiredArgsConstructor;importlombok.extern.slf4j.Slf4j;importorg.springframework.stereotype.Service;importorg.springframework.ai.vectorstore.SearchRequest;importorg.springframework.ai.vectorstore.VectorStore;importjava.util.List;importjava.util.stream.Collectors;/** * 商品知识检索服务 * 利用向量数据库实现语义搜索为大模型提供精准上下文 * * author juwatech.cn */Slf4jServiceRequiredArgsConstructorpublicclassProductRetrievalService{privatefinalVectorStorevectorStore;privatefinalProductVectorRepositoryproductVectorRepository;/** * 执行语义检索 * 将用户自然语言查询转化为向量检索Top-K相关商品 * param query 用户查询文本如“适合送老人的低糖食品” * param topK 返回结果数量 * return 相关的商品文档片段 */publicListStringretrieveRelevantProducts(Stringquery,inttopK){log.info(Retrieving products for query: {},query);// 构建搜索请求设置相似度阈值SearchRequestsearchRequestSearchRequest.query(query).withTopK(topK).withSimilarityThreshold(0.75);// 执行向量搜索Listorg.springframework.ai.vectorstore.DocumentdocumentsvectorStore.similaritySearch(searchRequest);returndocuments.stream().map(doc-{// 提取关键信息商品名、价格、佣金率、卖点Stringtitledoc.getMetadata().getOrDefault(title,).toString();Stringpricedoc.getMetadata().getOrDefault(price,).toString();Stringcommissiondoc.getMetadata().getOrDefault(commissionRate,).toString();Stringfeaturesdoc.getContent();// 商品详细描述returnString.format(商品:%s, 价格:%s元, 佣金:%s%%, 特点:%s,title,price,commission,features);}).collect(Collectors.toList());}/** * 混合检索策略结合关键词匹配与向量语义 * 解决纯向量检索在特定型号搜索上精度不足的问题 */publicListProductEmbeddinghybridSearch(Stringkeyword,StringsemanticQuery){// 1. ES关键词检索ListProductEmbeddingkeywordResultsproductVectorRepository.findByTitleContaining(keyword);// 2. 向量语义检索 (略调用上述vectorStore)// 3. 重排序 (Rerank) 逻辑融合returnkeywordResults;}}智能导购助手的Prompt工程与流式响应为了让AI像真人导购一样交流我们设计了结构化的System Prompt注入角色设定、回复约束及检索到的商品上下文。同时为了提升用户体验后端采用Server-Sent Events (SSE) 实现打字机效果的流式输出避免用户长时间等待。packagejuwatech.cn.provinceearn.ai.service;importjuwatech.cn.provinceearn.ai.retrieval.ProductRetrievalService;importjuwatech.cn.provinceearn.ai.dto.ChatResponse;importlombok.RequiredArgsConstructor;importlombok.extern.slf4j.Slf4j;importorg.springframework.ai.chat.client.ChatClient;importorg.springframework.ai.chat.messages.Message;importorg.springframework.ai.chat.messages.UserMessage;importorg.springframework.ai.chat.prompt.Prompt;importorg.springframework.http.MediaType;importorg.springframework.web.servlet.mvc.method.annotation.SseEmitter;importorg.springframework.stereotype.Service;importreactor.core.publisher.Flux;importjava.util.List;/** * 智能导购对话服务 * 整合RAG上下文与大模型推理能力提供流式对话体验 * * author juwatech.cn */Slf4jServiceRequiredArgsConstructorpublicclassAiShoppingAssistantService{privatefinalChatClientchatClient;privatefinalProductRetrievalServiceretrievalService;privatestaticfinalStringSYSTEM_PROMPT 你是一名专业的省赚客购物顾问擅长根据用户需求推荐高性价比商品。 请遵循以下规则 1. 必须基于提供的【参考商品列表】进行推荐严禁编造不存在的商品或价格。 2. 语气亲切自然突出商品的优惠力度和返利金额。 3. 如果用户未提供具体预算主动询问。 4. 输出格式先简短分析需求再列出推荐商品含名称、原价、券后价、预估返利最后给出购买建议。 【参考商品列表】: {context} ;/** * 处理用户对话请求并返回流式响应 */publicSseEmitterchatStream(StringuserId,StringuserQuery){SseEmitteremitternewSseEmitter(60_000L);// 60秒超时// 异步处理避免阻塞Web容器线程CompletableFuture.runAsync(()-{try{// 1. 检索相关商品上下文ListStringcontextDocsretrievalService.retrieveRelevantProducts(userQuery,5);StringcontextString.join(\n,contextDocs);if(context.isEmpty()){context暂无完全匹配的商品请尝试推荐同类热门商品。;}// 2. 构建完整PromptStringfullPromptSYSTEM_PROMPT.replace({context},context);// 3. 调用大模型获取流式响应FluxChatResponseresponseFluxchatClient.prompt().system(fullPrompt).user(userQuery).stream().content();responseFlux.doOnNext(chunk-{try{// 发送SSE数据块emitter.emit(SseEmitter.event().name(message).data(chunk,MediaType.TEXT_PLAIN),SseEmitter.SseEventType.EVENT);}catch(Exceptione){log.error(SSE emit error,e);emitter.completeWithError(e);}}).doOnComplete(emitter::complete).doOnError(emitter::completeWithError).subscribe();}catch(Exceptione){log.error(Chat processing failed,e);emitter.completeWithError(e);}});returnemitter;}}用户画像的动态更新与反馈闭环大模型不仅是输出端更是数据采集器。我们将用户的对话记录、点击行为实时反馈给推荐系统利用大模型提取用户隐式偏好如“对价格敏感”、“偏好国货”动态更新用户画像标签形成“交互-学习-优化”的闭环。packagejuwatech.cn.provinceearn.ai.analytics;importjuwatech.cn.provinceearn.ai.dto.UserInteractionLog;importjuwatech.cn.provinceearn.user.service.UserProfileService;importlombok.RequiredArgsConstructor;importlombok.extern.slf4j.Slf4j;importorg.springframework.ai.chat.client.ChatClient;importorg.springframework.stereotype.Component;importjava.util.Map;/** * 用户偏好分析组件 * 利用LLM从对话日志中提取结构化标签 * * author juwatech.cn */Slf4jComponentRequiredArgsConstructorpublicclassUserPreferenceExtractor{privatefinalChatClientchatClient;privatefinalUserProfileServiceuserProfileService;/** * 分析对话日志提取用户兴趣标签 */publicvoidanalyzeAndUpdateProfile(StringuserId,StringconversationHistory){StringextractionPrompt 分析以下用户对话历史提取用户的购物偏好标签。 输出严格的JSON格式{tags: [标签1, 标签2], price_sensitivity: high/medium/low, preferred_categories: [类目1]} 对话历史: %s .formatted(conversationHistory);StringjsonResultchatClient.prompt(extractionPrompt).call().content();try{// 解析JSON并调用用户服务更新画像// MapString, Object preferences JsonUtil.parse(jsonResult);// userProfileService.updateTags(userId, preferences);log.info(Profile updated for user {}: {},userId,jsonResult);}catch(Exceptione){log.warn(Failed to parse LLM output for profile update,e);}}}结语通过引入RAG架构、流式对话接口及智能偏好分析省赚客APP成功将大模型技术转化为实实在在的生产力。这不仅大幅提升了用户的搜索转化率和留存时长更让冷冰冰的商品列表变成了有温度的购物顾问。未来我们将继续探索多模态大模型在视频导购场景的应用持续引领行业技术变革。本文著作权归 省赚客app 研发团队转载请注明出处