本文将深入解析一个基于LangChain和ChromaDB实现的智能检索问答系统该系统能够根据用户的问题在已有知识库中检索相关信息并生成准确的回答。这种技术被称为RAG检索增强生成Retrieval-Augmented Generation是当前AI应用中非常重要的一种实现方式。实现功能基于LangChain和ChromaDB实现的检索增强生成(RAG)系统通过向量化文档进行语义检索结合大语言模型能力实现根据已有知识库准确回答用户问题的智能问答功能。本文使用技术栈在本示例中主要使用了以下技术组件LangChain一个用于构建基于语言模型应用的框架提供了丰富的组件和工具链。ChromaDB一个开源的向量数据库用于存储和检索文档的向量表示。Ollama本地部署的大语言模型服务用于生成文本和创建向量嵌入。向量检索技术将文本转换为向量表示并通过相似度计算实现信息检索。代码结构详解环境准备与依赖导入pip install langchain-chroma pip install langserve[all] pip install langchain pip install langchain_communityimport os from langchain_chroma import Chroma from langchain_community.chat_message_histories import ChatMessageHistory from langchain_core.documents import Document from langchain_core.messages import HumanMessage from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder from langchain_core.runnables import RunnableWithMessageHistory, RunnableLambda, RunnablePassthrough from langchain_community.chat_models import ChatOllama from langchain_community.embeddings import OllamaEmbeddings from langserve import add_routes这部分代码导入了实现检索问答系统所需的各种库和模块•ChromaChromaDB的LangChain集成•Document表示文档的基本数据结构•RunnableLambda和RunnablePassthroughLangChain的可运行组件用于构建处理链•ChatOllama和OllamaEmbeddings基于Ollama的聊天模型和嵌入模型配置本地模型服务ollama_base_url http://192.168.1.1:11434 # 默认地址可根据实际情况修改 # 创建模型 model ChatOllama(modeldeepseek-r1:1.5b, base_urlollama_base_url)这里配置了Ollama服务的URL并初始化了聊天模型。示例中使用了DeepSeek-r1的1.5B参数模型这是一个相对轻量的中文大语言模型。准备测试数据# 准备测试数据 假设我们提供的文档数据如下 documents [ Document( page_content长城是中国古代的伟大防御工程绵延数千公里被誉为世界七大奇迹之一。, metadata{source: 中国名胜古迹文档}, ), Document( page_content埃菲尔铁塔位于法国巴黎是世界著名的建筑标志每年吸引数百万游客参观。, metadata{source: 欧洲地标文档}, ), Document( page_content金字塔是古埃及的标志性建筑用作法老的陵墓展示了惊人的建筑技术。, metadata{source: 古代建筑文档}, ), Document( page_content泰姬陵是印度著名的白色大理石陵墓被誉为爱情的象征建筑风格融合了波斯和印度元素。, metadata{source: 亚洲建筑文档}, ), Document( page_content自由女神像是美国的国家象征位于纽约港口代表自由与民主精神。, metadata{source: 美洲地标文档}, ), Document( page_content莫愁湖是中国江苏南京的著名景点以其优美的湖光山色和动人的传说闻名。, metadata{source: 中国名胜古迹文档}, ), Document( page_content齐得隆咚呛是火星的一个部落。拥有丰富的矿产资源。, metadata{source: 宇宙名胜古迹文档}, ) ]为了演示系统功能创建了包含不同地标信息的文档集合。每个文档包含•page_content文档的主要内容•metadata元数据信息包括文档的来源这里值得注意的是最后一个文档中包含了一个虚构的地方齐得隆咚呛这是为了测试系统对未知信息的处理能力。创建向量存储# 实例化一个向量数空间 vector_store Chroma.from_documents(documents, embeddingOllamaEmbeddings(modelbge-m3, base_urlollama_base_url))这一步是RAG系统的核心部分之一实现了使用OllamaEmbeddings创建向量嵌入选择了bge-m3模型这是一个专为中文优化的嵌入模型将文档集合转换为向量表示并存储在ChromaDB中建立了一个可以进行向量检索的数据库BGE-M3是北京智源研究院开发的多语言嵌入模型在中文语义理解方面有很好的表现。测试相似度查询# 相似度的查询: 返回相似的分数 分数越低相似度越高 print(vector_store.similarity_search_with_score(齐的隆咚呛))这行代码演示了如何使用向量存储进行相似度搜索• 输入查询词法国巴黎• 系统将查询词转换为向量表示• 在向量空间中寻找最相似的文档• 返回文档和相似度分数分数越低表示相似度越高虽然齐的隆咚呛并不完全匹配任何文档但系统会找到语义上最接近的结果很可能是关于齐的隆咚呛的文档。创建检索器# 检索器: bind(k1) 返回相似度最高的第一个 retriever RunnableLambda(vector_store.similarity_search).bind(k1) print(retriever.batch([法国巴黎, 金字塔]))这部分代码创建一个检索器函数每次查询只返回相似度最高的一个文档k1使用batch方法同时查询多个词展示了批处理能力测试了法国巴黎和金字塔两个查询词RunnableLambda是LangChain的一个工具可以将任何函数转换为可运行的组件。这里将ChromaDB的检索功能封装为LangChain可运行组件。创建提示模板# 提示模板 message 使用提供的上下文仅回答这个问题: {question} 上下文: {context} prompt_temp ChatPromptTemplate.from_messages([(human, message)])提示模板是指导大语言模型回答问题的关键。这个模板包含明确的指令“使用提供的上下文仅回答这个问题”两个变量{question}用户问题和{context}检索到的文档内容使用LangChain的ChatPromptTemplate创建了可用于聊天模型的提示格式这种模板设计确保模型只使用检索到的信息回答问题减少幻觉生成不准确信息的可能性。构建检索问答链# RunnablePassthrough允许我们将用户的问题之后再传递给prompt和model。 chain {question: RunnablePassthrough(), context: retriever} | prompt_temp | model这一行代码构建了完整的检索问答链创建一个字典包含两个键•question使用RunnablePassthrough()直接传递用户的输入问题•context使用retriever组件检索相关文档将字典传入prompt_temp填充提示模板中的变量最后将填充好的提示传给大语言模型生成回答这里使用了LangChain的管道操作符|非常直观地表达了数据流向输入 → 检索 → 提示填充 → 模型生成。测试系统resp chain.invoke(请介绍一下埃菲尔铁塔) print(resp.content)resp chain.invoke(请介绍一下齐的隆咚呛) print(resp.content)注意一下这里搜索的是齐的隆咚呛而文档中为齐得隆咚呛他也是能通过语义搜索获取到的。至此我们可以成功根据我们自己的文本内容来实现知识库检索了。其实还有个rerank模型也可以用作优化效果后面文章我会详细介绍。下面我总结一下使用到的技术。向量检索原理详解文本向量化在RAG系统中文本向量化是实现高效检索的基础。这个过程包括文本预处理清洗文本去除停用词进行分词等。向量生成使用嵌入模型将文本转换为高维向量。本例中使用的BGE-M3模型能将文本映射到高维空间使得语义相似的文本在向量空间中距离更近。向量维度嵌入模型通常会生成几百到几千维度的向量。例如BGE-M3生成的向量通常是1024维。向量存储ChromaDB作为向量数据库提供了高效的向量存储和检索功能向量索引ChromaDB使用高效的索引结构如HNSW、Annoy等来加速近似最近邻搜索。元数据存储除了存储向量还保存文档的原始内容和元数据。持久化ChromaDB支持将向量数据持久化到磁盘便于后续使用。相似度搜索向量检索的核心是相似度计算余弦相似度最常用的相似度度量计算两个向量之间夹角的余弦值。值域为[-1,1]通常归一化为[0,1]或表示为距离[0,2]。欧氏距离计算向量空间中两点之间的直线距离。点积两个向量的对应元素相乘再求和也是常用的相似度度量之一。在本例中similarity_search_with_score方法返回的分数是基于向量欧式距离的分数越低表示相似度越高。语义检索优势与传统的关键词匹配相比向量检索也称为语义检索有显著优势理解语义能够捕捉文本的语义而非仅匹配关键词。处理同义词即使用不同词语表达相同概念也能找到相关文档。处理多语言某些嵌入模型支持跨语言检索。模糊匹配不需要精确匹配即可找到相关内容。总结本文详细介绍了一个基于LangChain和ChromaDB实现的智能检索问答系统。该系统通过向量化存储文档信息利用语义相似度检索相关内容然后使用大语言模型生成准确回答。想入门 AI 大模型却找不到清晰方向备考大厂 AI 岗还在四处搜集零散资料别再浪费时间啦2026 年AI 大模型全套学习资料已整理完毕从学习路线到面试真题从工具教程到行业报告一站式覆盖你的所有需求现在全部免费分享扫码免费领取全部内容一、学习必备100本大模型电子书26 份行业报告 600 套技术PPT帮你看透 AI 趋势想了解大模型的行业动态、商业落地案例大模型电子书这份资料帮你站在 “行业高度” 学 AI1. 100本大模型方向电子书2. 26 份行业研究报告覆盖多领域实践与趋势报告包含阿里、DeepSeek 等权威机构发布的核心内容涵盖职业趋势《AI 职业趋势报告》《中国 AI 人才粮仓模型解析》商业落地《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》领域细分《AGI 在金融领域的应用报告》《AI GC 实践案例集》行业监测《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。3. 600套技术大会 PPT听行业大咖讲实战PPT 整理自 2024-2025 年热门技术大会包含百度、腾讯、字节等企业的一线实践安全方向《端侧大模型的安全建设》《大模型驱动安全升级腾讯代码安全实践》产品与创新《大模型产品如何创新与创收》《AI 时代的新范式构建 AI 产品》多模态与 Agent《Step-Video 开源模型视频生成进展》《Agentic RAG 的现在与未来》工程落地《从原型到生产AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。二、求职必看大厂 AI 岗面试 “弹药库”300 真题 107 道面经直接抱走想冲字节、腾讯、阿里、蔚来等大厂 AI 岗这份面试资料帮你提前 “押题”拒绝临场慌1. 107 道大厂面经覆盖 Prompt、RAG、大模型应用工程师等热门岗位面经整理自 2021-2025 年真实面试场景包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题每道题都附带思路解析2. 102 道 AI 大模型真题直击大模型核心考点针对大模型专属考题从概念到实践全面覆盖帮你理清底层逻辑3. 97 道 LLMs 真题聚焦大型语言模型高频问题专门拆解 LLMs 的核心痛点与解决方案比如让很多人头疼的 “复读机问题”三、路线必明 AI 大模型学习路线图1 张图理清核心内容刚接触 AI 大模型不知道该从哪学起这份「AI大模型 学习路线图」直接帮你划重点不用再盲目摸索路线图涵盖 5 大核心板块从基础到进阶层层递进一步步带你从入门到进阶从理论到实战。L1阶段:启航篇丨极速破界AI新时代L1阶段了解大模型的基础知识以及大模型在各个行业的应用和分析学习理解大模型的核心原理、关键技术以及大模型应用场景。L2阶段攻坚篇丨RAG开发实战工坊L2阶段AI大模型RAG应用开发工程主要学习RAG检索增强生成包括Naive RAG、Advanced-RAG以及RAG性能评估还有GraphRAG在内的多个RAG热门项目的分析。L3阶段跃迁篇丨Agent智能体架构设计L3阶段大模型Agent应用架构进阶实现主要学习LangChain、 LIamaIndex框架也会学习到AutoGPT、 MetaGPT等多Agent系统打造Agent智能体。L4阶段精进篇丨模型微调与私有化部署L4阶段大模型的微调和私有化部署更加深入的探讨Transformer架构学习大模型的微调技术利用DeepSpeed、Lamam Factory等工具快速进行模型微调并通过Ollama、vLLM等推理部署框架实现模型的快速部署。L5阶段专题集丨特训篇 【录播课】四、资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容2026 年想抓住 AI 大模型的风口别犹豫这份免费资料就是你的 “起跑线”