本文介绍了RAG检索增强生成技术的原理和实现阐述了为何需要RAG以及其具体实现步骤。文章重点探讨了多模态RAG的发展包括从纯文本转换到直接使用图像进行检索和生成的技术突破介绍了DSE和ColPali等先进方法。随着多模态大语言模型的发展多模态RAG技术将会有更多商业应用价值。如果说2023年见证了大语言模型的“寒武纪大爆发”那么2024年则是多模态大模型“元年”。GPT-4o的出现让大家见识到多模态能力引入给下游应用生态带来的巨大改变。随之而来的RAG技术也将逐渐从单语言模态的RAG进化到多模态RAG。本文将带大家速览多模态RAG技术的原理及实现。1、什么是RAG什么是RAGRetrieval Augmented Generation检索增强生成。是一种结合了信息检索技术和大型语言模型提示功能的框架。它通过从数据源检索信息来辅助LLM生成答案提高了模型在知识密集型任务中的准确性和可信度。我们为什么需要RAG大型语言模型通常基于固定的历史数据集进行训练这意味着它们的知识是过时的无法涵盖最新的信息或特定领域的专业知识。RAG的目的是通过引入额外知识库检索其中的相关信息并根据检索结果给予用户回答。这也可以显著减少大模型因为并不具备相关知识而出现的“幻觉”现象。当然我们也可以直接把整个数据库作为LLM的prompt输入但由于transformer架构O(N2)复杂度的限制LLM支持的最长输入长度通常有限多数支持到128k token已经是极限使得在面临更长知识库输入时RAG依然是当下唯一可行的解决方案。如何实现RAG在实际应用时我们常需要给定一系列文档并使用RAG方法让LLM针对这些文档进行检索与交互。RAG的实现主要包含以下几个步骤数据准备阶段包括数据提取、分块chunking、向量化embedding、数据入库等环节。数据提取涉及将不同格式的数据如PDF、Word、数据库等处理为统一的格式。分块是将大文档分割成较小的、语义完整的单元以便于后续处理和检索。检索阶段系统根据输入查询检索相关文档或信息。这个阶段依赖于搜索算法和索引方法来快速识别大量集合中最相关的数据。增强阶段将用户查询和检索到的额外上下文放入一个提示模板中以增强提示。生成阶段使用大型语言模型来针对检索结果生成对用户的回复。2、走向多模态RAG从RAG的应用可以看出多数时候我们需要把一些文档作为RAG的输入用于检索和生成。而现实应用中文档通常是以图文交错的形式存在的比如网页、PDF、PPT文件等等。通常的做法是只保留文档中的文本信息。对于PDF文档则进行OCR文字识别读取其中的文本。但这样会导致大量图片中至关重要的信息被丢失以及很多结构化内容的错乱比如标题、表格、页眉页脚等格式错乱。改进的做法是把所有模态信息都转换为纯文本再进行RAG。我们可以使用多种计算机视觉模型比如检测模型对文档结构进行识别然后对文档中不同的模块使用不同的“广义OCR模型”进行解析。比如对于文本段落使用OCR模型进行文本识别对于表格可以用表格模型进行识别转换为Markdown或LaTeX文本对于公式则套用公式识别转换为LaTeX对于图片则可使用多模态大模型如GPT-4o进行文本解读caption保存为文本描述。有很多开源的工具可以完成这些事情比如MinerU等。通过解析算法多模态数据就被完全转换为纯文本的格式了也就可以照葫芦画瓢套用纯文本的RAG方法了。图像来源: 张颖峰 | 所见即所得多模态RAG正在向我们走来我们注意到使用上述的方法信息不可避免会存在丢失而且依赖过多的解析模型。而时间来到2024年多模态大模型实现了爆发式的技术突破高分辨率的视觉输入已经取得了巨大突破使用单一的多模态大模型做广义OCR也变得非常容易。比如QWen2-VL以及InternVL-2等开源多模态大模型在文档的广义OCR上都有非常好的效果。多模态大模型成功让端到端end-to-end的算法已经成为了主流。原生多模态的RAG算法也成为了可能既然多模态大模型有能力理解文本那我们其实即无需再把图像转换为文本而可以直接使用图像提取embedding去做RAG。即从图(a)转变为图(b)的模式DSEhttps://arxiv.org/abs/2406.11251DSE即Document Screenshot Embedding是一个不使用广义OCR的多模态RAG方法直接把原始文档的扫描图片切片后使用视觉语言模型的编码器编码。其对query和docunment使用了双编码的架构。验证了这一想法的可行性。ColPalihttps://arxiv.org/abs/2407.01449ColPali架构也是利用视觉语言模型来从文档页面的图像中产生高质量的上下文化嵌入。ColPali使用了延迟交互late interaction技术大大提高了检索效率同时在检索性能上超越了现有的文档检索系统并且具有更快的处理速度和可端到端训练的特点。上图对比了传统的文档RAG与多模态RAG的区别。因为减少了广义OCR的解析过程使得处理速度也有了质的提升。CoPali其实从名字上看就知道灵感来源于两个工作PaliGemma和CoBERT。PaliGemma 是 Google 开发的一款具有多模态功能的视觉语言模型它结合了视觉模型 SigLIP 和大型语言模型 Gemma。“Col” 则来自于ColBERT 的延迟交互编码器。ColPali 算是延迟交互编码器在多模态 RAG 检索的应用并且极大提高了检索召回的精度。延迟交互编码结合了双编码器和交叉编码器的优点。在这种架构中query和文档被分别编码成独立的embedding集合然后通过一个高效的交互机制来计算它们之间的相似度。延迟交互编码的核心思想是将查询和文档的编码过程分开这样文档的编码可以离线完成而查询的编码则在在线阶段进行。这种方法的优点是可以在查询时仅对查询进行编码从而大大提高了处理速度。此外由于文档的编码是预先完成的可以将其存储在数据库中这样就可以对更多的文档进行排序从而提高查询的精度。在延迟交互编码中一个关键的计算是最大相似性MaxSim函数它计算每个查询Token向量与所有文档Token向量之间的相似度并跟踪每个查询Token的最大得分。查询和文档的总相似度分数是这些最大余弦相似度分数的总和。这种方法允许模型在保持较高排序质量的同时也具备较高的性能。随着多模态大语言模型能力的增强以它为基础的多模态RAG也早已突破了传统的图像检索的应用方式而是真正具备大规模非结构化多模态数据深度理解的能力将会有更多toB的商业应用价值。最后对于正在迷茫择业、想转行提升或是刚入门的程序员、编程小白来说有一个问题几乎人人都在问未来10年什么领域的职业发展潜力最大答案只有一个人工智能尤其是大模型方向当下人工智能行业正处于爆发式增长期其中大模型相关岗位更是供不应求薪资待遇直接拉满——字节跳动作为AI领域的头部玩家给硕士毕业的优质AI人才含大模型相关方向开出的月基础工资高达5万—6万元即便是非“人才计划”的普通应聘者月基础工资也能稳定在4万元左右。再看阿里、腾讯两大互联网大厂非“人才计划”的AI相关岗位应聘者月基础工资也约有3万元远超其他行业同资历岗位的薪资水平对于程序员、小白来说无疑是绝佳的转型和提升赛道。对于想入局大模型、抢占未来10年行业红利的程序员和小白来说现在正是最好的学习时机行业缺口大、大厂需求旺、薪资天花板高只要找准学习方向稳步提升技能就能轻松摆脱“低薪困境”抓住AI时代的职业机遇。如果你还不知道从何开始我自己整理一套全网最全最细的大模型零基础教程我也是一路自学走过来的很清楚小白前期学习的痛楚你要是没有方向还没有好的资源根本学不到东西下面是我整理的大模型学习资源希望能帮到你。扫码免费领取全部内容最后1、大模型学习路线2、从0到进阶大模型学习视频教程从入门到进阶这里都有跟着老师学习事半功倍。3、 入门必看大模型学习书籍文档.pdf书面上的技术书籍确实太多了这些是我精选出来的还有很多不在图里4、AI大模型最新行业报告2026最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5、面试试题/经验【大厂 AI 岗位面经分享107 道】【AI 大模型面试真题102 道】【LLMs 面试真题97 道】6、大模型项目实战配套源码适用人群四阶段学习规划共90天可落地执行第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容3、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】