RAG大模型实战:小白程序员必备教程,轻松掌握知识检索增强生成技术(收藏版)
本文深入浅出地讲解了RAG检索增强生成技术的原理与应用从基本概念出发详细阐述了如何通过向量化数据并利用向量数据库进行高效检索进而增强大模型的回答能力。文章还探讨了RAG在多个领域的应用潜力如企业知识问答、智能客服等并提醒开发者注意避免数据偏见。最后通过实际代码示例展示了如何实现RAG流程帮助读者更好地理解和应用这一技术。一、RAG是什么RAG,字面意思是检索-增强-生成。我觉得这里用ES来理解会更为简单如果你对这个ES搜索有一点基础的话检索根据已有的数据各种各样的进行搜索增强那就是在原有的基础上变得更强那这个原有的东西是什么呢就是在大模型原有的回答之前给它一些更为有信服力的东西ES叫score,这里叫相关性其实理解起来相像作为context塞给大模型生成让大模型在有这个context的基础上生成更为可靠准确的数据返回给用户。这样理解是不是更好理解。RAG 是 Retrieval-Augmented Generation即检索增强生成Retrieval从企业知识中找到与问题最相关的片段Augmented把这些片段加入模型上下文Generation让模型依据片段生成回答那上文所说的 已有的数据得是我们喂给它的比如我们在mysql数据库中定义一些结构存入一些数据后续就可以用sql语句查询处理同理RAG也有数据库不过我们称其为向量数据库VectorStore那你要存入向量数据库得先向量化这里向量化后的数据和线性代数中的向量很像如图这是第一步先把数据向量化第二步用户输入的内容也要进行向量化和向量数据库进行比对具有相关性的内容的原文注意是原文 作为context塞给大模型作为参考的依据然后大模型根据这些内容整理得到结果返回给用户。这是整个完整的流程二、RAG能做什么上文我们提到RAG会向量化一些数据那这些数据可能是一些pdf、md、图片…对应的内容可能是说明书协议手册,简历病历商品说明于是乎我们可以利用这些数据进行向量化我们就能做企业知识问答、智能客服、法律与合同检索、医疗资料辅助查询、电商商品导购、工单故障诊断简历匹配等等… 所以RAG不止能做企业知识库根据所给的数据的不同可以实现更多丰富的内容只是像企业知识问答这种功能更为简单易懂。于此同时比如说你有了一些数据也确实能够拿到一些数据响应给用户那能不能更近一步比如说电商商品导购用户要求 “我要一台适合看视频看文档新款手机折叠机。”于是电商AI小助理不只是告诉你你可以选择购买A 或 B 的折叠机甚至它直接给你调出了一个页面来哥们我给你推荐新出的折叠手机 iphone duo 15999 或者 小米18 fold xxx 然后你就可以根据喜好自己去挑那后面这个步骤是不是可以用一个我们上节学过的Tool Calling 工具调用实现 这不就结合起来了吗但是你要注意也就是说我能给你选出你要的几个选项给你选择是不是我可以在这个给定的结果中添加一些“不良的元素”比如说A手机厂商投广告了投钱了说你把搜索结果给我放在前面只要用户搜索折叠手机你AI生成的推荐手机页面我A手机一定要排在前面 这个是不是可以做到 把投放广告的那套“召回重排”用在AI上于是不良的风气就出现了我称之为 剑走偏锋本来是一个很好的设计给用户推荐一些相关的产品却也有可能被设计成会被误导消费者的一种形式如果是这样的设计那我觉得就丢失了AI最基本的公正原则把那种页面显示内容也可以添加广告的那一套也塞给了AI到最后用一句“AI生成的信息可能有误仅供参考”草草了事。三、怎么实现一个RAG言归正传我们来实现一个RAG的过程。完整的过程就如同上面的图所言分两步走生成对应的向量数据库和用户提问部分几点注意1. 把数据向量化需要引入对应的向量化模型这不同于那些多模态的大模型一般都带有embedding字样如2. 向量数据库有很多种选择生产中多使用Milvus,我们本节使用的是Redis Stack,当然你要用Milvus也行我要提醒你的是这玩意需要一点内存。3. redis stack ! redis虽然他们在端口上都是6379看起来人畜无害但是你的redis大概率是没有redis stack的如果是docker的话要安装 redis/redis-stack-server:latest 这个镜像涵盖普通的redis和redis stack。配置yaml,添加4个依赖Redis Starter 中排除自动配置是本章的刻意设计。Spring AI 1.1.2 的 Redis 自动配置无法通过 YAML 声明本项目的权限元数据字段我们需要显式构建 RedisVectorStore将 tenantId、departmentId 等字段建入 RediSearch 索引。前面做了很多操作到最后都融为一个动作把切好块的Doucuments放进vectorStore用户在查询的时候先进行相似度匹配得到retrieved再进行一次权限过滤得到了authorized,再组装一下得到context给大模型四、测试结果你可以上传一个员工手册的pdf,然后向量数据库中会将其切块保存然后你可以问对应的问题从向量数据库中查到对应的内容辅助回答如果你把部门改成department-002模拟不同的部门那么你将无权限得到对应的数据因为刚才上传的数据仅仅department-001可查看这样就达到了数据隔离。就好比你想去查询公司内某个新来员工的工资那肯定就不能让你查到了对吧要不然如果这个新来的员工工资还比你高年龄还比你小岂不是影响团结。五、还是那个ChatClient现在我们来看点源码非常简单容易理解如果你能看到这里你不该错过。之前我们在写这个ChatClient的时候是不是写过一个MessageChatMemoryAdvisor,用于让对话有了记忆功能这个advisor就是干这种事作为一个拦截器或者增强器的功能而存在像MessageChatMemoryAdvisor是不是增强了它的功能同理我们点开这个Advisor的实现类我们可以看到这个QuestionAnswerAdvisorQuestionAnswerAdvisor 通过使用已注入的 VectorStore 检索相关文档并将检索结果加入 Prompt从而实现检索增强生成RAG。那这种方式和我们最开始的那种方式的区别是QuestionAnswerAdvisor属于自动我们的那种方式属于手动模式因为我们需要自己添加一些metadata元数据增加一些权限过滤手动操作更为方便但是增加了一些代码量。以上就是关于RAG的内容相关的代码已放置Githubtag为tag-1.4,有需要自行取用。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取