RAG(Retrieval Augmented Generation,检索增强生成)是一种结合信息检索和文本生成的技术方案
RAG 技术就像给 AI 装上了「实时百科大脑」,通过先查资料后回答的机制,让 AI 摆脱传统模型的”知识遗忘”困境
主要核心流程分为:
检索(Retrieval)
:基于用户的输入,从外部知识库(数据库、文档、网页)中检索与查询相关的文本片段,通常使用向量化表示和向量数据库进行语义匹配。
生成(Generation)
: 将用户查询与检索到的内容作为上下文输入给 LLM(如 GPT、DeepSeek 等),由模型输出最终回答。
1、知识更新滞后
LLM 是离线训练的,一旦训练完成后,它们无法获取新的信息,因此,它们无法回答训练数据时间点之后发生的事件,比如“今天的最新新闻”
2、幻觉现象
大语言模型(LLM) 的回答是根据已有的 训练数据 和概率预测得出来的,当面对没有在训练中见过的问题时,模型可能会“编造”看似合理但实际上不准确或虚构的内容
RAG 将信息检索与语言生成相结合,在回答问题时,首先从外部知识库(如网页、数据库、文档等)中检索相关信息,再基于这些信息生成回答。这样一来:
在 RAG 中,文档索引 是整个流程的基础环节之一,将文档(word,excel,PDF,Markdown 等)根据一定的规则容划分为文本块(chunk),然后通过 Embedding 模型将文本块转换为向量并存入向量数据库中
文档索引的目的是为了实现高效、准确的信息检索,为后续的大语言模型生成提供可靠的上下文支持。
向量化用户问题
:将 用户问题 用相同的 Embedding 模型转换为向量,用以检索相关知识分片
检索(Retrieval)
:通过向量数据库一系列高效的数学计算 (如余弦相似度、欧氏距离等),检索出语义相似度最高的几个知识分片(Top_k)
构建 Prompt
:将 Prompt + 检索结果+ 用户问题 构建成完整的 Prompt
生成(Generation)
:大语言模型再根据这个 Prompt 生成结果
Embedding 是一种将文字序列(如词、句子或文档)转换为向量表示(固定维度的向量)的技术
模型目标:使得具有相似语义的文字序列对应的向量尽可能接近(即相似度高),而语义不同的文字序列对应的向量尽可能远离(即相似度低)
作用:通过数学计算向量之间的距离,快速检索出相似度最高的文字序列
作为一名从业五年的资深大模型算法工程师,我经常会收到一些评论和私信,我是小白,学习大模型该从哪里入手呢?我自学没有方向怎么办?这个地方我不会啊。如果你也有类似的经历,一定要继续看下去!这些问题啊,也不是三言两语啊就能讲明白的。
所以我综合了大模型的所有知识点,给大家带来一套全网最全最细的大模型零基础教程。在做这套教程之前呢,我就曾放空大脑,以一个大模型小白的角度去重新解析它,采用基础知识和实战项目相结合的教学方式,历时3个月,终于完成了这样的课程,让你真正体会到什么是每一秒都在疯狂输出知识点。
由于篇幅有限,⚡️ 朋友们如果有需要全套 《2025全新制作的大模型全套资料》,扫码获取~
我们这套大模型资料呢,会从基础篇、进阶篇和项目实战篇等三大方面来讲解。
基础篇里面包括了Python快速入门、AI开发环境搭建及提示词工程,带你学习大模型核心原理、prompt使用技巧、Transformer架构和预训练、SFT、RLHF等一些基础概念,用最易懂的方式带你入门大模型。
接下来是进阶篇,你将掌握RAG、Agent、Langchain、大模型微调和私有化部署,学习如何构建外挂知识库并和自己的企业相结合,学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。
实战篇会手把手带着大家练习企业级的落地项目(已脱敏),比如RAG医疗问答系统、Agent智能电商客服系统、数字人项目实战、教育行业智能助教等等,从而帮助大家更好的应对大模型时代的挑战。
最后呢,会给大家一个小福利,课程视频中的所有素材,有搭建AI开发环境资料包,还有学习计划表,几十上百G素材、电子书和课件等等,只要你能想到的素材,我这里几乎都有。我已经全部上传到CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
】
相信我,这套大模型系统教程将会是全网最齐全 最易懂的小白专用课!!