1024程序员节 我们在 上海-RAG学习
CSDN CCC 城市社区 1024程序员活动
这次应该是 第5次参加 CSDN CCC 的活动了，感觉还是很不错这次是在 大学校园举行。
什么是RAG
RAG（Retrieval-Augmented Generation）是一种结合了检索和生成的混合模型架构，常用于自然语言处理 (NLP) 任务，特别是需要处理大量外部信息和知识的应用场景。
RAG 的工作原理可以分为两个主要步骤：
- 检索（Retrieval）：RAG
首先从一个大规模的知识库或文档集合中检索出相关的文档或段落。通过引入检索机制，模型能够在生成答案之前访问外部知识源，例如数据库、搜索引擎或存储的文档。这一阶段使用的通常是基于向量的检索模型，例如基于双向编码器表示（BERT）或基于密集表示的模型。 - 生成（Generation）：在检索到相关信息后，生成模型（如基于Transformer的生成模型，如GPT）基于这些检索结果生成回答。生成模型会整合这些外部信息并生成更准确、更符合上下文的答案。
RAG 的优势：
- 处理知识丰富的任务：由于检索组件可以动态获取外部知识，RAG 在处理需要实时、准确信息的任务时表现出色。
- 增强语言生成的准确性：相比单纯依赖训练数据的生成模型，RAG 可以实时访问更新的知识库，因此可以提供更加准确和最新的信息。
- 可解释性：由于 RAG 检索了具体的文档和段落，生成的答案可以追溯到这些外部来源，从而增加了解释性和可信度。
RAG 工作机制
主要就是上传文档，然后输入想要的信息后，搜索出来
RAG 技术最近进展
—模型优化
—应用拓展
RAG 挑战和展望
挑战
- 检索准确性与相关性： RAG
模型依赖于检索机制从大规模文档中提取相关内容。但检索模型并不总能找到与问题高度相关的文档，可能导致生成的答案偏离目标。如果检索出的内容不相关，生成结果的准确性也会受到影响。提高检索模型的相关性和过滤低质量的文档是一个重要的挑战。 - 上下文与一致性： 在长文本的生成中，RAG
面临的一个主要问题是如何保持上下文的连贯性。检索出的文档可能来自不同来源，内容可能不一致，甚至相互矛盾，导致生成的回答缺乏一致性。如何在多文档环境下生成一致且可信的回答是一大难题。 - 性能与延迟： RAG 需要先执行检索，再基于检索结果生成回答。这意味着相比于单纯的生成模型，RAG
的响应时间可能更长。此外，大规模的知识库检索可能带来性能瓶颈，需要有效的检索优化策略。 - 训练复杂性： 由于 RAG
同时涉及检索和生成两个任务，训练过程更加复杂。特别是对于需要与特定领域知识库结合的应用场景，模型的优化和调优需要大量的计算资源和时间。 - 知识库更新与维护： RAG
的性能高度依赖于外部知识库的质量和新鲜度。如果知识库中的信息过时或不准确，模型的生成结果也可能有偏差。如何设计动态更新的知识库，并保证信息的准确性，是需要长期考虑的问题。
展望
- 更好的检索机制：
未来，研究人员可以进一步探索使用更高级的检索机制，例如多模态检索（将图像、文本等多种数据结合）或基于更多上下文理解的检索模型，以提高检索结果的相关性和准确性。 - 高效的知识融合： RAG
的生成模型可以继续优化，以便更好地整合和利用多个检索文档。改进的融合策略（如加权、内容过滤）有助于提高生成内容的一致性和质量。 - 实时知识更新： 动态更新知识库并将其与生成模型集成，将使 RAG
在处理需要实时信息的任务中表现更好。这一挑战涉及如何平衡检索速度和知识的实时性，特别是在信息变化快的领域，如新闻或金融数据。 - 基于用户反馈的迭代优化： 通过收集和利用用户反馈，RAG
模型可以不断迭代改进。用户在使用模型时对生成结果的评价，可以帮助模型更好地调整检索和生成策略。 - 多模态与跨领域应用： 随着多模态（结合图像、视频、音频等）和跨领域大模型的发展，RAG
可以扩展到不仅限于文本的数据源，帮助解决更复杂和多样化的任务场景。
最后我们组获奖，我上台领奖的照片
