Llama_Index核心组件介绍

一、什么是LlamaIndex

1. 简介

LlamaIndex 是一个用于 LLM 应用程序的数据框架，用于注入，结构化，并访问私有或特定领域数据。就是将大模型部署到本地或是公司服务器上，然后将自有数据结合大模型为个人或是企业服务。

2. 作用

在本质上，LLM(如 GPT，DeepSeek等)为人类和推断出的数据提供了基于自然语言的交互接口。广泛可用的大模型通常在大量公开可用的数据上进行的预训练，包括来自维基百科、邮件列表、书籍和源代码等。构建在LLM模型之上的应用程序通常需要使用私有或特定领域数据来增强这些模型。不幸的是，这些数据可能分布在不同的应用程序和数据存储中。它们可能存在于API之后、SOL数据库中，或者存在在PDF文件以及幻灯片中。Llamalndex应运而生。总体来说就是将特定领域数据和大模型相结合。

二、LlamaIndex核心组件

LlamaIndex 提供的五大核心工具如下：

1. 数据连接器（Data Connectors）

数据连接器用于从各种数据源中摄取数据，并将其转换为统一的文档表示形式。支持的数据源包括本地文件、PDF、API、SQL 数据库、Notion、Google 文档等。

2. 数据索引（Data Indexes）

数据索引将数据组织成可查询的索引形式，支持多种索引类型：
向量索引（Vector Store Index）：基于向量相似度检索数据。
列表索引（List Index）：按顺序存储节点，支持关键字过滤。
树形索引（Tree Index）：构建层次化结构，支持从根节点到叶节点的查询。
关键字表索引（Keyword Table Index）：通过关键字映射快速检索节点。

3. 引擎（Engines）

提供对数据的自然语言访问，主要包括：查询引擎（Query Engines）：用于问答，例如 RAG 流程中结合上下文和 LLM 生成答案。聊天引擎（Chat Engines）：用于与数据进行多轮对话交互。

4. 数据代理（Data Agents）

数据代理是由大语言模型（LLM）驱动的知识工作者，通过工具增强，能够执行各种任务，如研究、数据提取等。代理可以使用 RAG 管道等多种工具来完成任务。

5. 应用集成（Application Integrations）

LlamaIndex 提供了丰富的应用集成选项，包括：
向量数据库集成：如 Pinecone、Chroma、Weaviate、Milvus 等。应用框架集成：如 Streamlit、Chainlit。
其他集成：如与 OpenAI API、Hugging Face Transformers、Azure OpenAI 等模型服务的对接.

三、LlamaIndex核心概念

L1amaIndex 帮助构建 LLM 驱动的，基于个人或私域数据的应用。RAG(Retrieval AugmentedGeneration)是 LlamaIndex 应用的核心概念,

1. RAG

RAG，也称为检索增强生成，是利用个人或私域数据增强 LLM 的一种范式。通常，它包含两个阶段:

1，索引

构建知识库

2，查询

从知识库检索相关上下文信息,以辅助LLM回答问题.
LlamaIndex提供了工具包帮助开发者及其便捷地完成这两个阶段工作。

2. 索引阶段

LlamaIndex 通过提供 Data connectors(数据连接器)和 Indexes (索引)帮助开发者构建知识库该阶段会用到如下工具或组件:

1，Data connectors

数据连接器。它负责将来自不同数据源,不同格式的数据注入，并转换为 lamaIndex 支持的文档(Document)表现形式，其中包含了文本和元数据。

2，Documents /Nodes

Document是 LlamaIndex 中容器的概念，它可以包含任何数据源，包括，PDF文档，API响应,或来自数据库的数据。Node是 LlamaIndex 中数据的最小单元，代表了一个 Document的分块。它还包含了元数据，以及与其他Node的关系信息。这使得更精确的检索操作成为可能。

3，Data Indexes

LlamaIndex 提供便利的工具，帮助开发者为注入的数据建立索引，使得未来的检索简单而高效,最常用的索引是向量存储索引-vectorstoreIndex。
中的来说，就是连接用户的数据，然后存起来，切成小段，再给它们建立索引，方便后面查找相关信息。

3. 查询阶段

在查询阶段， RAG 管道根据的用户査询，检索最相关的上下文，并将其与査询一起，传递给 LLM，以合成响应。这使 LLM 能够获得不在其原始训练数据中的最新知识，同时也减少了虚构内容。该阶段的关键挑战在于检索、编排和基于知识库的推理。
LlamaIndex 提供可组合的模块，帮助开发者构建和集成 RAG 管道，用于问答、聊天机器人或作为代理的一部分。这些构建块可以根据排名偏好进行定制，并组合起来，以结构化的方式基于多个知识库进行推理。
该阶段的构建块包括:

1，Retrievers

检索器。它定义如何高效地从知识库，基于查询，检索相关上下文信息。

2，Node Postprocessors

Node后处理器。它对一系列文档节点(Node)实施转换，过滤，或排名。

3，Response Synthesizers

响应合成器。它基于用户的查询，和一组检索到的文本块(形成上下文)，，利用 LLM 生成响应。
RAG管道包括:

4，Query Engines

查询引擎-端到端的管道，允许用户基于知识库，以自然语言提问，并获得回答，以及相关的上下女

5，Chat Engines

聊天引擎-端到端的管道，允许用户基于知识库进行对话(多次交互，会话历史)。

6，Agents

代理，它是一种由 LLM 驱动的自动化决策器。代理可以像査询引擎或聊天引擎一样使用。主要区别在于，代理动态地决定最佳的动作序列，而不是遵循预定的逻辑。这为其提供了处理更复杂任务的额外灵活性。

四、个性化配置

LlamaIndex 对 RAG 过程提供了全面的配置支持，允许开发者对整个过程进行个性化设置。常见的配置场景包括:
自定义文档分块
自定义向量存储
自定义检索
指定 LLM
注，个性化配置主要通过 LlamaIndex 提供的 ServiceContext 类实现。
配置场景示例
接下来通过简明示例代码段展示 LlamaIndex 对各种配置场景的支持。

1. 自定义文档分块

这里先定义500一个块，根据自己数据量大小，数据量大的话就可以大点，数据量小就设置小点。

from llama_index import ServiceContext
service_context = ServiceContext.from_defaults(chunk_size=500)

2. 自定义向量存储

ChromaDB 是一个开源的嵌入式向量数据库，专为存储和查询高维向量数据而设计，特别适用于与大型语言模型（LLMs）和嵌入模型（Embeddings）相关的应用场景。其核心目标是帮助开发者高效地存储、检索和管理嵌入向量数据，从而支持自然语言处理、推荐系统、问答系统等任务。还有很多别的库，也可以存储向量数据，Milvus，LanceDB等。这也是区别于传统数据MySQL，Redis等。

import chromadb
from llama_index.vector_stores import chromaVectorstore
from 1lama_index import StorageContext
chroma_client =chromadb.PersistentClient()
chroma_collection= chroma_client.create_collection("quickstart")
vector store = ChromaVectorstore(chroma_collection=chroma_collection)
storage_context = StorageContext.from-defaults(vector_store=vector_store)

3. 自定义检索

自定义检索中，我们可以通过参数指定査询引擎(Query Engine)在检索时请求的相似文档数。
下面就是通过查询引擎,选出排名最高前的5条.

index=VectorstoreIndex.from_documents(documents)
query_engine = index.as_query_engine(similarity_top_k=5)

4. 指定LLM

基座大模型可以自己随便选,Qwen,DeepSeek也可以.

service_context = ServiceContext.from_defaults(llm=OpenAI())

五、总结

大模型开发，对于基座模型一般需要很高的算法基本功，以及很强的数学功底，比如DeepSeek基本都是名校博士。但是对于大模型的应用开发，要求就没有那么高，也是未来大部分开发人员从事的方向,主要涉及就是以下2个方向，一个就是微调，一个就是RAG。

1. 微调:

功能:能够让现有的开源大模型理解我们自己的(私有化)数据。
特点:需要做模型的二次训练(成本、风险)
应用场景:当需要去改变大模型自身特性时，就得用微调去调整的是大模型的风格，而不是它的能力(智商)。加强大模型对当前私有化数据的理解能力。
关于微调可以参考:
XTuner大模型微调

2.RAG

应用场景:事前不训练模型，但需要让模型直接根据我们的数据来进行作答。
功能:能够让现有的开源大模型理解我们自己的(私有化)数据。
特点:相比较于微调来讲，成本更低，风险更小
1.如果不涉及模型问答风格，仅需模型对当下的私有化数据做出回答，那么就用RAG;
2如果涉及到大模型回答风格，或者当前模型对私有数据理解不够准确，再用模型微调技术。

code:
环境配置

 conda create -n llamaindex python==3.12 -yconda activate llamaindex  conda init bashconda activate llamaindex  source ~/.bashrcconda activate llamaindex 

SimpleDirectoryReader就是读取本地文件，如果不指定格式，那就读取当前文件夹下所有格式，也可以指定读取的后缀，也可以是具体的文件名。

from llama_index.core import SimpleDirectoryReader#加载本地文档进行解析
# documents = SimpleDirectoryReader(input_dir = "/root/autodl-tmp/data",required_exts=[".txt"]).load_data()
#加载某个文档
documents = SimpleDirectoryReader(input_files=["/root/autodl-tmp/data/README_zh-CN.md"]).load_data()
print(documents)

下面就是对于一个md文档的读取

加载网页数据，需要再安装一个包
pip install llama-index llama-index-readers-web

#加载网页数据
from llama_index.readers.web import SimpleWebPageReaderdocuments = SimpleWebPageReader(html_to_text=True).load_data(["https://finance.eastmoney.com/a/202502033310108421.html"]
)print(documents)

可以看到一个财经新闻加载成功

常规文件都是可以直接读取的，但是如果确实非常特殊文件，需要装一个包，可以去llamanhub上下载，里面有非常多的特殊文件格式。可以看到右侧滚动条非常小，说明里面格式有很多。
https://llamahub.ai/

链接: 实战环节