摘要

检索增强生成（RAG）系统通过整合外部知识源来增强大语言模型（LLM）的能力，使其能够生成更精准、更贴合用户需求且上下文相关度更高的回复。然而，现有的 RAG 系统存在显著缺陷，包括依赖扁平数据表示形式、上下文感知能力不足，这会导致生成的回答碎片化，无法捕捉实体间复杂的相互依赖关系。

为解决这些问题，我们提出了LightRAG，该方法将图结构融入文本索引与检索流程。这一创新框架采用双层级检索系统，既能从底层知识中精准检索信息，也能从高层知识中全面挖掘内容，提升信息检索的完整性。此外，图结构与向量表示的结合，让相关实体及其关系的检索更高效，在保证上下文相关性的同时大幅缩短响应时间。

系统还通过增量更新算法进一步强化了这一能力，可及时融入新数据，使系统在数据快速更迭的环境中依旧保持高效与灵敏。大量实验验证表明，相较于现有方法，LightRAG 在检索准确率与效率上均实现了大幅提升。我们已将 LightRAG 开源，项目地址：https://github.com/HKUDS/LightRAG。

1 引言

检索增强生成（RAG）系统被研发出来，旨在通过整合外部知识源来增强大语言模型（LLM）的能力（Sudhi 等人，2024；Es 等人，2024；Salemi & Zamani，2024）。这一创新性的融合方式让大语言模型能够生成更准确、上下文关联性更强的回复，显著提升了其在实际应用中的价值。

通过适配特定领域知识（Tu 等人，2024），RAG 系统确保所提供的信息不仅切题，还能贴合用户的实际需求。此外，这类系统可获取最新信息（Zhao 等人，2024），这在快速发展的领域中至关重要。

文本分块在检索增强生成流程中发挥着关键作用（Lyu 等人，2024）。将大规模外部文本语料拆分为更小、更易处理的片段，能大幅提升信息检索的准确率。这种方法支持更精准的相似度检索，确保检索到的内容与用户查询直接相关。

然而，现有的 RAG 系统存在关键缺陷，制约了其性能表现。第一，许多方法依赖扁平式数据表示，这限制了它们基于实体间复杂关联去理解和检索信息的能力。第二，这类系统普遍缺乏足够的上下文感知能力，难以在各类实体及其关联关系间保持逻辑连贯性，导致生成的回复无法充分满足用户查询需求。

举个例子：当用户提问 **“电动汽车的普及如何影响城市空气质量与公共交通基础设施？”时，传统 RAG 方法可能会分别检索到关于电动汽车、空气污染、公共交通难题的独立文档，却难以将这些信息整合成连贯的回答。它们往往无法阐明：电动汽车的推广为何能改善空气质量，而空气质量的提升又会如何进一步影响公共交通规划。最终，用户得到的只是碎片化答案 ，无法完整覆盖这些主题之间复杂的相互依赖关系。

为解决这些局限，我们提出将图结构融入文本索引与相关信息检索流程。图结构尤其擅长表示不同实体之间的相互依赖关系（Rampášek 等人，2022），能够实现对关联关系更细致入微的理解。基于图的知识结构的融入，有助于将来自多个来源的信息整合为连贯、上下文丰富的回答。

尽管具备这些优势，开发快速、可扩展、能高效处理不同查询量的图增强 RAG 系统依然至关重要。在本研究中，我们通过攻克三大核心挑战，实现了高效且实用的 RAG 系统：

1. 全面信息检索：确保检索覆盖所有文档中相互依赖实体的完整上下文；
2. 检索效率提升：在基于图的知识结构上优化检索效率，显著缩短响应时间；
3. 新数据快速适配：支持对新增数据的快速适配，确保系统在动态环境中保持时效性

针对上述挑战，我们提出LightRAG模型 —— 它将基于图的文本索引范式与双层级检索框架无缝融合。这一创新方法增强了系统捕捉实体间复杂依赖关系的能力，从而生成更连贯、上下文更丰富的回复。

LightRAG 采用高效的双层级检索策略：

• 低层级检索：聚焦特定实体及其关系的精准信息；
• 高层级检索：覆盖更宽泛的主题与核心概念。

通过结合细节化检索与概念化检索，LightRAG 能有效适配多样化的查询，确保用户获得贴合自身需求、相关且全面的回复。此外，本框架将图结构与向量表示相结合，既能高效检索相关实体与关系，又能借助构建的知识图谱中的结构化信息，提升结果的完整度。

总而言之，本研究的核心贡献总结如下：

总体层面：我们强调研发图增强型 RAG 系统对于克服现有方法缺陷的重要意义。通过将图结构融入文本索引，我们能够有效表示实体间复杂的相互依赖关系，实现对关联关系的精细化理解，并生成连贯、上下

方法层面：为实现高效且自适应的 RAG 系统，我们提出 LightRAG 方法，它将双层级检索范式与图增强文本索引相结合。该方案可同时捕获底层细节信息与高层全局信息，实现全面且低成本的检索。LightRAG 无需重建整个索引，从而降低计算开销、加快适配速度；同时其增量更新算法可保证新数据及时融入，让系统在动态环境中持续保持高效可用。文信息丰富的回复。

实验结果：我们开展了大量实验，以评估 LightRAG 相较于现有 RAG 模型的效果。这些评估围绕多个关键维度展开，包括检索准确率、模型消融实验、响应效率以及对新信息的适应性。实验结果表明，LightRAG 相比基线方法取得了显著的性能提升。

2 检索增强生成

检索增强生成（RAG）将用户查询与从外部知识库中获取的相关文档集合相结合，包含两个核心组件：检索组件与生成组件。1）检索组件负责从外部知识库中调取相关文档或信息，它根据输入查询识别并检索最相关的数据。2）检索完成后，生成组件基于检索到的信息，生成逻辑连贯、上下文相关的回复，依托大语言模型的能力产出有意义的输出结果。

形式化定义中，该 RAG 框架记为M，可表示为：M=(G,R=(φ,ψ)),M(q;D)=G(q,ψ(q;D^)),D^=φ(D)

在该框架中，G 代表生成模块，R 代表检索模块；q 表示输入查询，D 指外部知识库。

检索模块 R 包含两项核心功能：

1. 数据索引器 φ(・)：基于外部知识库 D 构建特定的数据结构 D̂。
2. 数据检索器 ψ(・)：将查询与索引后的数据进行匹配，得到相关文档（也称为 “相关上下文”）。

生成模型 G(·) 结合原始查询 q 与通过 ψ(·) 检索到的信息，高效生成高质量、上下文相关的回复。

Figure 1: Overall architecture of the proposed LightRAG framework.

在本研究中，我们聚焦于构建高效且实用的检索增强生成（RAG）系统所必需的几个关键点，具体阐述如下：

全面信息检索：索引函数 φ(・) 必须擅长提取全局信息，因为这对提升模型有效回答查询的能力至关重要。

高效低成本检索：索引后的数据结构D^必须能够支持快速、低成本的检索，从而有效处理高并发、大批量的查询。

数据变化快速适配：能够快速高效地调整数据结构，以融入外部知识库中的新信息，这对于确保系统在不断变化的信息环境中保持时效性与相关性至关重要。

3 LightRAG 架构

3.1 基于图结构的文本索引

我们的 LightRAG 通过将文档切分为更小、更易管理的片段来优化检索系统。这一策略无需分析完整文档，即可快速识别并获取相关信息。随后，我们利用大语言模型（LLMs）识别并提取各类实体（如姓名、日期、地点和事件）及其间的关系。通过该过程收集的信息将用于构建全面的知识图谱，揭示所有文档间的关联与深层洞见。

我们将该图谱生成模块形式化定义如下：D^=(V,E^)=Dedupe∘Prof(V,E),V,E=∪Di​∈D​Recog(Di​)其中，D^ 代表生成的知识图谱。

为生成该数据，我们对原始文本文档 Di​ 应用三个核心处理步骤。这些步骤均依托大语言模型（LLM）进行文本分析与处理。相关提示词模板细节及具体设置可参见附录 7.3.2。我们基于图的文本索引范式中所使用的函数描述如下：

实体与关系提取。R (・)：该函数通过提示大语言模型，从文本数据中识别出实体（节点）及其之间的关系（边）。例如，从 “心脏病科医师评估症状以识别潜在的心脏问题” 这句话中，它可以提取出 “心脏病科医师” 和 “心脏病” 这两个实体，以及 “心脏病科医师诊断心脏病” 这一关系。为提升效率，原始文本 D 会被切分为多个文本块 Dᵢ。

用于生成键值对的大语言模型概要化处理。P (・)：我们采用由大语言模型驱动的概要化函数 P(·)，为每个实体节点 v 与关系边 ε 生成文本键值对 (K, V)。每个索引键（Key）是一个单词或短语，用于实现高效检索；对应的数值（Value）是一段文本，用于总结外部数据中的相关片段，以辅助文本生成。实体直接以自身名称作为唯一索引键，而关系则可通过大语言模型增强处理，生成多个索引键，这些键会包含关联实体的全局主题信息。

去重以优化图操作。D (・)：最后，我们实现了去重函数 D(⋅)，用于识别并合并原始文本不同片段 Di​ 中重复的实体与关系。该过程通过缩减图的规模，有效降低了对 D^ 进行图操作时的计算开销，从而提升数据处理效率。

我们的 LightRAG 通过其基于图的文本索引范式具备两大优势：第一，全面的信息理解能力。所构建的图结构能够从多跳子图中提取全局信息，显著提升 LightRAG 处理跨多个文本块的复杂查询的能力。第二，更优的检索性能。从图结构中得到的键值数据结构经过优化，可实现快速且精准的检索。这相比现有方法中常用的、准确率较低的嵌入匹配方法（Gao et al., 2023）以及效率低下的文本块遍历技术（Edge et al., 2024）提供了更出色的替代方案。

对增量知识库的快速适配：为高效适应不断变化的数据更新，同时保证回复准确且相关，我们的 LightRAG 能够对知识库进行增量更新，无需对整个外部知识库进行完整的重新处理。对于新文档 D′，增量更新算法采用与前文相同的基于图的索引步骤 4对其进行处理，得到 D^′=(V^′,E^′)。随后，LightRAG 通过取节点集 V^ 与 V^′ 的并集、以及边集 ε^ 与 E^′ 的并集，将新的图数据与原图数据进行融合。

我们的增量知识库快速适配方法主要围绕两大核心目标展开：新数据无缝融合。通过对新增信息采用统一处理流程，增量更新模块使 LightRAG 能够在不破坏原有图结构的前提下接入新的外部知识库。该方法保留了已有关联的完整性，确保历史数据依然可被访问，同时在无冲突、无冗余的情况下对知识图谱进行扩充。降低计算开销。该方法无需重建整个索引图谱，从而减少了计算开销，并能快速吸收新数据。因此，LightRAG 在保持系统精度、提供最新信息的同时节约了资源，保证用户获得及时的内容更新，并整体提升了 RAG 系统效能。

3.2 双层检索范式

为了从具体文档块及其复杂的相互依赖关系中检索相关信息，我们的 LightRAG 提出在细粒度和抽象层级同时生成查询关键词。

特定查询这类查询面向细节，通常会引用知识图谱中的特定实体，需要精准检索与特定节点或边相关联的信息。例如，一个典型的特定查询可以是：“《傲慢与偏见》的作者是谁？”

抽象查询与之相对，抽象查询更偏向概念层面，涵盖更宽泛的主题、概述或总体主旨，并不直接指向特定实体。例如，一个典型的抽象查询是：“人工智能如何影响现代教育？”

为适配多样化的查询类型，LightRAG 在双层级检索范式中采用了两种不同的检索策略。这确保系统能够有效处理特定查询与抽象查询，根据用户需求提供贴合的相关回复。

底层检索该层级主要聚焦于检索特定实体及其相关属性或关联关系。这一层级的查询以细节为导向，旨在提取知识图谱中特定节点或边的精准信息。

高层级检索该层级用于处理更宽泛的话题与总体主题。这一层级的查询会对多个相关实体及其关系的信息进行聚合，提炼出更高层级的概念与概括性结论，而非具体细节信息。

融合图结构与向量以实现高效检索通过将图结构与向量表示相结合，模型能够更深入地理解实体间的相互关联。这种协同机制使检索算法可以有效利用局部与全局关键词，简化检索流程，并提升结果的相关性

(i) 查询关键词提取对于给定查询 q，LightRAG 的检索算法首先执行通过同时提取局部查询关键词 k(l) 和全局查询关键词 k(g)

(ii) 关键词匹配该算法采用高效的向量数据库，将局部查询关键词与候选实体进行匹配，同时将全局查询关键词与关联到全局键的关系进行匹配。

(iii) 融入高阶关联关系为借助高阶关联关系增强查询效果，LightRAG 进一步在检索所得图元素的局部子图内收集相邻节点。该过程涉及集合 {vi​∣vi​∈V∧(vi​∈Nv​∨vi​∈Ne​)}，其中 Nv​ 和 Ne​ 分别表示检索得到的节点 v 与边 e 的一阶相邻节点

这种双层级检索范式，不仅能通过关键词匹配高效检索相关实体与关系，还能融合所构建知识图谱中的关联结构信息，提升检索结果的全面性。

3.3 检索增强式答案生成

检索信息的利用利用检索得到的信息 ψ(q;D^)，我们的 LightRAG 采用通用大语言模型，基于收集到的数据生成答案。该数据由概要化函数 P(⋅) 生成，包含来自相关实体和关系的拼接值 V，其中涵盖实体与关系的名称、描述以及原文片段。

上下文融合与答案生成通过将查询与多源文本进行统一整合，大语言模型会生成贴合用户需求、内容详实的答案，确保与查询意图保持一致。该方法将上下文信息与查询一同输入大语言模型，简化了答案生成流程，具体示例详见附录 7.2。

3.4 LightRAG 框架的复杂度分析

在本节中，我们对所提出的 LightRAG 框架进行复杂度分析，整体可分为两个主要部分。

第一部分是基于图的索引构建阶段。在该阶段，我们使用大语言模型（LLM）从每个文本块中抽取实体与关系。因此，LLM 需要被调用的次数与 文本块数量（chunk size）一致。值得注意的是，该过程不产生额外开销，使得本方法在处理新增文本更新时具备极高的效率。

流程的第二部分为基于图的检索阶段。针对每条查询，我们先利用大语言模型（LLM）生成相关关键词。与现有检索增强生成（RAG）系统（Gao 等人，2023；2022；Chan 等人，2024）类似，本模型的检索机制同样基于向量搜索。但不同于传统 RAG 直接检索文本块的方式，我们聚焦于检索实体与关系。相较于 GraphRAG 中采用的基于社区的遍历方法，该方案显著降低了检索开销。

4 实验评估

我们在基准数据集上开展了实证评估，旨在通过探究以下研究问题，验证所提出的 LightRAG 框架的有效性：

-（研究问题 1）在生成性能方面，LightRAG 与现有的 RAG 基线方法相比表现如何？

-（研究问题 2）双层级检索与基于图的索引构建如何提升 LightRAG 的生成质量？

-（研究问题 3）通过多场景下的案例分析，LightRAG 体现出哪些具体优势？

-（研究问题 4）LightRAG 带来的相关开销及其对数据变化的适配性如何？

4.1 实验设置

为全面分析 LightRAG，我们从 UltraDomain 基准数据集（Qian 等人，2024）中选取了四个数据集。UltraDomain 数据集源自 428 本大学教材，涵盖农业、社会科学、人文科学等 18 个不同领域。我们从中选取了农业、计算机科学（CS）、法律以及混合（Mix）这四类数据集。每个数据集的词元数量在 60 万至 500 万之间，详细信息见表 4。下文将对本实验所用的四个领域数据集进行具体介绍：

农业领域：该领域聚焦农业生产实践，涵盖养蜂、蜂群管理、作物种植与病虫害防治等多个主题。

计算机科学（CS）：该领域以计算机科学为核心，涵盖数据科学与软件工程等关键方向，重点突出机器学习与大数据处理相关内容，包括推荐系统、分类算法以及基于 Spark 的实时分析等

法律领域：该领域以公司法律实务为核心，涉及公司重组、法律协议、监管合规与公司治理等内容，重点面向法律与金融行业。

混合领域：该领域包含丰富多样的文学、传记与哲学文本，涵盖文化研究、历史研究、哲学研究等众多学科。

问题生成

为评估检索增强生成（RAG）系统在高阶语义理解任务上的效果，我们将每个数据集中的全部文本内容整合为上下文，并采用 Edge 等人（2024）提出的生成方法。具体而言，我们指示大语言模型生成五名 RAG 使用者，并为每位使用者设计五项任务。每名生成的使用者均附带一段文字描述，详细说明其专业背景与性格特征，这些特征是其提出问题的动机。每项使用者任务也配有相应说明，重点体现该使用者与 RAG 系统交互时的潜在意图。针对每一组 “使用者–任务” 组合，由大语言模型生成五道需要理解全文语料才能作答的问题。通过该流程，每个数据集最终共计生成 125 道问题。

基线方法在所有数据集上，将 LightRAG 与以下前沿方法进行对比：

朴素 RAG（Gao 等人，2023）：该模型是现有 RAG 系统中的标准基线方法。它将原始文本切分为文本块，并通过文本嵌入将其存储在向量数据库中。针对查询输入，朴素 RAG 生成向量化表示，依据表示相似度最高的原则直接检索文本块，实现高效且简洁的匹配。

RQ-RAG（Chan 等人，2024）：该方法利用大语言模型将输入查询分解为多个子查询。通过查询改写、分解与消歧等显式手段，这些子查询被用于提升检索精度。

HyDE（Gao 等人，2022）：该方法利用大语言模型，根据输入查询生成一篇假设性文档。随后使用这篇生成的文档检索相关文本块，并基于检索结果构建最终答案。

GraphRAG（Edge 等人，2024）：这是一种图增强型 RAG 系统，它利用大语言模型从文本中抽取实体与关系，并将其分别表示为节点和边。该系统会为这些元素生成对应的描述，将节点聚合为社区，并生成社区报告以捕获全局信息。在处理高阶查询时，GraphRAG 通过遍历这些社区来获取更全面的信息。

实现与评估细节

在本实验中，我们使用 nano 向量数据库进行向量数据的管理与存取。对于 LightRAG 中所有基于大语言模型的操作，默认采用 GPT-4o-mini。为保证实验一致性，所有数据集的文本块大小均设为 1200。此外，GraphRAG 与 LightRAG 的 gleaning 参数均固定为 1。

为许多 RAG 查询定义标准答案（ground truth）颇具挑战，尤其是涉及复杂高阶语义的查询。为解决这一问题，我们在已有研究（Edge 等人，2024）的基础上，采用基于大语言模型的多维对比方法。我们使用性能可靠的大语言模型 GPT-4o-mini，将各基线方法与本文提出的 LightRAG 进行排序对比。实验所用的评估提示词详见附录 7.3.4。本次评估共设置四个维度，包括：

i）全面性：回答在覆盖问题的各个方面与细节时是否完整详尽？ii）多样性：回答在提供与问题相关的不同视角和见解时是否丰富多元？iii）启发性：回答能否有效帮助读者理解主题并做出有依据的判断？iv）综合表现：该维度综合评估前三项指标的整体表现，以判定最优回答。

大语言模型会在每个维度上直接对两组回答进行对比，并为每项评估标准选出更优的回复。在完成全面性、多样性、启发性这三个维度的优劣判定后，模型会结合各项结果，确定综合表现更佳的回答。为保证评估公平，并缓解因回答在提示词中呈现顺序不同而可能产生的潜在偏差，我们会交替调整两组回答的位置。我们据此计算胜率，最终得到实验结果。

4.2 LightRAG 与现有 RAG 方法的对比（研究问题 1）

我们在不同评估维度和数据集上，将 LightRAG 与各基线方法逐一对比。实验结果如表 1 所示。基于上述结果，我们得出以下结论：

表 1：各基线方法与 LightRAG 在四个数据集及四个评估维度上的胜率对比（%）。

图增强 RAG 系统在大规模语料库中的优越性

在处理高 token 数量以及需要深入理解数据集上下文的复杂查询时，LightRAG、GraphRAG 这类基于图结构的 RAG 系统，其表现持续优于 NaiveRAG、HyDE、RQ-RAG 等纯文本块检索方法。随着数据集规模增大，二者的性能差距会尤为显著。例如在规模最大的法律数据集中，这一差距大幅扩大：基线方法的胜率仅约 20%，而 LightRAG 占据绝对优势。这一趋势凸显了图增强 RAG 系统在挖掘大规模语料库内复杂语义依赖关系上的优势，有助于更全面地理解知识，并提升泛化性能。

LightRAG 提升回答多样性：与各类基线方法相比，LightRAG 在多样性指标上展现出显著优势，这一点在规模更大的法律数据集中尤为突出。其在该维度上的持续领先，充分体现了 LightRAG 在生成更丰富多样的回答方面的有效性，尤其是在对内容多样性要求较高的场景中。我们将这一优势归因于 LightRAG 的双层检索范式，该范式能够从底层和高层两个维度实现全面的信息检索。该方法有效利用基于图结构的文本索引，在响应查询时能够完整地捕获全局上下文信息。

LightRAG 优于 GraphRAG：尽管 LightRAG 与 GraphRAG 均采用基于图的检索机制，但 LightRAG 的效果始终更优，在规模更大、语言上下文更复杂的数据集中尤为明显。在包含数百万词元的农业、计算机科学和法律数据集中，LightRAG 优势显著，大幅超越 GraphRAG，体现出其在多样场景下对信息进行全面理解的强大能力。

回答多样性提升：LightRAG 融合了针对具体实体的底层检索与面向宽泛主题的高层检索，有效提升了回答的多样性。这种双层机制能够同时应对细节类与抽象类查询，保证对信息的完整把握。

复杂查询处理：该方法在需要多视角分析的场景中价值尤为突出。通过同时获取具体细节与整体主题信息，LightRAG 能够灵活处理涉及关联主题的复杂查询，给出贴合上下文的回答。

4.3 消融实验（研究问题 2）

我们还开展了消融实验，以评估 LightRAG 中双层检索范式的作用效果，以及基于图的文本索引机制的有效性。实验结果如表 2 所示。

双层检索范式的有效性我们首先分析底层检索与高层检索范式的作用效果。在四个数据集上，将分别移除其中一个模块的两种消融模型与完整 LightRAG 进行对比。以下是针对不同变体的关键实验结论：

表 2：以朴素 RAG（NaiveRAG）为参照基准的 LightRAG 各消融版本性能表现

仅底层检索：移除高层检索模块的消融模型（-High）在几乎所有数据集和评估指标上均出现性能大幅下降。性能下滑主要原因在于该模型仅聚焦具体信息，过度关注实体及其紧邻关联节点。尽管这种方式能对直接相关的实体进行更深入挖掘，但在处理需要全局综合理解的复杂查询时，难以有效整合信息。

仅高层检索：移除底层检索模块的消融模型（-Low）更侧重于通过实体间关联来捕获更广泛的内容，而非聚焦具体实体本身。该方法在全面性上具备显著优势，能够获取更丰富、更多样的信息。但代价是对特定实体的探究深度不足，限制了其提供高细节度见解的能力。因此，这种仅依赖高层检索的方式在需要精准、详细答案的任务中表现欠佳。

混合模式：混合模式即完整版本的 LightRAG，它融合了底层检索与高层检索两种方法的优势。在检索更广泛关联信息的同时，也能对特定实体进行深入挖掘。这种双层检索方式兼顾了检索的广度与分析的深度，能够全面呈现数据信息。因此，LightRAG 在多个评估维度上均实现了均衡且出色的性能表现。

4.4 案例分析（研究问题 3）

为清晰对比基线方法与本文提出的 LightRAG，我们在表 3 中展示了具体案例。案例包含了主流基线模型 GraphRAG 与 LightRAG 框架对一道机器学习问题的回答。在本例中，经大语言模型评估，LightRAG 在全面性、多样性、启发性与综合质量所有维度上均表现更优。主要观察结果如下：

i）全面性。值得注意的是，LightRAG 覆盖了更广泛的机器学习评价指标，体现出其全面性与高效挖掘相关信息的能力。这凸显了本文基于图的索引范式的优势，该范式在精准抽取实体与关系、以及大语言模型特征分析方面表现出色。

ii）多样性与启发性。此外，LightRAG 不仅提供了更多样化的信息，还给出了更具启发性的内容。这得益于 LightRAG 的分层检索范式，它结合了深度化的信息挖掘与全局化的内容整合。

表 3：案例分析：LightRAG 与基线方法 GraphRAG 的对比

通过底层检索对相关实体进行深度挖掘，以提升回答的启发性；同时借助高层检索开展更广泛的探索，以丰富回答的多样性。两种方式相结合，能够完整把握知识领域的全局视角，进而实现更优的 RAG 性能。

4.5 模型开销与适应性分析（研究问题 4）

我们从两个关键维度对比了 LightRAG 与性能最优的基线模型 GraphRAG 的开销。首先，考察在索引与检索过程中的词元（token）数量和 API 调用次数。其次，分析这些指标在动态环境下处理数据变更时的表现。在法律数据集上的评估结果如表 2 所示。其中，Textract​ 表示实体与关系抽取的词元开销，Cmax​ 表示单次 API 调用允许的最大词元数，Cextract​ 表示抽取所需的 API 调用次数。

在检索阶段，GraphRAG 共生成 1399 个社区，本实验中实际用于检索的二级社区有 610 个。每个社区报告平均 1000 个 token，总 token 消耗达 610000（610 个社区 × 每个社区 1000token）。此外，GraphRAG 需要逐个遍历每个社区，导致数百次 API 调用，显著增加了检索开销。

相比之下，LightRAG 对这一流程进行了优化，关键词生成与检索仅使用不到 100 个 token，且全过程仅需一次 API 调用。这一效率得益于其检索机制：将图结构与向量化表示无缝结合用于信息检索，无需预先处理海量信息。

在增量数据更新阶段（旨在应对现实动态场景中的数据变化），两个模型在实体与关系抽取上的开销相近。然而，GraphRAG 在处理新增数据时效率明显偏低。当引入与法律数据集规模相同的新数据时，GraphRAG 必须先拆解原有社区结构以融入新实体和新关系，再进行完全重构。该过程会产生巨大的 token 成本，每份社区报告约需 5000 个 token。在共有 1399 个社区的情况下，GraphRAG 需要消耗约 1399 × 2 × 5000 个 token 来重新生成原始与新增的社区报告，成本极高，也反映出其低效性。与之相反，LightRAG 可将新抽取的实体与关系无缝整合到现有图结构中，无需完整重构。这使得其在增量更新时的开销大幅降低，展现出更优的效率与成本效益。

5 相关工作

5.1 基于大语言模型的检索增强生成

检索增强生成（RAG）系统通过从外部数据源检索相关信息来增强大语言模型的输入，使回答建立在真实、领域专属的知识之上（Ram 等，2023；Fan 等，2024）。当前的 RAG 方法（Gao 等，2022、2023；Chan 等，2024；Yu 等，2024）通常将查询编码到向量空间中，以查找最邻近的上下文向量。然而，这类方法大多依赖碎片化的文本分块，且仅检索 top-k 上下文，难以获取有效回答所需的完整全局信息。

尽管近期研究（Edge 等，2024）已探索使用图结构进行知识表示，但仍存在两个关键局限。首先，这类方法通常不具备知识图谱动态更新与扩展的能力，难以高效融入新增信息。相比之下，本文提出的 LightRAG 模型能够应对这些难题，使 RAG 系统快速适配新信息，保证模型的时效性与准确性。此外，现有方法往往需要对每个生成的社区进行暴力搜索，在大规模查询场景下效率低下。本文的 LightRAG 框架通过所提出的双层检索范式实现从图结构中快速检索相关信息，有效突破了这一局限，显著提升了检索效率与响应速度。

5.2 面向图结构的大语言模型

图结构是表示复杂关系的有效框架，在众多领域中得到应用。随着大语言模型（LLMs）的不断发展，研究者们愈发注重提升其理解图结构数据的能力。这类工作主要可分为三大方向：

i) 图神经网络作为前置模块：将图神经网络（GNNs）用作图数据的初始处理层，生成能够被大语言模型在推理阶段使用的结构感知词元。代表性工作包括 GraphGPT（Tang 等，2024）和 LLaGA（Chen 等，2024）。

ii) 大语言模型作为前置模块：由大语言模型对富含文本信息的图数据进行处理，生成节点嵌入或标签，最终优化图神经网络的训练过程，典型系统如 GALM（Xie 等，2023）和 OFA（Liu 等，2024）。

iii) 大语言模型与图结构融合：致力于实现大语言模型与图数据的无缝交互，采用融合训练、图神经网络对齐等技术，并研发能够直接处理图信息的基于大语言模型的智能体（Li 等，2023；Brannon 等，2023）

6 结论

本文提出了一种检索增强生成（RAG）领域的改进方法，通过融合基于图的索引机制，提升了信息检索的效率与理解能力。LightRAG 借助完整的知识图谱实现快速、精准的相关文档检索，能够更深入地理解复杂查询。其双层检索范式可同时抽取具体信息与抽象信息，满足多样化的用户需求。此外，LightRAG 支持无缝增量更新，保证系统实时同步新信息，使其在长期使用中保持高效性能。总体而言，LightRAG 在效率与效果上均表现优异，在降低大语言模型推理开销的同时，显著提升了信息检索与内容生成的速度和质量。