跳至主要內容

将PDF知识图谱化：graphrag+Doc2X+DeepSeek

Menghuan19182024年6月26日大约 17 分钟SoftwareLLMLinuxSoftwareDocker

巨硬最近新出了个 graphrag ，号称其能提取有意义的结构化数据，不过遗憾的是默认情况下其只能读取txt或者csv数据。这次就让我们用我搓的外部库pdfdeal将PDF转换为带格式化的txt，再结合更便宜的deepseek进行构建。

安装并配置相应的库

为避免不必要的麻烦，请使用虚拟环境：

  • miniconda3,conda的最小化安装版本，当然你也可以直接使用Anaconda。
  • uv，一个非常快的包安装程序和解析器，使用Rust构建。
  • 或者我写的调用uv以及conda达成多版本Python虚拟uv环境的脚本uvv。
conda
conda create -n rag python=3.12
conda activate rag
pip install --upgrade pdfdeal graphrag

随后找一个你喜欢的文件夹，准备开始构建吧。

Step1:转换PDF

由于巨硬这玩意儿只吃txt或者csv，首先我们需要将其转换txt才行。

一般而言有几种选择，效果从最差到最好：

  • 直接提取纯文本部分转存(效果最差)
  • 提取纯文本部分+图片进行OCR，也就是我写的pdfdeal干的事情，不过这种方式遇到表格和公式就抓瞎
  • 新型的（识别公式&格式的）OCR工具，一些代表：
    • 闭源(mathpix，Doc2X，simpletex)
    • 开源(nougat，marker)

此处选择了效果最好的Doc2X作为转换的工具(甚至每天免费500页，做慈善是吧)。首先得获得个人的API密匙，进入网站后通过点击身份信息，复制你的身份令牌作为api即可。

建议使用我的邀请码4AREZ6(手动滑稽)

随后新建两个文件夹，用于存储处理前的PDF以及处理后的txt文件：

mkdir ./pdf
mkdir -p ./ragtest/input

随后把要处理的pdf丢到pdf文件夹中，此处我选择的是巨硬的graphrag论文本身以及随机选了一个我感觉很重要的参考文献。

使用pdfdeal的CLI工具doc2x进行批处理，其中记得加上长标示--graphrag以启用对graphrag的特殊适配：

doc2x -k "Your Key Here" -o ./ragtest/input -p --graphrag ./pdf
嗯，巨硬这玩意儿甚至不吃md文档
嗯，巨硬这玩意儿甚至不吃md文档

等待其处理完成，就将所有的PDF文件转换为带格式(指md语法)的txt文档了：

就像是这样
就像是这样

Step2:构建知识图谱(DeepSeek)

现在生成一下graphrag的配置文件，让我们对其进行修改一下使用DeepSeek：

python -m graphrag.index --init --root ./ragtest

提示

如果你只打算使用默认的OpenAI的LLM以及嵌入模型，你仅需要修改.env中的Key就好了。

剧透提醒：graphrag的token消耗即为恐怖，不建议使用默认的gpt-4进行构建

找到settings.yaml文件，这就是我们需要修改的文件了。

我们需要修改两个部分，第一个部分为llm，记得修改model_supports_json为false：

llm:
  api_key: Your DeepSeek Key
  type: openai_chat # or azure_openai_chat
  model: deepseek-chat
  model_supports_json: false # recommended if this is available for your model.
  max_tokens: 4000
  api_base: https://api.deepseek.com/v1

随后修改嵌入部分，此处我直接使用的是OpenAI的text-embedding-3-small。注意，由于llm中我们修改了api_base的值，嵌入中的api_base也需要相应修改，你可以改为任何兼容OpenAI格式的嵌入模型：

embeddings:
  ## parallelization: override the global parallelization settings for embeddings
  async_mode: threaded # or asyncio
  llm:
    api_key: ${GRAPHRAG_API_KEY}
    type: openai_embedding # or azure_openai_embedding
    model: text-embedding-3-small
    api_base: https://api.openai.com/v1

随后输入命令，就是漫长的构建过程了(这两篇PDF花了十几分钟)，去喝杯茶吧：

python -m graphrag.index --root ./ragtest

随后就可以对graphrag发起提问了：

global
python -m graphrag.query \
--root ./ragtest \
--method global \
"Q"

总结

由于效果部分实在是太长了，总结就放前面了

graphrag有效果吗？有，尤其是在有关联性的问题上效果非常明显，与Doc2X配合可以相当好的提取文档中的内容。

问题就出在：这是一个token杀手，不管是构建还是在回答阶段。

提示：这两个PDF文件的内容，如果直接放上下文中的话，加起来会消耗52525token。

以下是构建阶段消耗的token：

2024-07-14,deepseek-chat,graphrag,sk-b30da***********************283e,1334747,344702,1148

消耗了133万输入token，34万输出token。

虽然使用的Deepseek，仅花费了$0.28(¥2.02)，但是如果使用OpenAI的模型，即使是较为便宜的gpt-4o也需要$11.85(¥85.92)才能完成构建。

甚至于回答一个问题简单的问题，都会花费输入85293token，输出1848token。不过好在还有deepseek这个性能足够，并且非常便宜的异类来以支撑使用。

未来如果有更好的本地模型/或者更为强力且廉价的在线模型，或许就是graphrag重用之时吧。

效果

使用的问题为：

讨论使用 LLM 生成图索引和回答用户查询的局限性。 在 Graph RAG 方法的未来迭代中如何解决这些限制？

graphrag(使用DeepSeek-Chat进行构建)，global模式

deepseek-chat

LLM在生成图索引和回答用户查询时面临的主要局限性包括处理复杂数据结构的能力、对大规模数据集的适应性以及在多跳问题回答中的准确性。这些局限性影响了LLM在实际应用中的效率和效果 [Data: Reports (124, 99, 141, 50, 70, +more)].

为了解决这些限制，Graph RAG方法的未来迭代可以通过引入更先进的图神经网络技术来增强LLM对图结构的理解和处理能力 [Data: Reports (117, 62, 111, 26, 123, +more)]. 此外，通过集成更多的领域特定知识和数据来训练LLM，可以提高其在特定领域查询的准确性和深度 [Data: Reports (117, 62, 111, 26, 123, +more)].

Graph RAG方法还可以通过优化算法和提高计算效率来减少处理时间，从而改善LLM在实时数据处理和动态查询的响应速度 [Data: Reports (117, 62, 111, 26, 123, +more)]. 同时，通过开发更高效的并行处理技术，可以提高处理大规模数据集的能力，从而在保持准确性的同时提高响应速度 [Data: Reports (124, 99, 50, 70, 141, +more)].

Graph RAG的开放源代码实现预计将显著影响数据处理和摘要领域，允许更广泛的协作和创新，从而进一步推动技术的发展 [Data: Reports (116)]. 通过改进的上下文处理技术，如优化上下文窗口大小和增强上下文理解能力，可以解决信息丢失问题 [Data: Reports (114)].

总之，通过这些改进措施，Graph RAG方法有望克服当前LLM在图索引生成和用户查询回答中的局限性，提高其在实际应用中的性能和效率。

graphrag(使用DeepSeek-Chat进行构建)，local模式

deepseek-chat

使用 LLM 生成图索引和回答用户查询的局限性

在使用大型语言模型（LLM）生成图索引和回答用户查询的过程中，存在一些显著的局限性。首先，LLM 在处理长文本时可能会遇到上下文窗口的限制，导致信息提取的召回率下降 [Data: Sources (32, 38)]. 此外，LLM 生成的图索引可能缺乏足够的细节和准确性，影响查询结果的全面性和多样性 [Data: Entities (15), Relationships (61, 62)].

Graph RAG 方法的未来迭代中的解决方案

为了解决这些限制，Graph RAG 方法的未来迭代可以采取以下策略：

1. 改进图索引的生成

通过优化 LLM 的提示设计，提高图索引中实体和关系的提取精度。例如，使用更精细的提示来指导 LLM 识别和提取关键信息 [Data: Sources (38)].

2. 扩展上下文窗口

探索使用更大上下文窗口的 LLM 模型，以减少长文本处理时的信息丢失问题。这可以通过使用如 GPT-4-turbo 等具有更大上下文窗口的模型来实现 [Data: Sources (32)].

3. 增强社区摘要的生成

改进社区摘要的生成方法，使其更加全面和多样化。这可以通过结合多种社区检测算法和优化摘要生成策略来实现 [Data: Entities (15), Relationships (49, 50)].

4. 引入混合 RAG 方案

开发混合 RAG 方案，结合嵌入式匹配和 map-reduce 摘要机制，以提高查询响应的效率和质量 [Data: Entities (15), Relationships (45, 48)].

通过这些策略的实施，Graph RAG 方法可以更有效地解决当前的局限性，提升生成图索引和回答用户查询的性能。

Dify

作为对比，我加入了Dify的结果。注意，此处的Dify是按照这个流程配置的，使用带Rerank模型的完全体RAG流程。其中提示词等直接使用的默认模板，并未改动。

deepseek-chat

在使用大型语言模型（LLM）生成图索引和回答用户查询的过程中，存在一些局限性。首先，LLM可能无法完全理解复杂的图结构和节点之间的关系，这可能导致生成的索引不够精确。其次，LLM在处理大规模图数据时可能会遇到性能问题，因为它们通常需要大量的计算资源。此外，LLM可能无法很好地处理图中的动态变化，例如节点的添加或删除。

为了解决这些限制，未来的Graph RAG方法可以考虑以下几个方向：

  1. 增强图结构理解：通过引入专门的图神经网络（GNN）来增强LLM对图结构的理解能力，从而提高索引的准确性。
  2. 优化计算效率：开发更高效的算法和模型架构，以减少LLM在处理大规模图数据时的计算负担。
  3. 动态图处理：设计能够适应图动态变化的机制，例如增量学习或在线学习方法，以确保索引和查询结果的实时性和准确性。
  4. 多模态融合：结合文本信息和其他模态的数据（如图像、视频）来丰富图的表示，提高LLM对复杂查询的理解能力。

通过这些方法，未来的Graph RAG迭代有望克服当前的局限性，提供更强大、更高效的图索引和查询服务。

除非另有声明，本博客所有文章采用 知识共享署名-非商业性使用-相同方式共享4.0协议 进行许可
CC BY-NC-ND 4.0