Chase AI · 20:26 · 发布 2026-04-02 · 8万次观看(截至抓取) · 观看原视频
🔥 观众最高回放 15:07 — 讲解 LightRAG 的 query/upload/explore/status 四技能
主旨
讲清 2026 年真正有效的 RAG 是 graph RAG,并用开源 LightRAG 搭一套「向量库+知识图谱」系统、接入 Claude Code(把 API 端点封成 skill),以及判断何时该从纯 context 切到 RAG。
核心论点
- 大 context 变强也替代不了 RAG——文档规模一大,光靠 context window 就会撞墙。(→ 详解1)
- RAG 的底层是「分块→embedding→向量→余弦相似度检索」,理解它才能用好高级版本。(→ 详解2)
- 2024 末的 naive RAG 已失效,当前有效的是 hybrid / graph / agentic RAG。(→ 详解3)
- graph RAG 在向量库之外并行建「实体+关系」知识图谱,这是它比 naive RAG 强的根源。(→ 详解4)
- graph RAG 的真正价值是把离散文档连成网,能回答跨文档的关联性问题。(→ 详解5)
- LightRAG 以极小成本对标 Microsoft GraphRAG,是上手 graph RAG 的最佳开源起点。(→ 详解6)
- 搭建与接入几乎零门槛:Claude Code 一句话 clone+Docker 起服务,再把 API 端点封成 skill。(→ 详解7)
- 切换 RAG 的经验临界线约 500–2000 页文档,超过后 RAG 比纯 agent 检索更便宜更快。(→ 详解8)
知识点详解
1. 为什么大 context 替代不了 RAG 00:02
Chase 开场借「RAG 之死被大大夸大了」点题:模型(如 Opus 4.6)处理长 context 确实变强了,但别指望能靠 prompt 绕开 RAG。
当文档从 5 篇、10 篇涨到 500 篇、上千篇,无论 Claude Code 还是别的 LLM,只靠 context window 都会撞到一堵「prompt 也翻不过」的墙。
在企业甚至小公司这种大语料规模下,一套 RAG 系统反而比标准 agent 检索更便宜、更快。所以「会搭 RAG」是一项重要技能——而本片证明它其实很简单。
2. RAG 的底层机制:分块、embedding 与向量检索 02:44
RAG = retrieval augmented generation(检索增强生成)。文档不是整块丢进向量库,而是先经 embedding 模型「分块(chunking)」成一个个 chunk,再把每个 chunk 变成向量——即高维空间里的一个点(实际上千维,可先想象成三维)。语义相近的内容(军舰、船、boat)会落在相邻位置。
检索时,用户的问题同样被转成向量,系统计算它与库中向量的 余弦相似度(cosine similarity),取最近的若干向量,把它们承载的信息取回来「增强」生成的答案。于是 LLM 不再只靠训练数据,而是先去向量库捞相关片段再作答。
这一整套(文档→分块→向量→按相似度检索)就是最基础的 RAG,也就是 naive RAG。
3. 从 naive RAG 到 hybrid / graph / agentic RAG 05:52
2024 末到 2025 初大家做的都是 naive RAG——就是那些「丢进 Pinecone / Supabase」的 n8n 自动化。Chase 直言这套现在已经不够用、扛不住了。
更聪明的做法有三类:hybrid search、graph RAG、agentic RAG。本片聚焦 graph RAG。但先吃透 naive RAG 的基本盘,才是看懂这些高级版本的前提。
4. graph RAG 的核心:实体 + 关系构成知识图谱 06:15
Graph RAG 前半段和 naive 一样(文档照样分块进向量库),但多做一件事:并行构建一张 知识图谱(knowledge graph)。图里每个圆点是「实体(entity)」,连线是「边(edge)/关系」。
以「Anthropic created Claude Code」这个 chunk 为例:抽出两个实体 Anthropic、Claude Code,连线上则挂着描述二者关系的文本——不只是画条线,底层这条边绑定了解释关系的内容。每篇文档都这样拆,上千篇叠起来就是一张庞大的实体关系网。
这比一堆彼此隔绝、孤立在向量库里的向量精细得多。LightRAG 正是同时并行产出「向量库 + 知识图谱」两样东西。
5. graph RAG 的价值:连接离散信息、回答跨文档问题 08:28
有了知识图谱,提问时系统不只捞最近的那个向量,还会顺着某个实体的边去遍历关系,把它认为相关的一切拉回来。
对用户的意义是:不再只是对单篇文档做「Ctrl+F」式查找,而能问「不同文档、不同理论、不同想法之间如何关联」——因为这些关系已被显式映射出来。Chase 一句话点题:graph RAG 的精髓就是「把离散信息连接起来」。
6. LightRAG:极小成本对标 Microsoft GraphRAG 01:30
LightRAG 是 Chase 极力推荐的开源 repo,存在已久、持续迭代。它能以 Microsoft GraphRAG 等更复杂系统「零头级别」的成本与之竞争,是从没碰过 graph RAG 的人上手实验这些概念的最佳起点。
它高度可定制:可以全本地(用 Ollama 跑 embedding 与问答),也可以半本地半云(本片就是 OpenAI embedding + OpenAI 问答);规模化时还能把存储推到 Postgres / Neon 等云端。
7. 搭建与接入 Claude Code:一句话起服务 + API 封 skill 09:49
最省事的装法:把 LightRAG 的 URL 丢给 Claude Code,让它 clone repo、按 OpenAI(GPT-5 mini + text-embedding-3-large)写好 .env、用默认本地存储、Docker Compose 起服务——几乎全自动。前置只需三样:一个 embedding 模型(建议 OpenAI key)、Docker Desktop 在运行、以及 key 就绪。
起来后本地 localhost:9621 有个 Web UI,可上传文档(仅限文本/PDF)、看知识图谱、在 retrieval 页提问并拿到带引用来源的回答。
但每天都去 UI 提问太麻烦。LightRAG 的每个 API 端点都能封成一个 Claude Code Skill——query、upload、explore、status 四个最常用。之后在任意 Claude Code 会话里说「用 LightRAG query skill 问……」即可,Claude Code 还会顺手把冗长的原始响应总结、并附上来源,等价于在 retrieval 页提问却完全不必打开 UI。
8. 何时该上 RAG:500–2000 页临界线与成本证据 16:32
没有精确阈值,Chase 给的经验灰区是 500–2000 页文本;到 2000 页就接近百万 token 量级,再往上基本就该上 LightRAG。原因是这种规模下 RAG 比 Claude Code 的标准 agent 检索更便宜也更快——agent 逐文件搜索本身很强,但它的设计前提并不是你有几千页文档。
成本证据要打折看:一项 2025 年 7 月的研究称,在超大文档场景下 RAG 比纯 LLM 便宜约 1250 倍 18:06。但 Chase 主动免责——那是 Gemini 2.0、没有 harness 的旧设定,如今模型已大变,差距大概率没那么夸张。结论仍是「实验成本很低,直接试」。
补充:LightRAG 只吃文本,表格/图片等多模态可用同一团队的 rag-anything 叠在其上解决(本片留作下期)。
可执行步骤
- 装好 Docker Desktop 并保持运行,备好 OpenAI API key
- 把 LightRAG 的 GitHub URL 交给 Claude Code,让它 clone、写 .env(OpenAI embedding)、Docker Compose 起服务
- 打开 localhost:9621 Web UI,上传一批文本/PDF 文档,等知识图谱构建完成
- 在 retrieval 页试问一个跨文档关联性问题,确认返回带引用来源
- 把 query / upload / explore / status 四个 API 端点各封成一个 Claude Code skill
- 评估自己的语料是否已到 500–2000 页临界线,决定是否长期切到 RAG
关联
- 印证:Claude第二大脑的五个层级详解 从查询类型轴(查单条短事实 vs 查整体结论)补全本片「500-2000 页语料规模」的向量库取舍判据,两轴互补。
- 对照:Entity document 在 OKF 语境里是人工为单个概念手写的知识图谱节点;本片的 graph RAG 则由 embedding 过程从文档里自动抽出实体与关系来建同类节点。二者同为「知识图谱的节点」,一个人工策展、一个机器抽取。
- 印证:渐进式披露 强调先看索引摘要、再按需打开全文;RAG 的向量检索是同一思路的机器版——不把整库塞进 context,只按相似度取回相关 chunk 再增强作答。
- Chewy 用了这个谷歌垃圾策略88次,然后流量暴跌 · 余弦相似度:印证/对照:此前笔记定义其为向量检索相关性判据,本片展示同一指标被曲解为堆砌关键词的理由
- 印证:5个开源仓库解决Claude%Code%95%的痛点 —— 把本片 Claude Code Skill 定义推到 5 个具体开源 skill(claude-video / impeccable / ponytail 等),展示”按弱项选 skill”的实操组合,补足本片”怎么用”的空白
- 印证:07-套餐选择与日历排期——把本片 Claude Code Skill 的定义应用到营销场景:5 个 marketing skill(含 post writer/post grader)打包成可复用技能单元,展示 Skill 封装在内容生产流水线里的具体形态。
- 复现:用Codex5.6当个人操作系统 的 Record and Replay(录屏自动转 skill)与本片 Claude Code Skill 同向:把流程固化为可复用单元,只是触发方式从手写变成录屏。
一手来源与延伸
- LightRAG(本片主角,开源 graph RAG,双层「知识图谱+向量」,定位为 Microsoft GraphRAG 的轻量替代):https://github.com/HKUDS/LightRAG
- RAG-Anything(下期预告的多模态扩展,同一 HKUDS 团队,叠在 LightRAG 之上处理表格/图片):https://github.com/HKUDS/RAG-Anything
术语
- RAG(retrieval augmented generation,检索增强生成):先从外部库检索相关片段,再让 LLM 据此作答
- chunking(分块):把文档切成小片段分别向量化
- embedding model(嵌入模型):把文本转成高维向量的模型
- 余弦相似度(cosine similarity):以向量夹角衡量语义相近程度,RAG 检索的判据
- naive RAG(朴素 RAG):最基础的「分块+向量检索」,本片称其已失效
- graph RAG(图 RAG):在向量检索外并建知识图谱(实体+关系)的 RAG
- knowledge graph(知识图谱):由实体节点与关系边构成的信息网络
- entity / edge(实体/边):图谱里的节点,与描述节点间关系的连线
- LightRAG:HKUDS 开源的低成本 graph RAG 框架
- rag-anything:同团队的多模态扩展,让 RAG 处理表格/图片
- Docker:容器化工具,LightRAG 以容器方式本地运行
金句
“The death of rag has been greatly exaggerated.” → 借马克·吐温式反讽点题:长 context 时代唱衰 RAG 为时过早,规模一大它仍不可替代。
“it’s about taking disparate information and connecting them” → 一句话道破 graph RAG 的本质:价值不在单篇检索,而在把离散文档连成可推理的关系网。
立场与利益
Chase 的核心变现是自家付费社群/课程——片中反复推销 Claude Code Masterclass(Chase AI Plus)与免费 school 社群(prompt 和四个 skill 都放在社群里引流)。这部分与他的利益强绑,笔记已剥离。
但技术主张本身独立可验:LightRAG、rag-anything、Microsoft GraphRAG 均为真实开源项目,「向量库+知识图谱双层」「naive RAG 已不够用」「graph RAG 连接离散信息」都属业界共识,不依赖他的付费产品;embedding 建议用 OpenAI 属通用实践、非赞助。唯 1250 倍成本数据他自己已充分免责,可信度存疑。
价值定位
- 适合谁:已在用 Claude Code、手上有大量文档(几百到几千页)、想给它接一套可检索知识库的人;或想搞懂 2026 年 RAG 到底怎么做的入门者。
- 解决什么:给出「何时该从纯 context 切到 RAG」的经验临界线(500–2000 页),以及一条几乎零门槛的落地路径(Claude Code + Docker + LightRAG,API 封 skill)。
- 认知 vs 实操:前半段(RAG / graph RAG 原理)是打底认知,后半段(安装 + 接 skill + 临界线判断)是可直接照做的实操。
- 与 LLM wiki / OKF 重叠在「个人知识库」主题,但那批讲的是人工维护、带交叉链接的 wiki 范式;本片独有的是机器自动抽实体关系建知识图谱、与向量检索并行的工程化 RAG 路线。
自检问题
- 为什么大 context 模型变强了,仍然可能需要 RAG? 答案:文档规模从几篇涨到成百上千篇时,只靠 context window 会撞墙;而这种规模下 RAG 反而更便宜更快。锚于详解1。00:02
- naive RAG 与 graph RAG 在处理文档时的关键差别是什么? 答案:两者都分块进向量库,但 graph RAG 额外并行构建一张「实体+关系」知识图谱,从而能回答跨文档的关联问题。锚于详解4。06:15
- RAG 检索时靠什么判断哪些内容与问题相关? 答案:把问题也转成向量,计算它与库中向量的余弦相似度(cosine similarity),取最近的若干个取回、增强作答。锚于详解2。04:50
- Chase 给的「该上 RAG」经验临界线是多少?那个成本数据可信吗? 答案:约 500–2000 页文本(2000 页≈百万 token);1250 倍便宜的数据出自 2025 年 7 月、Gemini 2.0、无 harness 的旧研究,他自己主动免责,如今差距大概率没那么大。锚于详解8。16:32
- 如何把 LightRAG 接进 Claude Code 的日常工作流? 答案:把每个 API 端点(query / upload / explore / status)封成 Claude Code skill,之后在会话里直接调用,无需打开 Web UI。锚于详解7。14:07
💬 热门评论 top-16 主 + 4 回(抓取 2026-07-07)
[2] @alskdfjasdlfkasjdf:快速输出关于LightRAG与Obsidian的所有问题。LightRAG 优点:专为LLM检索构建。图+向量混合搜索。自动分块和实体提取。可扩展到大规模语料库,无需手动整理。API原生——可插入智能体管道。缺点:黑盒检索——你并不总是知道它为什么返回某些内容。质量上限受限于嵌入模型。需要基础设施(即使轻量)。没有人类可读的知识库作为副产品。Obsidian(作为RAG源) 优点:通过反向链接人工策划的图——信号质量高,因为连接是你决定的。Markdown原生——易于解析。同时作为你自己的思考工具。完全透明地知道什么链接到什么。存在用于LLM集成的社区插件。缺点:不可扩展——你是瓶颈。没有原生向量搜索。检索需要额外的东西(Ollama插件、自定义索引器、MCP服务器)。如果你停止策划,图质量会下降。上下文窗口仍然需要你构建的分块策略。真正的问题: 你想要一个为你检索的系统(LightRAG),还是一个你思考、LLM也能读取的系统(Obsidian)?对于你的技能生态系统和系统上下文——你已经维护了结构化的SKILL.md文件和分层文档——Obsidian可能更自然地作为事实来源*,而LightRAG(或类似)作为其上的检索层。你有没有考虑过同时运行两者——Obsidian作为策划层,LightRAG索引整个库? 👍 20 ↪ @jonschlottig9584:Obsidian CLI x Claude Code = 两者兼得。而且远不止如此。Obsidian是最好的。有人需要用C++或Tauri构建同样的东西,并配备大量插件,那会非常受欢迎。 [5] @LarsMarowsky-Brée:我做了类似的事情。我让CC给我的所有md文件添加相关标签,通过Obsidian技能,这些标签很容易查询和搜索。我很清楚这和嵌入不一样,但效果出奇地好。 👍 2 [7] @gs-xu8jg:使用LightRAG或类似产品在某些情况下可能是合理的,但长期可靠性很大程度上取决于持续的图卫生:验证、修剪、版本控制和受控更新。任何基于图的RAG都容易发生实体漂移和关系过时、图膨胀和性能下降。 👍 3 [12] @jd5787:Chase,只是一个建设性的评论,来自一个45岁、努力追赶科技的老家伙:你应该考虑从不同角度/角色(日常生活、商业、开发者)的用例/好处开始。一如既往的好内容! 👍 37 ↪ @jonschlottig9584:我一直想开个频道,但总是犹豫不决——我在想也许可以用这个想法。我一直在质疑自己是否有那么多价值可以分享——但我已经深入其中,以至于忘记了很多人,大多数人,只是想设置好并学习如何使用这些工具。你使用AI的主要用例和挑战是什么?有什么特别让你沮丧的吗?我喜欢Obsidian胜过RAG,因为它就像RAG+,有漂亮的UI,而且超级可扩展。通过几个插件,它可以处理照片和图像。Smart Connections为每个文件创建相似度索引等等。 👍 1 ↪ @minimalhostage:还要教他们程序是另一种信息。它只是可以做事情的信息。比如将图像转换为文本或过滤电子邮件。这样他们就不会再害怕了。 [15] @ankitgoswami8945:我有近100篇研究论文,每篇大约30页。如何使用LightRAG管理上下文窗口,使其能够跨这些论文整合上下文? [16] @PcItalian:你能让LightRAG指向当前文件目录吗?比如SharePoint库、文件服务器、NAS等?这可能对组织内的用例很有用,内部托管LightRAG,将API指向我们的企业AI?…? ——其他 9 条:感谢/夸赞([3]@aleksander_sc、[4]@josemiguelnavarro1433、[6]@GilbertMizrahi-i4b、[8]@JustinPerea、[9]@MakuLabs、[10]@TheHronar、[11]@prometheas、[13]@fremtilfortiden、[14]@devinhedge);1 条 spam 已略
英文原文
[1] @Chase-H-AI(UP):Get the Claude Code Masterclass 👉 https://www.skool.com/chase-ai Part 2 w/ RAG-Anything: https://youtu.be/rJCgvnXgOiU 👍 3
↪ @LazyZero-n4s:waiting for the next video cause i need multimodal graph rag/rag anything.
[2] @alskdfjasdlfkasjdf:Quick opus output for all of the questions about light rag vs obsidian *LightRAG* Pros: Purpose-built for LLM retrieval. Graph + vector hybrid search. Automatic chunking and entity extraction. Scales to massive corpora without manual curation. API-native — slots into agentic pipelines. Cons: Black-box retrieval — you don't always know why it surfaced what it surfaced. Quality ceiling tied to embedding model. Requires infra (even if lightweight). No human-readable knowledge base as a byproduct. *Obsidian (as RAG source)* Pros: Human-curated graph via backlinks — signal quality is high because you decided the connections. Markdown-native — trivially parseable. Doubles as your own thinking tool. Full transparency into what's linked to what. Community plugins for LLM integration exist. Cons: Doesn't scale — you're the bottleneck. No native vector search. Retrieval requires bolting on something else (Ollama plugin, custom indexer, MCP server). Graph quality degrades if you stop curating. Context windows still need chunking strategy you'd have to build. *The real question:* Do you want a system that retrieves for you (LightRAG) or a system you think through that an LLM can also read (Obsidian)? For your skill ecosystem and system context — where you already maintain structured SKILL.md files and hierarchical docs — Obsidian might be the more natural fit as the source of truth*, with LightRAG (or similar) as the *retrieval layer on top of it. Have you considered running both — Obsidian as the curation layer, LightRAG indexing the vault? 👍 20
↪ @jonschlottig9584:Obsidian CLI x Claude Code = both. And so much more. Obsidian is the best. Someone needs to build the same thing but in C++ or Tauri with a substantial set of plugins and it would be so popular
[3] @aleksander_sc:I thank the algorithm gods for sending me this video exactly when I needed an update on RAG knowledge. Great presentation btw, instant subscription 👍 👍 5
[4] @josemiguelnavarro1433:Thanks for all Chase 💯 👍 2
[5] @LarsMarowsky-Brée:I did something similar. I got CC to add relevant hash tags to all my md files, and via the obsidian skill those are quite easy to query and search. I'm well aware that's not the same as an embedding, but it's also surprisingly effective. 👍 2
[6] @GilbertMizrahi-i4b:Building for others, it would be nice to have an app created (on the cloud) so that users can query the system from there. That would be a nice addition to your great video. Just an idea.
[7] @gs-xu8jg:Using LightRAG and or similar products may be justified in some cases however Long-term reliability very much depends on continuous graph hygiene; validation, pruning, versioning, and controlled updates. Any graph based RAG are notoriously prone to Entity drift & stale relationships, Graph bloat & performance decay. 👍 3
[8] @JustinPerea:I just got a new MacBook M5 max to utilize local LLMs. Need more of these videos 🙌
[9] @MakuLabs:Finally someone who is talking sense.
[10] @TheHronar:I hit that wall and prompted a RAG solution... Check Mate. 👍 1
[11] @prometheas:Solid video. Thanks.
[12] @jd5787:Chase, just a constructive comment from a 45 year old guy who is just trying to catch up with tech : you should consider starting with the use cases/benefits from various angles/persona (daily life, business, developer). Great content as usual! 👍 37
↪ @jonschlottig9584:I've been meaning to start a channel but keep waffling - I'm thinking I might use that idea. I keep questioning whether I have that much value to give - but I've been in so deep that I forget a lot of people, most people, are just trying to get set up and figure out how to use these tools for. What are your main use cases for AI and challenges? Anything specific that's frustrating you? I like Obsidian over RAG because it's like RAG + with a nice UI and it's super extendable. It can handle photos and images with a couple plugins. Smart connections creates a similarity index for every file etc.. 👍 1
↪ @minimalhostage:Also teaching them that a program is another type of information. Its just information that can do things. Like transforming images to text or filter emails. That's when they stop being afraid of it all.
[13] @fremtilfortiden:Awesome video!
[14] @devinhedge:My PKM has over 36,000 docs in it. A RAG was just the start.
[15] @ankitgoswami8945:I have almost 100 research papers each with almost 30 pages . How to manage context window where it is able to assimilate context across these using light rag ?
[16] @PcItalian:Would you be able to point the LightRAG on a current directory of files? Ie a SharePoint Library, file server, NAS, etc? Could be powerful for use cases within my org, hosting LightRAG internal, point the API to our Corporate AI?…?
