RAG(检索增强生成)是当前 AI 应用里最常用的一项技术:让大模型在回答问题前,先从自己的资料库里检索相关内容,再基于这些资料作答,从而减少凭空编造。如果你想把 RAG 真正部署到生产环境,而不是停留在跑通 Demo,GitHub 上这个 8.9k Star 的开源课程 production-agentic-rag-course 是目前少见的完整路线图。
这个课程是什么
production-agentic-rag-course 是一个完全免费的开源教程仓库(MIT 协议),由两位 AI 工程师 Shirin Khosravi Jam 和 Shantanu Ladhwe 维护。课程用 8 周时间从零搭建一套「arXiv 论文研究助手」:自动抓取学术论文、解析 PDF、建立索引,然后支持你用自然语言提问,系统从论文库里检索并给出带依据的回答。
课程结束时,你得到的是一套可以真实运行的生产级系统,而不是教学玩具。 它属于作者规划的「The Mother of AI Project」母项目第一阶段,后续还有更多阶段内容。
适合谁:想系统学习 RAG 的 AI/ML 工程师、想独立搭建 AI 应用的软件工程师、需要落地检索系统的数据科学家。前提是熟悉 Python 基础、会用 Docker。
8 周路线:从基础设施到智能体
课程每周产出一个可运行的里程碑,每个阶段有对应的代码版本(仓库共 7 个 release,从 week1.0 到 week7.0):
- 第 1 周 · 基础设施:用 Docker Compose 一键拉起 FastAPI(Python 的 Web 框架)、PostgreSQL 16(关系型数据库)、OpenSearch 2.19(开源搜索引擎)、Airflow 3.0(工作流调度器)和 Ollama(本地运行大模型的工具,数据不出本机)。
- 第 2 周 · 数据摄入:对接 arXiv 论文库官方 API(带限速和重试),用 Docling 把 PDF 解析成结构化文本,存入数据库。
- 第 3 周 · 关键词检索:实现 BM25 算法——搜索引擎常用的相关度打分方法,按词频等特征给文档排序,这是后续一切检索的地基。
- 第 4 周 · 混合检索:把文档切成小块,用 Jina AI 生成向量嵌入(把文字变成一串数字,让机器按「意思相近」而非「字面相同」来查找),再用 RRF 融合算法把关键词结果和语义结果合并。
- 第 5 周 · 完整 RAG 管线:接入本地大模型,支持流式回答(SSE 技术,像聊天一样逐字输出),配 Gradio 网页界面;通过优化提示词把大模型调用量削减 80%、响应提速 6 倍。
- 第 6 周 · 监控与缓存:用 Langfuse 做全链路追踪(观察每一次检索和回答的质量),用 Redis 缓存重复查询,作者宣称最高带来 150-400 倍提速。
- 第 7 周 · Agentic RAG(智能体式检索):用 LangGraph(编排 AI 多步流程的框架)让系统具备判断力——先评估问题是否越界,检索结果不够就自动改写查询再试,返回前给答案做相关度评分,并接入 Telegram 机器人,让你在手机上随时提问。
方法论:先打牢搜索地基,再上 AI
与多数只讲向量检索的教程不同,这个课程有明显的方法论立场:先做扎实的关键词搜索,再做语义增强,而不是跳过搜索基础直接上大模型。它按成熟公司搭建检索系统的真实顺序推进——搜索地基加 AI 增强,这也是它自称「生产级」的底气所在。
上手成本
课程完全免费,代码全部在公开仓库(MIT 协议),本地运行成本为 0;若选择外部大模型 API,约 2-5 美元。硬件门槛:8GB 以上内存、20GB 以上磁盘,安装 Docker Desktop 即可。仓库共 39 次提交、2 位贡献者,最新的 week7.0 版本发布于 2025 年 11 月 26 日,仍处于活跃维护状态。
结论
如果想学的是「能上生产的 RAG」而不是「能跑通的 Demo」,这个仓库是目前开源社区里路线最完整、最贴近企业实践的免费课程之一。8 周后你不仅拥有一套论文研究助手,还掌握了从检索、增强到智能体的完整技术栈。