DataTalks.Club 的 LLM Zoomcamp 是一套完全免费的 LLM 实战课程,用 10 周时间带学习者从 LLM 基础走到生产级应用,覆盖 RAG、向量搜索、AI 智能体、函数调用、评估与监控。课程仓库 DataTalksClub/llm-zoomcamp 在 GitHub 上已有 7.2k stars 与 1.3k forks,2026 届课程正在进行,README 最近一次更新在 2026 年 8 月 25 日。学完整套课程不需要 GPU,自己动手跑代码的花费约 $1–5 的 API 额度。
课程结构与 7 个模块
课程按周推进,共 7 个模块加一个毕业项目(Capstone):
- 模块 1:Agentic RAG——用关键词搜索搭起第一版 RAG 管道,再用函数调用(function calling)把它升级为可自主行动的智能体;
- 模块 2:向量搜索——用 embedding 做语义检索,对照学习 minsearch、sqlitesearch 与 PGVector 三种实现;
- 模块 3:编排——用 Kestra 编排 AI 工作流;
- 模块 4:评估——同时做离线与在线评估,量化检索质量与回答质量;
- 模块 5:监控——跟踪用户反馈与系统健康,搭建实时仪表盘;
- 模块 6:最佳实践——LangChain、混合检索(向量 + 关键词)与重排(rerank);
- 模块 7:端到端项目——完整示例:一个用 LLM 构建的健身助手。
此外还有一个 dlt 数据摄取工作坊:用 dlt 管道摄取并分析 LLM 调用追踪,涉及文件系统与 REST API 数据源,配合 DuckDB 和 marimo 仪表盘使用。
毕业项目:从零做一个完整的 RAG 应用
Capstone 要求把整门课的知识串起来:选定一个数据集,完成摄取、清洗与入库,实现「检索 → 组装提示词 → 调用 LLM → 返回有依据的回答」的完整链路;再用检索指标或 LLM-as-a-Judge 评估效果;最后用一个简单界面(Streamlit、FastAPI 等)把应用开放给别人试用,并加上监控与反馈回路。历年学员做过健身与营养助手、医学 FAQ 问答、代码库问答等方向,往届项目全部公开可参考。
跟班学还是自定进度
课程有两种上法:
- Live Cohort 跟班:按日程推进,作业计分、有排行榜和同伴互评,完成毕业项目并通过互评可以获得证书;
- 自定进度:随时开始,作业可做但不计分,没有排行榜与证书,内容同样全部开放。
需要说明的是,视频全部是预录的,所谓「Live」指跟班节奏、截止日期与互助机制,不是直播授课。
前置要求与适合人群
课程不要求机器学习或 LLM 基础。讲师给出的门槛是:能写 Python 函数、熟悉命令行、对 Docker 有基本了解即可,用普通笔记本就能完成全部练习。适合想把 LLM、RAG 和向量检索落到真实产品的软件工程师、数据工程师与 ML 从业者。
课程由 DataTalks.Club 出品,主讲人是 Alexey Grigorev(DataTalks.Club 创始人、首席数据科学家)、Will Russell(Kestra 开发者关系工程师)与 Timur Kamaliev(AI 工程师),仓库累计有 74 位贡献者。
费用与证书
课程本身完全免费,唯一可能的花费是自己跑代码时的 API 额度,约 $1–5。社区另设有一个可选的付费小组 AI Shipping Labs,提供办公时间、进度督促等额外支持,不加入也不影响任何课程内容。
证书只颁发给 Live Cohort 学员,条件是完成最终项目并在截止日期前互评 3 份同学的项目。自定进度学员可以自由完成项目充实作品集,但不发证。
一句话结论
想把 RAG、智能体、评估与监控系统学一遍,LLM Zoomcamp 是一条现成的免费路径:每周推进一个模块,10 周后交到你手上的,是一个能回答知识库问题的完整应用。仓库地址:github.com/DataTalksClub/llm-zoomcamp。