rohitg00/ai-engineering-from-scratch

rohitg00/ai-engineering-from-scratch has 78,594 GitHub stars and 13,990 forks. GitHot measured +92 stars in 24 hours, +1,581 in 7 days, and +3,006 in 15 days. Last checked 2026-11-13 01:23 UTC. Last push 2026-10-29.

这些数字如何统计

学习 AI 工程！学会它，动手构建，并交付给他人使用。

78,594 星标 13,990 forks +92 24小时

实测星标增长

24小时: +92
7天: +1,581
15天: +3,006
1个月: 正在收集历史

各周期内的星标净变化，周期相互重叠，并非每日新增。缺失的测量保持空白。星标代表关注度，不代表软件质量。

i18n/zh/README.md

原文

_{AI 辅助中文译文，以英文原文为准 · aiengineeringfromscratch.com}

从零开始的 AI 工程

实现模型内部机制、检索流水线和智能体运行时。测试它们，分析故障，并保留代码和评估结果。

开始学习 · 选择学习路径 · 试做实验 · 构建项目 · 浏览课程目录

免费、开源、MIT 许可。你可以在网站学习、使用编程代理辅助学习，或在本地运行代码。

542 节课. 20 个阶段. Python, TypeScript, Rust, Julia.

选择阅读语言

🇬🇧 English · 🇨🇳 简体中文 · 🇹🇼 繁體中文（台灣） · 🇯🇵 日本語 · 🇰🇷 한국어 · 🇵🇹 Português · 🇧🇷 Português (Brasil) · 🇪🇸 Español · 🇩🇪 Deutsch · 🇫🇷 Français · 🇮🇹 Italiano · 🇳🇱 Nederlands · 🇵🇱 Polski · 🇨🇿 Čeština · 🇷🇴 Română · 🇭🇺 Magyar · 🇬🇷 Ελληνικά · 🇸🇪 Svenska · 🇩🇰 Dansk · 🇳🇴 Norsk · 🇫🇮 Suomi · 🇷🇺 Русский · 🇺🇦 Українська · 🇹🇷 Türkçe · 🇮🇱 עברית · 🇸🇦 العربية · 🇮🇷 فارسی · 🇮🇳 हिन्दी · 🇧🇩 বাংলা · 🇵🇰 اردو · 🇹🇭 ไทย · 🇻🇳 Tiếng Việt · 🇮🇩 Bahasa Indonesia · 🇵🇭 Tagalog

赞助方

_{你的支持让每节课都能保持免费和开源。查看所有支持者 · 成为赞助方}

学习路线

路线	起始课程
模型基础	环境设置与工具
LLM 系统	提示工程
智能体与交付	智能体循环

比较职业路径 · 先修知识与学习时间

梯度下降

20 个起点在二次损失函数上执行梯度下降。图中显示每次更新后的位置和平均损失。

在课程中调整学习率 · 通过代码比较 GD、动量和 Adam

项目

三个项目均提供分阶段的起始代码、参考实现和本地评分器。完成环境设置后，从仓库根目录运行命令。实现各阶段前，起始代码无法通过检查。

01 · 检索评估实验室 · Python · 排名指标与退化检查

候选系统的平均 NDCG 提高，但某个查询最相关的证据排名下降。构建逐查询比较，报告这种退化，并能使发布检查失败。

使用 Python 3.10+。复习RAG和模型评估。依次实现排名验证、精确率与召回率、考虑排名位置的指标，再比较系统。

python3 scripts/project_test.py retrieval-evaluation-lab \
  --init learning-artifacts/retrieval-evaluation-lab
python3 scripts/project_test.py retrieval-evaluation-lab \
  --stage 1 --path learning-artifacts/retrieval-evaluation-lab --strict
python3 scripts/project_test.py retrieval-evaluation-lab \
  --all --path learning-artifacts/retrieval-evaluation-lab --strict

**保留：**可复现的比较结果，包括逐查询差值和评分使用的相关性标注。指标反映的是这些标注，并不能证明答案正确。

开始项目 · 查看参考实现 · 使用自己的输入运行

02 · 智能体追踪调试器 · TypeScript · 追踪解析与耗时分析

提供的追踪仍耗时 100 ms，但总 token 用量增加了 200，且一个跨度开始失败。将重叠的子跨度工作与父跨度自身的执行时间分开，再生成揭示变化的报告。

使用 Node.js 22.18+，并用 Python 3 运行评分器。依次实现 JSONL 解析、父子关系验证、区间计算和可检查的时间线。

python3 scripts/project_test.py agent-trace-debugger \
  --init learning-artifacts/agent-trace-debugger
python3 scripts/project_test.py agent-trace-debugger \
  --stage 1 --path learning-artifacts/agent-trace-debugger --strict
python3 scripts/project_test.py agent-trace-debugger \
  --all --path learning-artifacts/agent-trace-debugger --strict

**保留：**输入追踪、HTML 时间线和 JSON 退化报告。每个跨度只记录自身独占的 token 用量，避免重复计算父子跨度的用量。

开始项目 · 查看参考实现 · 交互探索耗时

03 · 工具调用防火墙 · Rust · 角色检查与批准凭据

写入内容在审查后发生变化，或者同一批准被重放。验证调用封装，检查调用方角色和路径，再消耗绑定到确切请求与内容的批准。

使用 Rust 和 Python 3.10+。复习工具模式设计和安全边界。调用方应用提供身份，模型只提出操作建议。

python3 scripts/project_test.py tool-call-firewall \
  --init learning-artifacts/tool-call-firewall
python3 scripts/project_test.py tool-call-firewall \
  --stage 1 --path learning-artifacts/tool-call-firewall --strict
python3 scripts/project_test.py tool-call-firewall \
  --all --path learning-artifacts/tool-call-firewall --strict

**保留：**显示请求操作和策略决策的审计凭据。批准只能在一次调用中使用一次；本项目不提供持久授权或操作系统沙盒。

开始项目 · 查看参考实现 · 探索批准边界

浏览全部项目 · 职业实践指南

选择学习方式

在网站上学习

在课程网站打开任意已完成课程，或从课程目录展开一个阶段。不需要安装，也不需要克隆。

使用 AI 导师

如果已安装 Node.js、npx 和支持 Agent Skills 的编程智能体，就能让智能体充当你的课程导师。安装和阅读导师技能不要求先克隆仓库；要运行专项路线的实验，则需要 python3。Agent Skills 的宿主实验还需要选定宿主，并有可写入的用户级或项目级技能目录。

npx skills add rohitg00/ai-engineering-from-scratch

安装程序询问时，选择宿主和安装范围。在 Codex 中使用 start-learning，在 Claude Code 中使用 /start-learning，或让宿主按名称使用该技能。

导师设置与宿主命令

先检查本机工具：

node --version
npx --version
python3 --version

安装器会根据你选择的宿主和范围，把技能写入 .claude/skills/、.cursor/skills/、.codex/skills/ 等目录。安装后，请确认所选宿主能从该目录发现技能。

具体调用方式由宿主决定，SKILL.md 本身并不规定统一的斜杠命令：

宿主	开始课程	开始模型上下文协议（MCP）路线	开始 Agent Skills 路线	进行阶段测验
Codex	输入 `start-learning`，或在 `/skills` 中选择	输入 `learn-mcp`，或在 `/skills` 中选择	输入 `learn-agent-skills`，或在 `/skills` 中选择	输入 `check-understanding 13`，或在 `/skills` 中选择
Claude Code	`/start-learning`	`/learn-mcp`	`/learn-agent-skills`	`/check-understanding 13`
其他兼容宿主	`Use start-learning to begin the course.`	`Use learn-mcp to start the Model Context Protocol (MCP) path.`	`Use learn-agent-skills to start the Agent Skills Engineering path.`	`Use check-understanding to quiz me on Phase 13.`

入门测评有十道题，会根据你已掌握的知识推荐起始阶段，并将个性化学习计划保存到 LEARNING.md。之后，learn 技能每次带你学一节课：概念、数学、代码、测验；course-guide 则帮你定位当前问题对应的具体课程。Codex 中输入 learn 或 course-guide；Claude Code 中使用 /learn 或 /course-guide；其他兼容宿主可直接要求使用相应技能。

只想学习 MCP？使用上表中对应宿主的调用方式。它会创建 MCP-LEARNING.md，带你沿着 17 节课的路线学习无状态请求、传输方式、双向交互、安全、可靠性、注册表治理和一致性证据。顺序与检查点见 MCP 路线清单。

只想学习 Agent Skills？该路线会创建 AGENT-SKILLS-LEARNING.md，用五节课依次学习技能契约、发现、调用、沙盒边界，以及发布评估和真实宿主的可移植性。也可以从网站上的 Agent Skills 路线开始。

安装器会列出它支持的宿主，并询问安装位置。如果你暂时没有 Node.js、npx、python3、受支持的宿主或可写入的安装目录，仍可在网站阅读课程，或手动打开 docs/en.md。这能帮助你学习概念；宿主发现、技能调用、脚本执行和卸载的真实证据，则要等环境就绪后再完成。访问课程网站。

学习技能

技能	用途
`start-learning`	一次性入门：明确学习目标，完成水平测评，并把个性化计划保存到 `LEARNING.md`。
`learn`	逐课导师：先回顾，再互动学习下一节课和完成测验；记录进度与复习队列。
`course-guide`	主题导航：根据“在哪里学注意力机制”或“损失值为什么是 NaN”等问题，定位到具体课程。
`learn-mcp`	MCP 专项导师：创建 `MCP-LEARNING.md`，按 17 节课的路线学习，并记录协议、安全、可靠性和一致性证据。
`learn-agent-skills`	Agent Skills 专项导师：创建 `AGENT-SKILLS-LEARNING.md`，学习第 22、24、25、26、27 节课，并记录真实宿主中的运行证据。
`learn-reverse-engineering`	逆向工程专项导师：创建 `REVERSE-ENGINEERING-LEARNING.md`，在你自己构建的程序上学习阶段 13 的第 32 至 45 节课，并记录实验证据。
`claude-certification`	Claude 认证导师：选择四条认证路线之一，逐课教学、运行实验、评阅成果，并组织诊断与模拟考试。
`mcpa-certification`	MCPA 导师：按 2026-07-28 协议学习 34 节课的 `mcpa-f` 路线，运行实验与协议检查，组织诊断和三套模拟考试。
`find-your-level`	十道题的水平测评：根据已有知识推荐起始阶段，并生成带时长估计的个性化路径。
`check-understanding <phase>`	每阶段八道理解测验，提供反馈及建议复习的课程；调用方式见上方宿主对照表。

运行本地代码

git clone https://github.com/rohitg00/ai-engineering-from-scratch.git
cd ai-engineering-from-scratch
python3 phases/00-setup-and-tooling/01-dev-environment/code/verify.py --route beginner
python3 phases/01-math-foundations/01-linear-algebra-intuition/code/vectors.py

环境预检会区分现在必需的工具和之后才需要的工具。每项必需检查若失败，都会说明检测到的原因，并给出修复命令。vectors.py 命令运行一节不依赖第三方包的课程，最后展示神经网络层的核心运算：矩阵乘向量。请保存终端输出，作为你的第一份学习证据。

每节课都按同一方法学习

阅读 docs/en.md，并用自己的话解释核心概念。
亲手编写和构建关键代码，不要只浏览代码块。
运行课程命令。除非另有说明，应从包含 README.md 和 phases/ 的仓库根目录运行。
留下证据：记录命令、工作目录、退出码、有意义的输出，以及你修改或产出的文件。
确认理解后再继续：你应能解释输出，并且不用猜测就能做出一个小改动。

除非课程明确要求切换目录，否则课程页面中的命令都应从仓库根目录运行。如果一节课提供多种编程语言，请运行你正在学习的那种实现。

选择学习路径

开始前不必先浏览 542 节课。选一个目标即可。每个链接都会打开同一套课程的 GitHub 或网站版本，两边使用相同的课程代码。

你的目标	在 GitHub 学习	在网站学习
我刚入门，需要完整的基础	阶段 0：环境与工具	开发环境
我会 Python，想补齐数学与机器学习基础	阶段 1：数学基础	线性代数直觉
我想构建可用于生产环境的 LLM 应用	阶段 11：LLM 工程	提示词工程
我想构建智能体	阶段 14：智能体工程	智能体循环
我想用编程智能体处理真实仓库	智能体辅助工程路径	智能体辅助工程
我想在动手前确定真正该构建什么	产品判断与交付路径	产品判断与交付

不确定从哪里开始？试试 start-learning 入门测评导师，或查看网站的先修知识指南。

在 AI 工程学习路径中，对比四大核心领域和六条职业路线。

MCP、Agent Skills 与逆向工程专项路径

你的目标	在 GitHub 学习	在网站学习
我想用模型上下文协议（MCP）构建系统	MCP 学习路线	MCP 路径
我想编写并发布 Agent Skills	Agent Skills 专项路线	Agent Skills 路径
我想读懂编译后的程序	逆向工程专项路线	逆向工程路径

先修知识与学习时间

先决条件

你能编写代码；任何语言都可以，会 Python 更方便。
你希望理解 AI 实际上如何工作，而不只是调用 API。

从哪里开始

你的背景	建议起点	预计时长
刚开始学习编程和 AI	阶段 0：环境与工具	约 306 小时
会 Python，但刚接触机器学习	阶段 1：数学基础	约 270 小时
了解机器学习，但刚接触深度学习	阶段 3：深度学习核心	约 200 小时
熟悉深度学习，想学 LLM 与智能体	阶段 10：从零构建大语言模型	约 100 小时
资深工程师，只想学智能体工程	阶段 14：智能体工程	约 60 小时
只想构建生产级 MCP 系统	MCP 学习路径	约 23 小时 15 分钟
只想构建生产级 Agent Skills	Agent Skills 工程路径	约 9.5 小时
只想学习逆向工程	逆向工程路径	约 32.5 小时

课程结构

20 个阶段层层衔接：数学是地基，智能体与生产部署是上层。如果你已经掌握前面的基础，可以直接进入更高阶段；遇到困难时，也能沿着课程依赖回到缺失的知识点。

%%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff','fontFamily':'JetBrains Mono','fontSize':'12px'}}}%%
flowchart TB
  P0["阶段 0：环境与工具"] --> P1["阶段 1：数学基础"]
  P1 --> P2["阶段 2：机器学习基础"]
  P2 --> P3["阶段 3：深度学习核心"]
  P3 --> P4["阶段 4：计算机视觉"]
  P3 --> P5["阶段 5：自然语言处理"]
  P3 --> P6["阶段 6：语音与音频"]
  P3 --> P9["阶段 9：强化学习"]
  P5 --> P7["阶段 7：Transformer"]
  P7 --> P8["阶段 8：生成式 AI"]
  P7 --> P10["阶段 10：从零构建大语言模型"]
  P10 --> P11["阶段 11：大语言模型工程"]
  P10 --> P12["阶段 12：多模态 AI"]
  P11 --> P13["阶段 13：工具与协议"]
  P13 --> P14["阶段 14：智能体工程"]
  P14 --> P15["阶段 15：自主系统"]
  P15 --> P16["阶段 16：多智能体与群体智能"]
  P14 --> P17["阶段 17：基础设施与生产部署"]
  P15 --> P18["阶段 18：伦理、安全与对齐"]
  P16 --> P19["阶段 19：综合项目"]
  P17 --> P19
  P18 --> P19

课程目录

课程共分 20 个阶段；点击任一阶段即可展开其课程列表。

阶段 0：环境与工具 `13 节课`

配好学习后续所有内容所需的环境与工具。

#	课程	类型	语言
01	开发环境	构建	Python
02	Git 与协作	学习	—
03	GPU 配置与云端环境	构建	Python
04	API 与密钥	构建	Python
05	Jupyter Notebook	构建	Python
06	Python 环境管理	构建	Shell
07	用于 AI 的 Docker	构建	Docker
08	编辑器配置	构建	—
09	数据管理	构建	Python
10	终端与 Shell	学习	—
11	用于 AI 的 Linux	学习	—
12	调试与性能分析	构建	Python
13	面向 AI 工程的 Python	构建	Python

阶段 1 — 数学基础 22 节课 用代码建立理解 AI 算法所需的数学直觉。

#	课程	类型	语言
01	线性代数直觉	学习	Python, Julia
02	向量、矩阵与基本运算	构建	Python, Julia
03	矩阵变换与特征值	构建	Python, Julia
04	机器学习中的微积分：导数与梯度	学习	Python
05	链式法则与自动微分	构建	Python
06	概率与概率分布	学习	Python
07	贝叶斯定理与统计思维	构建	Python
08	优化：梯度下降及其变体	构建	Python
09	信息论：熵与 KL 散度	学习	Python
10	降维：PCA、t-SNE 与 UMAP	构建	Python
11	奇异值分解	构建	Python, Julia
12	张量运算	构建	Python
13	数值稳定性	构建	Python
14	范数与距离	构建	Python
15	机器学习中的统计学	构建	Python
16	采样方法	构建	Python
17	线性方程组	构建	Python
18	凸优化	构建	Python
19	AI 中的复数	学习	Python
20	傅里叶变换	构建	Python
21	机器学习中的图论	构建	Python
22	随机过程	学习	Python

阶段 2 — 机器学习基础 21 节课 经典机器学习仍是许多生产系统的支柱。

#	课程	类型	语言
01	什么是机器学习	学习	Python
02	从零实现线性回归	构建	Python
03	逻辑回归与分类	构建	Python
04	决策树与随机森林	构建	Python
05	支持向量机	构建	Python
06	KNN 与距离度量	构建	Python
07	无监督学习：K-Means 与 DBSCAN	构建	Python
08	特征工程与特征选择	构建	Python
09	模型评估：指标与交叉验证	构建	Python
10	偏差、方差与学习曲线	学习	Python
11	集成学习：Boosting、Bagging 与 Stacking	构建	Python
12	超参数调优	构建	Python
13	机器学习流水线与实验追踪	构建	Python
14	朴素贝叶斯	构建	Python
15	时间序列基础	构建	Python
16	异常检测	构建	Python
17	处理类别不平衡数据	构建	Python
18	特征选择	构建	Python
19	机器学习系统设计：从问题到已部署模型	构建	Python
20	生产环境中的模型监控：数据漂移与概念漂移	构建	Python
21	特征存储与训练-服务偏差	构建	Python

阶段 3 — 深度学习核心 13 节课 从第一性原理理解神经网络：先自己实现，再使用框架。

#	课程	类型	语言
01	感知机：神经网络的起点	构建	Python
02	多层网络与前向传播	构建	Python
03	从零实现反向传播	构建	Python
04	激活函数：ReLU、Sigmoid、GELU 及其作用	构建	Python
05	损失函数：MSE、交叉熵与对比损失	构建	Python
06	优化器：SGD、动量、Adam 与 AdamW	构建	Python
07	正则化：Dropout、权重衰减与 BatchNorm	构建	Python
08	权重初始化与训练稳定性	构建	Python
09	学习率调度与预热	构建	Python
10	构建自己的迷你框架	构建	Python
11	PyTorch 入门	构建	Python
12	JAX 入门	构建	Python
13	神经网络调试	构建	Python

阶段 4 — 计算机视觉 28 节课 从像素走向理解：图像、视频、3D、视觉语言模型与世界模型。

#	课程	类型	语言
01	图像基础：像素、通道与色彩空间	学习	Python
02	从零实现卷积	构建	Python
03	卷积神经网络：从 LeNet 到 ResNet	构建	Python
04	图像分类	构建	Python
05	迁移学习与微调	构建	Python
06	从零实现 YOLO 目标检测	构建	Python
07	语义分割：U-Net	构建	Python
08	实例分割：Mask R-CNN	构建	Python
09	图像生成：GAN	构建	Python
10	图像生成：扩散模型	构建	Python
11	Stable Diffusion：架构与微调	构建	Python
12	视频理解：时序建模	构建	Python
13	3D 视觉：点云与 NeRF	构建	Python
14	视觉 Transformer（ViT）	构建	Python
15	实时视觉：边缘部署	构建	Python
16	构建完整的视觉处理流水线	构建	Python
17	自监督视觉学习：SimCLR、DINO 与 MAE	构建	Python
18	开放词表视觉：CLIP	构建	Python
19	OCR 与文档理解	构建	Python
20	图像检索与度量学习	构建	Python
21	关键点检测与姿态估计	构建	Python
22	从零实现 3D 高斯泼溅	构建	Python
23	扩散 Transformer 与矫正流	构建	Python
24	SAM 3 与开放词表分割	构建	Python
25	视觉语言模型（ViT-MLP-LLM）	构建	Python
26	单目深度与几何估计	构建	Python
27	多目标跟踪与视频记忆	构建	Python
28	世界模型与视频扩散	构建	Python

阶段 5 — 自然语言处理：从基础到进阶 29 节课 语言是通往智能的接口。

#	课程	类型	语言
01	文本处理：分词、词干提取与词形还原	构建	Python
02	词袋模型、TF-IDF 与文本表示	构建	Python
03	词嵌入：从零实现 Word2Vec	构建	Python
04	GloVe、FastText 与子词嵌入	构建	Python
05	情感分析	构建	Python
06	命名实体识别（NER）	构建	Python
07	词性标注与句法解析	构建	Python
08	文本分类：用于文本的 CNN 与 RNN	构建	Python
09	序列到序列模型	构建	Python
10	注意力机制：关键突破	构建	Python
11	机器翻译	构建	Python
12	文本摘要	构建	Python
13	问答系统	构建	Python
14	信息检索与搜索	构建	Python
15	主题建模：LDA 与 BERTopic	构建	Python
16	文本生成	构建	Python
17	聊天机器人：从规则系统到神经网络	构建	Python
18	多语言自然语言处理	构建	Python
19	子词分词：BPE、WordPiece、Unigram 与 SentencePiece	学习	Python
20	结构化输出与约束解码	构建	Python
21	自然语言推理（NLI）与文本蕴含	学习	Python
22	深入理解嵌入模型	学习	Python
23	用于 RAG 的文本切块策略	构建	Python
24	共指消解	学习	Python
25	实体链接与消歧	构建	Python
26	关系抽取与知识图谱构建	构建	Python
27	LLM 评估：RAGAS、DeepEval 与 G-Eval	构建	Python
28	长上下文评估：NIAH、RULER、LongBench 与 MRCR	学习	Python
29	对话状态跟踪	构建	Python

阶段 6 — 语音与音频 17 节课 让系统能够聆听、理解和表达。

#	课程	类型	语言
01	音频基础：波形、采样与 FFT	学习	Python
02	频谱图、梅尔刻度与音频特征	构建	Python
03	音频分类	构建	Python
04	语音识别（ASR）	构建	Python
05	Whisper：架构与微调	构建	Python
06	说话人识别与验证	构建	Python
07	文本转语音（TTS）	构建	Python
08	声音克隆与声音转换	构建	Python
09	音乐生成	构建	Python
10	音频语言模型	构建	Python
11	实时音频处理	构建	Python
12	构建语音助手流水线	构建	Python
13	神经音频编解码器：EnCodec、SNAC、Mimi 与 DAC	学习	Python
14	语音活动检测与轮次管理	构建	Python
15	流式语音到语音：Moshi 与 Hibiki	学习	Python
16	语音反欺骗与音频水印	构建	Python
17	音频评估：WER、MOS、MMAU 与排行榜	学习	Python

阶段 7 — 深入理解 Transformer 16 节课 弄懂改变 AI 发展方向的核心架构。

#	课程	类型	语言
01	为什么需要 Transformer：RNN 的局限	学习	Python
02	从零实现自注意力	构建	Python
03	多头注意力	构建	Python
04	位置编码：正弦编码、RoPE 与 ALiBi	构建	Python
05	完整 Transformer：编码器与解码器	构建	Python
06	BERT：掩码语言建模	构建	Python
07	GPT：因果语言建模	构建	Python
08	T5 与 BART：编码器—解码器模型	学习	Python
09	视觉 Transformer（ViT）	构建	Python
10	音频 Transformer：Whisper 架构	学习	Python
11	混合专家模型（MoE）	构建	Python
12	KV 缓存、FlashAttention 与推理优化	构建	Python
13	缩放定律	学习	Python
14	从零构建 Transformer	构建	Python
15	注意力变体：滑动窗口、稀疏与差分注意力	构建	Python
16	推测解码：草稿、验证与重复	构建	Python

阶段 8 — 生成式 AI 15 节课 生成图像、视频、音频、3D 内容等。

#	课程	类型	语言
01	生成模型：分类与历史	学习	Python
02	自动编码器与 VAE	构建	Python
03	GAN：生成器与判别器	构建	Python
04	条件 GAN 与 Pix2Pix	构建	Python
05	StyleGAN	构建	Python
06	扩散模型：从零实现 DDPM	构建	Python
07	潜空间扩散与 Stable Diffusion	构建	Python
08	ControlNet、LoRA 与条件控制	构建	Python
09	局部修复、画布扩展与图像编辑	构建	Python
10	视频生成	构建	Python
11	音频生成	构建	Python
12	3D 内容生成	构建	Python
13	流匹配与矫正流	构建	Python
14	生成效果评估：FID 与 CLIP Score	构建	Python
19	视觉自回归建模（VAR）：下一尺度预测	构建	Python

阶段 9 — 强化学习 12 节课 理解 RLHF 与博弈智能体的基础。

#	课程	类型	语言
01	马尔可夫决策过程：状态、动作与奖励	学习	Python
02	动态规划	构建	Python
03	蒙特卡洛方法	构建	Python
04	Q-Learning 与 SARSA	构建	Python
05	深度 Q 网络（DQN）	构建	Python
06	策略梯度：REINFORCE	构建	Python
07	Actor-Critic：A2C 与 A3C	构建	Python
08	PPO	构建	Python
09	奖励建模与 RLHF	构建	Python
10	多智能体强化学习	构建	Python
11	仿真到现实迁移	构建	Python
12	面向游戏的强化学习	构建	Python

阶段 10 — 从零构建大语言模型 24 节课 亲手构建、训练并理解大语言模型。

#	课程	类型	语言
01	分词器：BPE、WordPiece 与 SentencePiece	构建	Python, Rust
02	从零构建分词器	构建	Python
03	预训练数据流水线	构建	Python
04	预训练迷你 GPT（124M）	构建	Python
05	分布式训练：FSDP 与 DeepSpeed	构建	Python
06	指令微调：SFT	构建	Python
07	RLHF：奖励模型与 PPO	构建	Python
08	DPO：直接偏好优化	构建	Python
09	宪法式 AI 与自我改进	构建	Python
10	模型评估：基准与评测	构建	Python
11	量化：INT8、GPTQ、AWQ 与 GGUF	构建	Python
12	推理优化	构建	Python
13	构建完整的 LLM 流水线	构建	Python
14	开放模型：架构解析	学习	Python
15	推测解码与 EAGLE-3	构建	Python
16	差分注意力（V2）	构建	Python
17	原生稀疏注意力（DeepSeek NSA）	构建	Python
18	多 Token 预测（MTP）	构建	Python
19	DualPipe 并行	学习	Python
20	DeepSeek-V3 架构解析	学习	Python
21	Jamba：SSM 与 Transformer 混合架构	学习	Python
22	异步与 Hogwild! 推理	构建	Python
25	推测解码与 EAGLE	构建	Python
34	梯度检查点与激活值重计算	构建	Python

阶段 11 — 大语言模型工程 17 节课 让大语言模型可靠地服务于生产场景。

#	课程	类型	语言
01	提示词工程：技巧与模式	构建	Python
02	少样本学习、思维链与思维树	构建	Python
03	结构化输出	构建	Python
04	嵌入与向量表示	构建	Python
05	上下文工程	构建	Python
06	RAG：检索增强生成	构建	Python
07	高级 RAG：切块与重排序	构建	Python
08	使用 LoRA 与 QLoRA 微调	构建	Python
09	函数调用与工具使用	构建	Python
10	评估与测试	构建	Python
11	缓存、速率限制与成本	构建	Python
12	护栏与安全	构建	Python
13	构建生产级 LLM 应用	构建	Python
14	模型上下文协议（MCP）	构建	Python
15	提示词缓存与上下文缓存	构建	Python
16	智能体状态机：图、节点与检查点	构建	Python
17	智能体框架的权衡	学习	Python

阶段 12 — 多模态 AI 25 节课 跨模态观察、聆听、阅读和推理，从 ViT 图像块到计算机操作智能体。

#	课程	类型	语言
01	视觉 Transformer 与图像块 Token 原语	学习	Python
02	CLIP 与对比式视觉语言预训练	构建	Python
03	BLIP-2 的 Q-Former 模态桥梁	构建	Python
04	Flamingo 与门控交叉注意力	学习	Python
05	LLaVA 与视觉指令微调	构建	Python
06	任意分辨率视觉：Patch-n'-Pack 与 NaFlex	构建	Python
07	开放权重 VLM 实践：真正重要的因素	学习	Python
08	LLaVA-OneVision：单图、多图与视频	构建	Python
09	Qwen-VL 系列与动态帧率视频	学习	Python
10	InternVL3 的原生多模态预训练	学习	Python
11	Chameleon：早期融合的纯 Token 架构	构建	Python
12	Emu3：用于生成的下一 Token 预测	学习	Python
13	Transfusion：自回归与扩散结合	构建	Python
14	Show-o：统一的离散扩散模型	学习	Python
15	Janus-Pro：解耦的编码器	构建	Python
16	MIO：任意模态到任意模态的流式处理	学习	Python
17	视频语言模型的时间定位	构建	Python
18	百万 Token 上下文中的长视频	构建	Python
19	音频语言模型：从 Whisper 到 AF3	构建	Python
20	全模态模型：Thinker-Talker 流式架构	构建	Python
21	具身视觉语言动作模型：RT-2、OpenVLA、π0 与 GR00T	学习	Python
22	文档与图表理解	构建	Python
23	ColPali：以视觉为核心的文档 RAG	构建	Python
24	多模态 RAG 与跨模态检索	构建	Python
25	多模态智能体与计算机操作（综合项目）	构建	Python

阶段 13 — 工具与协议 45 节课 理解 AI 系统连接现实世界的接口。

#	课程	类型	语言
01	工具接口	学习	Python
02	深入理解函数调用	构建	Python
03	并行与流式工具调用	构建	Python
04	结构化输出	构建	Python
05	工具 Schema 设计	学习	Python
06	MCP 基础：无状态请求与 JSON-RPC	学习	Python
07	构建 MCP 服务器：无状态 Python 与 TypeScript	构建	Python, TypeScript
08	构建 MCP 客户端：发现、路由与新旧协议兼容	构建	Python
09	MCP 传输：stdio 与无状态 Streamable HTTP	学习	Python
10	MCP 资源与提示词：无状态服务器的可寻址上下文	构建	Python
11	MCP 模型输入：Sampling 迁移与无状态 MRTR	构建	Python
12	显式范围与无状态信息征询	构建	Python
13	MCP Tasks 扩展：在无状态核心上持久执行任务	构建	Python
14	无状态协议上的 MCP Apps	构建	Python
15	MCP 安全：被污染的元数据、路由与 MRTR 状态	学习	Python
16	MCP 授权：CIMD、签发者绑定、PKCE 与逐步提权	构建	Python
17	无状态 MCP 网关与注册表准入	学习	Python
18	生产环境中的 MCP 认证：签发者绑定的注册与令牌	构建	Python
19	A2A 协议	构建	Python
20	OpenTelemetry GenAI	构建	Python
21	LLM 路由层	学习	Python
22	Agent Skills：可移植契约与运行时边界	构建	Python
23	综合项目：无状态工具生态	构建	Python
24	技能发现与渐进式披露	构建	Python
25	技能调用与路由	构建	Python
26	技能权限、沙盒与信任	构建	Python
27	技能评估、打包与可移植性	构建	Python
28	MCP 工具契约与内容	构建	Python
29	MCP 可靠性：取消与流量控制	构建	Python
30	MCP 注册表供应链：准入、漂移与回滚	构建	Python
31	MCP 一致性工程：版本、证据与运维	构建	Python
32	程序解剖：从零读懂 ELF	构建	Python
33	反汇编与控制流图	构建	Python
34	把机器码提升为伪代码	构建	Python
35	二进制分析中的证据、置信度与未知项	构建	Python
36	重建程序并证明等价	构建	Python
37	逆向工程全景	构建	Python
38	调用约定与栈帧	构建	Python
39	编译器惯用法与优化	构建	Python
40	链接、加载与去符号二进制	构建	Python
41	恢复数据与类型	构建	Python
42	动态分析你自己的程序	构建	Python
43	字节码与托管格式	构建	Python
44	二进制差异比较与符号执行	构建	Python
45	AI 辅助逆向工程	构建	Python

第 06–18、28–31 课构成模型上下文协议（MCP）专项学习路径。路线清单规定的顺序为 06、07、08、09、10、11、12、13、14、15、16、18、17、28、29、30、31；按上文对应宿主的方式调用 learn-mcp 开始学习。第 23 课是唯一的可选综合项目，还需要先完成第 19、20 课。

第 22、24–27 课构成 Agent Skills 专项学习路径，从技能包契约一直学到真实宿主中的发布验收。按上文对应宿主的方式调用 learn-agent-skills 开始学习；完成第 22 课后不要按编号跳到第 23 课。

阶段 14 — 智能体工程 54 节课 从原理构建智能体，可靠地使用编程智能体，并在动手前明确目标。

#	课程	类型	语言
01	智能体循环	构建	Python
02	ReWOO 与“规划—执行”模式	构建	Python
03	Reflexion 与语言化强化学习	构建	Python
04	思维树与 LATS	构建	Python
05	Self-Refine 与 CRITIC	构建	Python
06	工具使用与函数调用	构建	Python
07	智能体记忆：虚拟上下文与记忆分页	构建	Python
08	记忆块与空闲时计算	构建	Python
09	混合记忆：向量、图与键值存储	构建	Python
10	技能库与终身学习（Voyager）	构建	Python
11	使用 HTN 与进化搜索进行规划	构建	Python
12	Anthropic 的工作流模式	构建	Python
13	有状态图编排：持久执行与检查点	构建	Python
14	智能体的 Actor 模型	构建	Python
15	基于角色的智能体团队：角色、任务与流程	构建	Python
16	OpenAI Agents SDK：移交、护栏与追踪	构建	Python
17	将运行框架作为库：子智能体与会话存储	构建	Python
18	生产级智能体运行时	学习	Python
19	基准测试：SWE-bench、GAIA 与 AgentBench	学习	Python
20	基准测试：WebArena 与 OSWorld	学习	Python
21	计算机操作：Claude、OpenAI CUA 与 Gemini	构建	Python
22	语音智能体：Pipecat 与 LiveKit	构建	Python
23	OpenTelemetry GenAI 语义约定	构建	Python
24	智能体可观测性：Langfuse、Phoenix 与 Opik	学习	Python
25	多智能体辩论与协作	构建	Python
26	失效模式：智能体为什么会失败	构建	Python
27	提示词注入与 PVE 防御	构建	Python
28	编排模式：监督者、群体与分层	构建	Python
29	生产运行时：队列、事件与定时任务	学习	Python
30	以评估驱动智能体开发	构建	Python
31	智能体工作台：能力强的模型为何仍会失败	学习	Python
32	最小化智能体工作台	构建	Python
33	把智能体指令变成可执行约束	构建	Python
34	仓库记忆与持久状态	构建	Python
35	智能体初始化脚本	构建	Python
36	范围契约与任务边界	构建	Python
37	运行时反馈循环	构建	Python
38	验证关卡	构建	Python
39	审阅智能体：把构建与评判分开	构建	Python
40	跨会话交接	构建	Python
41	在真实仓库中使用工作台	构建	Python
42	综合项目：交付可复用的智能体工作台	构建	Python
43	在智能体写代码前界定任务	构建	Python
44	制定有证据支撑的执行计划	构建	Python
45	隔离委派智能体工作并约定合并规则	构建	Python
46	将每次智能体纠错转化为系统改进	构建	Python
47	先定义成果，再选择产出形式	构建	Python
48	找到人们实际执行的工作流程	构建	Python
49	梳理假设，优先化解最大风险	构建	Python
50	选择能影响决策的最小可测试单元	构建	Python
51	编写保留判断空间的规格说明	构建	Python
52	在结果出现前设计成功指标	构建	Python
53	有意识地选择原型、试点或生产部署	构建	Python
54	建立有责任归属和退出机制的反馈棘轮	构建	Python

阶段 14 的每节工作台课程（第 31–42 课）都附带 mission.md，让智能体在阅读完整课程文档前先了解任务。

第 31–46 课构成智能体辅助工程路径：路线清单把工作台基础与任务界定、规划、委派和持续反馈串联起来。第 47–54 课构成产品判断与交付路径，依次学习界定成果、收集证据、评估风险、控制范围、设计指标、分阶段发布及明确反馈责任。

阶段 15 — 自主系统 22 节课 学习长程任务智能体、自我改进与 2026 年的安全机制。

#	课程	类型	语言
01	从聊天机器人到长程任务智能体（METR）	学习	Python
02	STaR、V-STaR、Quiet-STaR：自学式推理	学习	Python
03	AlphaEvolve：进化式编程智能体	学习	Python
04	达尔文—哥德尔机器：可自我修改的智能体	学习	Python
05	AI Scientist v2：达到学术研讨会水平的研究	学习	Python
06	自动化对齐研究（Anthropic AAR）	学习	Python
07	递归式自我改进：能力与对齐的权衡	学习	Python
08	有边界的自我改进设计	学习	Python
09	自主编程智能体全景：SWE-bench 与 CodeAct	学习	Python
10	自主智能体的权限模式	学习	Python
11	浏览器智能体与间接提示词注入	学习	Python
12	长时间运行智能体的持久执行	学习	Python
13	行动预算、迭代上限与成本控制	学习	Python
14	终止开关、断路器与金丝雀令牌	学习	Python
15	人在回路：先提案、后提交	学习	Python
16	检查点与回滚	学习	Python
17	宪法式 AI 与规则覆盖	学习	Python
18	Llama Guard 与输入输出分类	学习	Python
19	Anthropic 负责任扩展政策 v3.0	学习	Python
20	OpenAI 准备度框架与 DeepMind FSF	学习	Python
21	METR 时间跨度与外部评估	学习	Python
22	CAIS、CAISI 与社会规模风险	学习	Python

阶段 16 — 多智能体与群体智能 25 节课 研究协调、涌现和集体智能。

#	课程	类型	语言
01	为什么需要多智能体	学习	TypeScript
02	FIPA-ACL 的历史与言语行为	学习	Python
03	通信协议	构建	TypeScript
04	多智能体基本模型	学习	Python
05	监督者 / 编排者—工作者模式	构建	Python
06	分层架构与任务分解漂移	学习	Python
07	心智社会与多智能体辩论	构建	Python
08	角色分工：规划者、批评者、执行者与验证者	构建	Python
09	并行群体与网络化架构	构建	Python
10	群聊与发言者选择	构建	Python
11	移交与例程：无状态编排	构建	Python
12	A2A：智能体间协议	构建	Python
13	共享记忆与黑板模式	构建	Python
14	共识与拜占庭容错	构建	Python
15	投票、自洽性与辩论拓扑	构建	Python
16	协商与议价	构建	Python
17	生成式智能体与涌现式模拟	构建	Python
18	心智理论与涌现式协作	构建	Python
19	群体优化：PSO 与 ACO	构建	Python
20	多智能体强化学习：MADDPG、QMIX 与 MAPPO	学习	Python
21	智能体经济：Token 激励与声誉	学习	Python
22	生产扩展：队列、检查点与持久性	构建	Python
23	失效模式：MAST、群体思维与单一化	学习	Python
24	评估与协作基准	学习	Python
25	案例研究与 2026 年最新进展	学习	Python

阶段 17 — 基础设施与生产部署 29 节课 把 AI 系统真正交付到现实场景。

#	课程	类型	语言
01	托管式 LLM 平台：Bedrock、Azure OpenAI 与 Vertex AI	学习	Python
02	推理平台经济学：Fireworks、Together、Baseten 与 Modal	学习	Python
03	Kubernetes 上的 GPU 自动扩缩容：Karpenter 与 KAI Scheduler	学习	Python
04	推理服务引擎内部机制：PagedAttention、连续批处理与分块预填充	学习	Python
05	生产环境中的 EAGLE-3 推测解码	学习	Python
06	前缀缓存推理服务：RadixAttention 与 KV 复用	学习	Python
07	面向硬件的推理编译：Blackwell 上的 FP8 与 NVFP4	学习	Python
08	推理指标：TTFT、TPOT、ITL、Goodput 与 P99	学习	Python
09	生产级量化：AWQ、GPTQ、GGUF、FP8 与 NVFP4	学习	Python
10	缓解无服务器 LLM 的冷启动	学习	Python
11	多区域 LLM 服务与 KV 缓存局部性	学习	Python
12	边缘推理：ANE、Hexagon、WebGPU 与 Jetson	学习	Python
13	选择 LLM 可观测性技术栈	学习	Python
14	提示词缓存与语义缓存的经济性	学习	Python
15	批量 API：成为行业标准的五折价格	学习	Python
16	模型路由：降低成本的基本手段	学习	Python
17	预填充与解码分离：NVIDIA Dynamo 与 llm-d	学习	Python
18	生产级推理服务栈：KV 卸载与缓存感知路由	学习	Python
19	AI 网关：LiteLLM、Portkey、Kong 与 Bifrost	学习	Python
20	影子部署、金丝雀发布与渐进式上线	学习	Python
21	LLM 功能的 A/B 测试：GrowthBook 与 Statsig	学习	Python
22	LLM API 负载测试：k6、LLMPerf 与 GenAI-Perf	构建	Python
23	面向 AI 的 SRE：多智能体事件响应	学习	Python
24	LLM 生产系统中的混沌工程	学习	Python
25	安全：密钥、PII 清理与审计日志	学习	Python
26	合规：SOC 2、HIPAA、GDPR、欧盟 AI 法案与 ISO 42001	学习	Python
27	面向 LLM 的 FinOps：单位经济性与多租户成本归因	学习	Python
28	自托管推理服务选型：按硬件与规模匹配引擎	学习	Python
29	模型演示界面：从函数到可分享的应用	构建	Python

阶段 18 — 伦理、安全与对齐 30 节课 构建真正有益于人的 AI；安全不是选修项。

#	课程	类型	语言
01	指令遵循作为对齐信号	学习	Python
02	奖励黑客与古德哈特定律	学习	Python
03	直接偏好优化方法族	学习	Python
04	谄媚行为如何被 RLHF 放大	学习	Python
05	宪法式 AI 与 RLAIF	学习	Python
06	内部优化（Mesa-Optimization）与欺骗性对齐	学习	Python
07	潜伏智能体：持续性欺骗	学习	Python
08	前沿模型的上下文内谋划	学习	Python
09	伪装对齐	学习	Python
10	AI 控制：在系统试图规避时仍保持安全	学习	Python
11	可扩展监督与弱模型指导强模型	学习	Python
12	红队测试：PAIR 与自动化攻击	构建	Python
13	多样本越狱	学习	Python
14	ASCII 艺术与视觉越狱	构建	Python
15	间接提示词注入	构建	Python
16	红队工具：Garak、Llama Guard 与 PyRIT	构建	Python
17	WMDP 与双重用途能力评估	学习	Python
18	前沿模型安全框架：RSP、PF 与 FSF	学习	Python
19	模型福利研究	学习	Python
20	偏见与表征伤害	构建	Python
21	公平性标准：群体、个体与反事实	学习	Python
22	面向 LLM 的差分隐私	构建	Python
23	水印：SynthID、Stable Signature 与 C2PA	构建	Python
24	监管框架：欧盟、美国、英国与韩国	学习	Python
25	EchoLeak 与 AI 系统的 CVE	学习	Python
26	模型卡、系统卡与数据集卡	构建	Python
27	数据来源追溯与训练数据治理	学习	Python
28	对齐研究生态：MATS、Redwood、Apollo 与 METR	学习	Python
29	内容审核系统：OpenAI、Perspective 与 Llama Guard	构建	Python
30	双重用途风险：网络、生物、化学与核领域	学习	Python

阶段 19 — 综合项目 85 节课 17 个端到端产品与 9 条深度实践路线；每个项目需 20–40 小时，每条路线包含 4–12 节课。

#	项目	综合阶段	语言
01	终端原生编程智能体	P0 P5 P7 P10 P11 P13 P14 P15 P17 P18	Python
02	面向代码库的 RAG：跨仓库语义搜索	P5 P7 P11 P13 P17	Python
03	实时语音助手（ASR → LLM → TTS）	P6 P7 P11 P13 P14 P17	Python
04	多模态文档问答：视觉优先	P4 P5 P7 P11 P12 P17	Python
05	自主研究智能体（AI Scientist 类）	P0 P2 P3 P7 P10 P14 P15 P16 P18	Python
06	面向 Kubernetes 的 DevOps 故障排查智能体	P11 P13 P14 P15 P17 P18	Python
07	端到端微调流水线	P2 P3 P7 P10 P11 P17 P18	Python
08	生产级 RAG 聊天机器人：受监管领域	P5 P7 P11 P12 P17 P18	Python
09	代码迁移智能体：仓库级升级	P5 P7 P11 P13 P14 P15 P17	Python
10	多智能体软件工程团队	P11 P13 P14 P15 P16 P17	Python
11	LLM 可观测性与评估仪表盘	P11 P13 P17 P18	Python
12	视频理解流水线：从场景到问答	P4 P6 P7 P11 P12 P17	Python
13	具备注册表与治理机制的无状态 MCP 服务器	P11 P13 P14 P17 P18	Python
14	推测解码推理服务器	P3 P7 P10 P17	Python
15	宪法式安全测试框架与红队演练环境	P10 P11 P13 P14 P18	Python
16	从 GitHub Issue 到 PR 的自主智能体	P11 P13 P14 P15 P17	Python
17	自适应多模态个人 AI 导师	P5 P6 P11 P12 P14 P17 P18	Python

深度实践路线：每条路线由多节课组成，带你从零构建一个完整子系统。

#	项目	综合阶段	语言
20	智能体运行框架的循环契约	A. 智能体运行框架	Python
21	带 Schema 验证的工具注册表	A. 智能体运行框架	Python
22	基于换行分隔 stdio 的 JSON-RPC 2.0 传输	A. 智能体运行框架	Python
23	函数调用分发器	A. 智能体运行框架	Python
24	“规划—执行”控制流	A. 智能体运行框架	Python
25	验证关卡与观察预算	A. 智能体运行框架	Python
26	带拒绝列表与路径隔离的沙盒运行器	A. 智能体运行框架	Python
27	基于固定任务的评估框架	A. 智能体运行框架	Python
28	基于 OTel GenAI Span 与 Prometheus 指标的可观测性	A. 智能体运行框架	Python
29	在运行框架上完成端到端编程任务	A. 智能体运行框架	Python
30	从零实现 BPE 分词器	B. NLP 与 LLM	Python
31	使用滑动窗口的分词数据集	B. NLP 与 LLM	Python
32	Token 嵌入与位置嵌入	B. NLP 与 LLM	Python
33	多头自注意力	B. NLP 与 LLM	Python
34	从零实现 Transformer 模块	B. NLP 与 LLM	Python
35	组装 GPT 模型	B. NLP 与 LLM	Python
36	训练循环与评估	B. NLP 与 LLM	Python
37	加载预训练权重	B. NLP 与 LLM	Python
38	更换分类头并微调分类器	B. NLP 与 LLM	Python
39	监督式指令微调	B. NLP 与 LLM	Python
40	从零实现直接偏好优化	B. NLP 与 LLM	Python
41	完整评估流水线	B. NLP 与 LLM	Python
42	大规模语料下载器	C. 端到端训练	Python
43	HDF5 分词语料	C. 端到端训练	Python
44	带线性预热的余弦学习率	C. 端到端训练	Python
45	梯度裁剪与混合精度	C. 端到端训练	Python
46	梯度累积	C. 端到端训练	Python
47	保存检查点并恢复训练	C. 端到端训练	Python
48	从零实现分布式数据并行与 FSDP	C. 端到端训练	Python
49	语言模型评估框架	C. 端到端训练	Python
50	假设生成器	D. 自动化研究	Python
51	文献检索	D. 自动化研究	Python
52	实验运行器	D. 自动化研究	Python
53	结果评估器	D. 自动化研究	Python
54	论文写作器	D. 自动化研究	Python
55	批评与修正循环	D. 自动化研究	Python
56	迭代调度器	D. 自动化研究	Python
57	端到端研究演示	D. 自动化研究	Python
58	视觉编码器的图像块	E. 多模态 VLM	Python
59	视觉 Transformer 编码器	E. 多模态 VLM	Python
60	用于模态对齐的投影层	E. 多模态 VLM	Python
61	交叉注意力融合	E. 多模态 VLM	Python
62	视觉语言预训练	E. 多模态 VLM	Python
63	多模态评估	E. 多模态 VLM	Python
64	切块策略对比	F. 高级 RAG	Python
65	结合 BM25 与密集嵌入的混合检索	F. 高级 RAG	Python
66	交叉编码器重排序器	F. 高级 RAG	Python
67	查询改写：HyDE、多查询与问题分解	F. 高级 RAG	Python
68	RAG 评估：精确率、召回率、MRR、nDCG、忠实度与答案相关性	F. 高级 RAG	Python
69	端到端 RAG 系统	F. 高级 RAG	Python
70	任务规格格式	G. 评估框架	Python
71	经典评估指标	G. 评估框架	Python
72	代码执行指标	G. 评估框架	Python
73	困惑度与校准	G. 评估框架	Python
74	排行榜汇总	G. 评估框架	Python
75	端到端评估运行器	G. 评估框架	Python
76	从零实现集合通信操作	H. 分布式训练	Python
77	从零实现 DDP 数据并行	H. 分布式训练	Python
78	ZeRO 优化器状态分片	H. 分布式训练	Python
79	流水线并行与气泡分析	H. 分布式训练	Python
80	分片检查点与原子恢复	H. 分布式训练	Python
81	端到端分布式训练	H. 分布式训练	Python
82	越狱方式分类	I. 安全测试框架	Python
83	提示词注入检测器	I. 安全测试框架	Python
84	拒绝回答评估	I. 安全测试框架	Python
85	内容分类器集成	I. 安全测试框架	Python
86	宪法式规则引擎	I. 安全测试框架	Python, YAML
87	端到端安全关卡	I. 安全测试框架	Python

书籍与认证

将核心课程当作一本书来读

phases/ 下的 20 个阶段可编成六卷电子书。CI 使用同一份课程源文件构建 EPUB 和 PDF，并把它们附在每次 GitHub 发布中；下表链接始终指向最新版本。卷号表示系列顺序，不是版本号；每份文件都标注编制日期，旧版本仍可从历史发布页下载。

认证课程不会编入这套电子书。它们的 AI 导师进度、可运行实验、交互图示、诊断测验和限时模拟考试仍保留在 GitHub 与课程网站上。

卷	主题	阶段	下载
1	基础：数学、工具与经典机器学习	00–02	EPUB · PDF
2	深度学习：神经网络、视觉与语音	03、04、06	EPUB · PDF
3	语言：自然语言处理基础与 Transformer	05、07	EPUB · PDF
4	大语言模型：生成、强化学习、预训练与工程实践	08–11	EPUB · PDF
5	智能体：多模态、协议、自主系统与群体协作	12–16	EPUB · PDF
6	生产实践：基础设施、安全与综合项目	17–19	EPUB · PDF

电子书是一份阶段性快照，仓库则持续更新。每章末尾都有链接，可以回到对应课程的动画图示、测验和可运行代码。要在本地构建，请安装 pandoc 后运行 python3 scripts/build_book.py；构建流程见 book/README.md。

准备 Claude 认证

Claude 认证学院是一套免费、开源的备考课程，覆盖四条官方认证路线：Associate Foundations、Developer Foundations、Architect Foundations 和 Architect Professional。每条路线都结合考试蓝图对应的课程、可运行实验、诊断测验、综合项目，以及一套原创的完整模拟试卷。

可在 Claude Code、Codex、ChatGPT、Cursor 或其他智能体中使用 GitHub 入门指南。在 Codex 中输入 claude-certification，在 Claude Code 中使用 /claude-certification，其他宿主则可直接要求使用 claude-certification 技能。它会帮你选路线，在 CLAUDE-CERTIFICATION.md 中保存持续更新的学习计划，逐步讲解课程、运行真实实验，并根据成果文件给出反馈。你也可以在认证课程网站学习同一套内容。

这是一套依据公开考试目标编写的独立学习资料，与 Anthropic 没有关联；它不复现真实考试题目，也不能保证通过考试。

准备 MCP Associate（MCPA）认证

MCPA 认证课程是针对 Agentic AI Foundation 的 Model Context Protocol Associate 考试编写的免费开源备考资料，该考试通过 Linux Foundation Training 提供。34 节课覆盖五个考试领域，并围绕 2026-07-28 版无状态协议展开：以每次请求的 _meta 和 server/discover 替代旧握手、多轮请求、订阅、缓存、tasks 与 MCP Apps 扩展、OAuth 授权，以及注册表和 SDK 分层。每节课都附有可运行的标准库实验，检查运行记录是否符合当前协议格式；整条路线还包含诊断测验、综合项目和三套按公开蓝图权重编排的原创完整模拟试卷。

可在 Claude Code、Codex、ChatGPT、Cursor 或其他智能体中使用 GitHub 入门指南。在 Codex 中输入 mcpa-certification，在 Claude Code 中使用 /mcpa-certification，其他宿主则可直接要求使用 mcpa-certification 技能。它会在 MCPA-CERTIFICATION.md 中保存学习路线，逐步讲解、运行实验，并根据成果给出反馈。MCPA 网站路线也提供相同课程。

这是一套依据公开考试目标编写的独立资料，与 Agentic AI Foundation 或 Linux Foundation 没有关联；它不复现真实考试题目，也不能保证通过考试。

工具箱

每节课都产出可复用成果。你可以将其安装到代理中，或从仓库根目录运行下方脚本。

课程结构与可复用成果

单节课的结构

每节课都有独立目录，整套课程遵循同一结构：

phases/<NN>-<phase-name>/<NN>-<lesson-name>/
├── code/      可运行的实现（Python、TypeScript、Rust、Julia）
├── docs/
│   └── en.md  课程讲解文档
└── outputs/   本课产出的提示词、技能、智能体或 MCP 服务器

每节课都经过六个环节，其中最关键的是“亲手构建 / 使用现成工具”的对照：先从零实现算法，再用生产级库完成同一操作。因为你写过较小的版本，框架内部做了什么就不再是黑箱。

%%{init: {'theme':'base','themeVariables':{'primaryColor':'#fafaf5','primaryTextColor':'#1a1a1a','primaryBorderColor':'#3553ff','lineColor':'#3553ff','fontFamily':'JetBrains Mono','fontSize':'13px'}}}%%
flowchart LR
  M["一句话核心思想"] --> Pr["问题：具体痛点"]
  Pr --> C["概念：图解与直觉"]
  C --> B["亲手构建：从数学出发"]
  B --> U["使用现成工具：PyTorch / sklearn"]
  U --> S["交付成果：提示词 · 技能 · 智能体 · MCP"]

每节课都有实际产出

许多课程以“恭喜，你学会了某个知识点”收尾；这里的每节课都要求你留下一个可复用的工具，可以安装或放进日常工作流。

_{FIG_001 · A} 提示词	_{FIG_001 · B} 技能	_{FIG_001 · C} 智能体	_{FIG_001 · D} MCP 服务器
复制到任意 AI 助手中，针对具体任务获得专家级帮助。	安装到 Claude、Cursor、Codex、OpenClaw、Hermes 或任何能读取 `SKILL.md` 的智能体中。	部署为自主工作的智能体；你会在阶段 14 亲手编写它的核心循环。	接入任何兼容 MCP 的客户端；阶段 13 会带你从头构建。

安装课程成果

课程成果文件位于 phases/**/outputs/，包含 414 个技能和 100 个提示词。克隆仓库后，可以用 scripts/install_skills.py 安装；脚本支持按阶段或标签筛选、预演，以及针对不同宿主的目录布局：

python3 scripts/install_skills.py <target>                                 # every skill, default --layout skills (nested)
python3 scripts/install_skills.py <target> --layout skills                 # same as above, explicit
python3 scripts/install_skills.py <target> --type all                      # skills + prompts + agents
python3 scripts/install_skills.py <target> --phase 14                      # one phase only
python3 scripts/install_skills.py <target> --tag rag                       # filter by tag
python3 scripts/install_skills.py <target> --layout flat                   # flat files
python3 scripts/install_skills.py <target> --dry-run                       # preview without writing
python3 scripts/install_skills.py <target> --force                         # overwrite existing files

<target> 是目标宿主读取技能的目录，例如 ~/.claude/skills/、~/.cursor/skills/、~/.config/openclaw/skills/ 或 .skills/。

默认情况下，若目标位置已有同名文件，脚本会列出所有冲突路径并以退出码 1 结束，不会覆盖。用 --dry-run 预览，用 --force 才会覆盖。正式安装时会在目标目录写入 manifest.json，按类型和阶段记录完整清单。请选择宿主支持的布局：

`--layout`	写入路径
`skills`	`<target>/<name>/SKILL.md`；Claude、Cursor、Codex、OpenClaw、Hermes 支持的嵌套布局
`by-phase`	`<target>/phase-NN/<name>.md`；按阶段分组
`flat`	`<target>/<name>.md`；平铺文件

将智能体工作台接入自己的仓库

阶段 14 的综合项目提供一套可复用的 Agent Workbench：AGENTS.md、Schema、初始化脚本、验证脚本和交接脚本。可将它复制到任意仓库：

python3 scripts/scaffold_workbench.py path/to/your-repo            # full pack + seeds
python3 scripts/scaffold_workbench.py path/to/your-repo --minimal  # skip docs/
python3 scripts/scaffold_workbench.py path/to/your-repo --dry-run  # preview only
python3 scripts/scaffold_workbench.py path/to/your-repo --force    # overwrite

你会得到七个相互配合的工作台部分、初始 task_board.json，以及符合 schema_version: 1 的 agent_state.json。之后编辑任务和 AGENTS.md，运行 scripts/init_agent.py，再把明确的工作契约交给智能体。原始模板位于 phases/14-agent-engineering/42-agent-workbench-capstone/outputs/agent-workbench-pack/。

以 JSON 浏览完整课程

scripts/build_catalog.py 扫描磁盘上的每个阶段、课程和成果文件，在仓库根目录生成 catalog.json：一份文件即可描述整个课程。

python3 scripts/build_catalog.py               # writes <repo>/catalog.json
python3 scripts/build_catalog.py --stdout      # to stdout, do not touch repo
python3 scripts/build_catalog.py --out path/to/file.json

目录数据直接来自文件系统，不依赖 README，因此能反映磁盘上的实际课程。它可供站点构建和下游工具使用，也可帮助核对 README 中的数量。Schema 说明写在脚本开头。

课程工作流将 catalog.json 生成为临时文件，并由 Git 忽略。不要提交它。同一工作流将 audit_lessons.py 作为阻断式检查运行。

快速检查每节课的 Python 代码

scripts/lesson_run.py 会对各课程 code/ 目录中的 .py 文件进行字节码编译。默认只检查语法，不执行代码，不需要 API 密钥或大型机器学习依赖。它能发现常见的缩进错误、损坏的 f-string 和误编辑。

python3 scripts/lesson_run.py                  # syntax-check the whole curriculum
python3 scripts/lesson_run.py --phase 14       # one phase only
python3 scripts/lesson_run.py --json           # JSON report on stdout
python3 scripts/lesson_run.py --strict         # exit 1 if any lesson fails
python3 scripts/lesson_run.py --execute        # actually run, 10s timeout per lesson

使用 --execute 时，脚本会运行每节课的 code/main.py，若不存在则运行找到的第一个 .py 文件，并设置 10 秒超时。若入口文件开头声明 # requires: pkg1, pkg2，则缺少第三方依赖时会跳过并说明原因。执行模式需要主动选择，未接入 CI。

脚本仅使用 Python 3.10+ 标准库。设置 LINK_CHECK_SKIP=domain1,domain2 可覆盖默认跳过的站点列表；twitter.com、x.com、linkedin.com、instagram.com 和 medium.com 通常会拦截自动化的 HEAD/GET 请求。

基础论文与协议

Attention Is All You Need（注意力机制）— Vaswani 等，2017 → 阶段 7
Language Models are Few-Shot Learners（GPT-3）→ 阶段 10
Denoising Diffusion Probabilistic Models（扩散模型）→ 阶段 8
InstructGPT / RLHF → 阶段 10
Direct Preference Optimization（直接偏好优化）→ 阶段 10
Chain-of-Thought Prompting（思维链提示）→ 阶段 11
ReAct: Reasoning + Acting in LLMs（推理与行动）→ 阶段 14
Model Context Protocol（MCP）— Anthropic → 阶段 13

参与贡献

目标	请阅读
贡献课程或修复问题	CONTRIBUTING.md
为团队或学校创建分支	FORKING.md
使用课程模板	LESSON_TEMPLATE.md
跟踪项目进度	ROADMAP.md
查询术语	glossary/terms.md
查看行为准则	CODE_OF_CONDUCT.md

提交课程前，请运行不变量检查：

python3 scripts/audit_lessons.py           # full curriculum
python3 scripts/audit_lessons.py --phase 14  # single phase
python3 scripts/audit_lessons.py --json    # CI-friendly output

任何规则失败都会让命令返回非零退出码。规则 L001–L010 检查目录结构、docs/en.md 是否存在且包含一级标题、code/ 是否非空、quiz.json 是否符合当前 Schema（拒绝曾引发 #102 问题的旧 q/choices/answer 字段），以及课程文档中的相对链接。

赞助本项目

_{114,584 位读者 · 近 30 天 181,995 次页面浏览 · 数据截至 2026-08-29}

课程免费，采用 MIT 许可证，共有 542 节课。感谢所有让它持续开放的赞助方和支持者。查看赞助方与支持者。

想支持项目？可了解赞助方式，包括硬件赞助，或通过 GitHub 赞助。

如果这份手册帮助了你，欢迎为仓库加星，支持项目持续更新。

许可证

本项目采用 MIT 许可证。你可以复刻、教学、出售或发布；欢迎署名，但许可证不强制要求。

由 Rohit Ghumare 与社区共同维护。

_{@ghumare64 · aiengineeringfromscratch.com · 反馈与建议}

rohitg00/ai-engineering-from-scratch

实测星标增长

i18n/zh/README.md

赞助方

学习路线

梯度下降

项目

选择学习方式

在网站上学习

使用 AI 导师

学习技能

运行本地代码

每节课都按同一方法学习

选择学习路径

先决条件

从哪里开始

课程结构

课程目录

阶段 0：环境与工具 `13 节课`

书籍与认证

工具箱

单节课的结构

每节课都有实际产出

参与贡献

赞助本项目

许可证

探索相关项目

affaan-m/ECC

NousResearch/hermes-agent

multica-ai/andrej-karpathy-skills

firecrawl/firecrawl

实测星标增长

i18n/zh/README.md

赞助方

学习路线

梯度下降

项目

选择学习方式

在网站上学习

使用 AI 导师

学习技能

运行本地代码

每节课都按同一方法学习

选择学习路径

先决条件

从哪里开始

课程结构

课程目录

阶段 0：环境与工具 13 节课

书籍与认证

工具箱

单节课的结构

每节课都有实际产出

参与贡献

赞助本项目

许可证

探索相关项目

affaan-m/ECC

NousResearch/hermes-agent

multica-ai/andrej-karpathy-skills

firecrawl/firecrawl

阶段 0：环境与工具 `13 节课`