课程大纲

48 章 · 数学基础 11 章 + 机器学习 14 章 + 深度学习 10 章 + 强化学习 13 章 — 全部可交互

已学 0 / 48 节
0%
数学基础0/11 机器学习0/14 深度学习0/10 强化学习0/13

学习路径建议

不知道从哪开始？选一条路径

⛰️

数学基础 · 从向量到图拉普拉斯

向量与矩阵、特征值与谱分解、SVD 低秩近似、导数与局部线性化、链式法则与反向传播、梯度、散度、拉普拉斯 —— 九章一条线，把机器学习里天天用的符号补上几何含义。

0/10
收起
第 1 步

向量、范数与正交投影

点积为什么能当相似度？L1 的菱形尖角为什么让权重归零？拖动两根向量、变形范数等值线，把正则化与超平面讲成看得见的几何。

📐可交互
第 2 步

矩阵、线性变换与行列式

矩阵不是一堆数字，而是把整个空间揉搓变形的动作。拖动基向量看网格形变，亲手验证 AB ≠ BA，并用有向面积理解行列式。

🧊可交互
第 3 步

特征值、特征向量与谱分解

特征值是矩阵无法扭转的那几根轴。拖动探针找出「不转向」的方向，看单位圆如何被拉成椭圆，再在点云上实时跑一遍 PCA —— 主成分、方差与正定性一次讲通。

🧭可交互
第 4 步

SVD 奇异值分解与低秩近似

特征分解只对方阵有效，SVD 却对任何长方矩阵成立。看单位圆被「旋转 → 缩放 → 再旋转」三步拉成椭圆，再用滑块把一张 64×48 的图压到秩 k，最后算一笔 LoRA 的参数量账。

🗜️可交互
第 5 步

导数、偏导与局部线性化

导数是局部放大倍数。从放大镜下的切线，到数值微分的浴盆曲线，再到偏导数与切平面 —— 这一章只讲「导数本身」，链式法则留给后续的座位。

📈可交互
第 6 步

链式法则与计算图反向传播

复合函数求导就是齿轮传动比的连乘。从单变量齿轮传动、多元分支路径累加，到标量计算图拓扑排序与反向模式自动微分 —— 彻底看懂深度学习反向传播的心脏。

⚙️可交互
第 7 步

梯度 · 最陡上升方向

把「沿梯度下降」这句你已用了 14 章的话补上几何含义：∇f 指哪、多长，为什么它垂直等高线。

⛰️可交互
第 10 步

条件概率、贝叶斯与最大似然

先验到后验怎么更新？罕见病假阳性为什么能到 83%？拖动硬币似然山峰，推导为什么最大似然 (MLE) 顺理成章化为 MSE 与交叉熵损失。

🎲可交互
第 11 步

马尔可夫链与平稳分布

无后效性、转移矩阵与平稳分布的特征向量本质：从天气随机演化看混乱流动如何终将归于唯一平衡态。

🔄可交互
第 12 步

压缩映射与贝尔曼收缩定理

从一维蛛网图的向心吸入到值函数空间收缩漏斗：Banach 不动点定理如何保证强化学习值迭代必然收敛。

🕸️可交互
第 14 步

散度 · 源与汇

向量场在某点是「冒出来」还是「吸进去」？小方盒四边通量亲手验证 ∇·F，并拆掉「散度 vs KL 散度」的同名陷阱。

🚰可交互
第 15 步

拉普拉斯算子 · 平均与曲率

拉普拉斯 = 散度(梯度)。从二阶差分到图拉普拉斯 L = D − A，一路接到谱聚类、GCN 与热扩散。

🌡️可交互
📐

机器学习 · 从零开始

从一条直线起步：14步搭起机器学习的完整直觉 — 回归、分类、模型评估、无监督学习，以及神经网络的初体验。

0/14
收起
第 1 步

线性回归 + 梯度下降

机器学习的"Hello World" — 一条直线、一堆点，梯度下降让直线自己找到最佳位置。

📈可交互
第 2 步

多项式回归 · 特征工程

同样的梯度下降，给模型更多"原材料"（x², x³...）就能拟合曲线。算法不变，输入升级。

〰️可交互
第 3 步

激活函数 · 万能逼近

ReLU、Sigmoid、Tanh — 认识这些把直线"掰弯"的基本单元。用 ReLU 拼出任意曲线。

⚡可交互
第 4 步

逻辑回归 · 二分类

从"预测数值"到"判断类别" — Sigmoid 输出概率，交叉熵衡量好坏，决策边界可视化。

🎯可交互
第 5 步

多层感知机 + 反向传播

XOR 问题 — 单层无解，两层就行了。亲眼看到隐藏层的"空间变换"和反向传播的链式法则。

🧠可交互
第 6 步

过拟合与正则化

模型越复杂越好吗？欠拟合 → 刚好 → 过拟合三栏对比，L2 正则化让模型学会"克制"。

⚖️可交互
第 7 步

多分类 + Softmax

不止两类怎么办？螺旋三分类 + Softmax + 混淆矩阵，多类问题的完整可视化管线。

🌀可交互
第 8 步

模型评估与验证

训练/验证/测试划分、ROC 曲线、AUC、PR 曲线、学习曲线 — 系统性地回答"模型到底好不好"。

📊可交互
第 9 步

K-Means 聚类

没有标签也能学习？质心迭代、Voronoi 划分、肘部法则 — 首个无监督学习算法。

🎯可交互
第 10 步

决策树

告别梯度下降。信息增益、递归划分、树结构可视化 — 完全不同的 ML 范式。

🌳可交互
第 11 步

PCA 降维

高维数据如何可视化？主成分分析、方差解释、投影重建 — 数据压缩的几何直觉。

📐可交互
第 12 步

卷积神经网络

MLP 之后自然的结构升级。卷积核滑动、特征图、池化 — 亲眼看到网络"看"到了什么。

🔍可交互
第 13 步

SVM 支持向量机

找最大间隔分类线 — 硬间隔→软间隔→RBF核，支持向量决定了模型。

🎯可交互
第 14 步

随机森林

多棵树投票更准：Bootstrap + 随机特征 + OOB 误差，集成学习直观演示。

🌲可交互
🧠

深度学习

把神经网络推向深处：为什么深网络难训练、优化器如何进化、正则化神器，到手写数字实战与注意力机制。

0/10
收起
先修衔接 本板块建立在两章 ML 内容之上，建议先完成： 🧠 第 5 步 · 多层感知机 + 反向传播 🔍 第 12 步 · 卷积神经网络
第 1 步

梯度消失与权重初始化

网络越深越难训？亲眼看梯度逐层消失或爆炸，Xavier 与 He 初始化如何力挽狂澜。

🌊可交互
第 2 步

优化器：从 SGD 到 Adam

四种优化器在损失曲面上赛跑 — 动量冲过震荡，自适应学习率各走各的步长。

🏎️可交互
第 3 步

Dropout 与 BatchNorm

随机"关掉"一半神经元反而更强？深度网络两大训练神器的直观演示。

🎲可交互
第 4 步

实战：手写数字识别

在浏览器里真实训练一个神经网络 — 损失曲线、混淆矩阵，再亲手画个数字考考它。

✍️可交互
第 5 步

自编码器与表征学习

把数据压进 1 维"瓶颈"再还原 — 非线性降维与 PCA 直线投影的直观对决。

🗜️可交互
第 6 步

注意力机制入门

Query、Key、Value 各是什么？注意力热力图看清模型"看"向哪里，一窥 Transformer。

👁️可交互
第 7 步

Transformer 入门

Positional Encoding · Multi-Head Attention · Encoder — 现代大模型的基石架构。

🔮可交互
第 8 步

循环神经网络 RNN

同一个网络反复使用、隐状态跨步传递——序列建模的起点，也是梯度消失催生 attention 的根源。

🔁可交互
第 9 步

残差网络 ResNet

网络越深反而越难训？给梯度一条恒等捷径，∂y/∂x 的 +1 项让百层网络也能训——深网训练闭环。

🛣️可交互
第 10 步

视觉 Transformer ViT

不卷积、不池化——图像切 patch 当单词，Transformer 直接看图：全局注意力热力图 + 冻结嵌入分类头。

🖼️可交互
🎮

强化学习 · Sutton & Barto

在与环境的交互中学习决策：从多臂老虎机到深度 Q 网络，覆盖 Sutton & Barto 第2-6章的核心算法。

0/13
收起
第 0 章

什么是强化学习？

从训练小狗说起：没有标准答案、只有奖励和惩罚。亲手训练一台扫地机器人，零基础建立 RL 直觉。

🤖可交互
第 1 章

多臂老虎机

探索 vs 利用的核心困境。ε-greedy、UCB、梯度老虎机，实时调参看学习曲线。

🎰可交互
第 2 章

从老虎机到 GridWorld

从单状态到多状态的第一步：3×3 迷你网格，理解 V(s)、Q(s,a) 和策略箭头。

🧭可交互
第 3 章

有限 MDP + 动态规划

从单状态到多状态：GridWorld 上的策略评估、策略迭代、价值迭代 — 值函数热力图直观可见。

🗺️可交互
第 4 章

蒙特卡洛方法

不知道环境模型也能学习？从完整 episode 的经验中估计值函数，首次访问 vs 每次访问 MC。

🎲可交互
第 5 章

时序差分学习

RL 最著名的算法：Cliff Walking 上 SARSA vs Q-Learning 的经典对比，在策略与离策略的直观差异。

⏳可交互
第 6 章

深度 Q 网络入门

当状态空间太大装不进表格：神经网络近似 Q 函数，经验回放 + 目标网络，RL 与 ML 的交汇点。

🤖可交互
第 7 章

DQN 进阶：Double / Dueling / Prioritized

DQN 三件套：Double 抑过估计、优先回放提效率、Dueling 共享状态价值，CartPole 同场对比各自贡献。

🛡️可交互
第 8 章

策略梯度

不学 Q 值，直接学策略：REINFORCE → Baseline → Actor-Critic，CartPole 上对比三种方法。

🎯可交互
第 9 章

Actor-Critic 与连续动作

标准 Actor-Critic：单步 TD 优势压方差、高斯策略解锁连续动作——2D 目标追逐让策略梯度第一次"动起来"。

🎭可交互
第 10 章

PPO 近端策略优化

裁剪目标把每次更新锁进信任区域——简单、稳定、可大规模并行，是大模型 RLHF 的事实标准底座。

🔒可交互
第 11 章

RLHF：人类反馈对齐

把"哪个回答更好"的偏好对喂给奖励模型，再用 PPO 优化策略去迎合它——ChatGPT 对齐的秘密，以及奖励模型有偏时的 reward hacking。

🧭可交互
第 12 章

迷宫寻宝实战收官

把前 11 章装进一个会寻宝的智能体：PPO vs DQN 同场训练、路径回放、学习曲线与超参数扫掠。

🏆可交互