斯坦福机器学习笔记第5讲生成学习算法与GDA

斯坦福的机器学习笔记第 5 讲，讲得挺清楚的，重点是生成学习算法那一块。你会看到它怎么从概率出发，把分类问题讲明白，尤其是高斯判别（GDA），思路清晰，公式推导也到位。对于你要做模型理解或面试准备，都挺有用的。

生成学习跟判别学习最大的不同，就是它不直接找边界，而是先建个模型，看每个类别的特征分布。像GDA就是假设输入数据在给定类别下服从正态分布，通过贝叶斯定理来算后验概率。听着有点抽象？其实你想象一下，做分类前先问“这个样子通常出现在哪个类里”，就贴切了。

里面的公式也不少，但不会堆砌。像 phi、mu_0、mu_1 这些参数，课程都一步步带着推，思路挺顺。你要是手动撸过一遍，基本就理解生成模型的套路了。

另外还带了一下朴素贝叶斯，适合文本分类啥的。虽然模型简单，但高维数据的时候优势。还有拉普拉斯平滑的小技巧，避免概率为 0 的问题，实用性高。

，笔记整理得挺系统，不止是公式堆砌，更偏向实战理解。如果你之前接触过逻辑回归，这节能让你换个思路再看分类问题。想动手练练，可以配合这个 Python 实现一起看。

如果你对生成模型有点兴趣，或者想了解更系统的分类算法，这节课笔记还蛮值得一读的。