- 攻克公式推导难关:解决读者在阅读西瓜书时遇到的重难点公式无法理解、推导过程看不懂的问题。
- 补充推导细节:对西瓜书中省略的公式推导步骤进行详细补充,让读者能完整跟随每一步推导。
- 降低数学门槛:以本科数学基础视角讲解,帮助数学基础一般的读者也能理解机器学习公式背后的原理。
- 建立公式与算法的联系:通过逐式解析,帮助读者理解每个公式在对应算法中的角色和意义。
- 辅助课程学习与科研:为高校机器学习课程学习和相关科研工作提供公式速查与推导参考。
- 机器学习初学者:正在阅读西瓜书但被公式推导卡住、需要详细解析的入门读者。
- 计算机相关专业学生:学习机器学习课程、需要辅助教材理解公式推导的本科生和研究生。
- 算法工程师:希望深入理解机器学习算法数学原理、提升理论水平的工程技术人员。
- 科研人员:从事机器学习相关研究,需要快速查阅公式推导细节的科研工作者。
- 配合西瓜书使用:本书与西瓜书章节和公式编号一一对应,建议两书对照阅读,先看西瓜书再看本书推导。
- 按章节顺序推进:从绪论到计算学习理论,建议按顺序逐章学习,前面章节是后面章节的基础。
- 动手推导验证:每读一个公式解析,建议合上书自己动手推导一遍,加深理解和记忆。
- 重点攻克难点章节:支持向量机、神经网络和集成学习章节公式较多较难,建议多花时间反复研读。
- 善用附注和参考文献:各章附注和参考文献提供了延伸阅读方向,有兴趣的读者可深入钻研。
- 公式推导能力:掌握机器学习核心公式的完整推导过程,不再畏惧数学公式。
- 算法理解深度:从数学层面深入理解各算法的原理,而非停留在调用API的层面。
- 数学素养提升:通过大量推导练习,提升矩阵运算、概率论和最优化等方面的数学能力。
- 科研基础夯实:为阅读机器学习论文和开展相关研究打下扎实的数学推导基础。
- 西瓜书通关:彻底攻克西瓜书中的公式难点,真正读懂这本经典教材。
📖 书籍简介
机器学习公式详解
ISBN: 9787115559104
周志华老师的《机器学习》(俗称“西瓜书”)是机器学习领域的经典入门教材之一。本书(俗称“南瓜书”)基于Datawhale 成员自学“西瓜书”时记下的笔记编著而成,旨在对“西瓜书”中重难点公式加以解析,以及对部分公式补充具体的推导细节。
全书共16 章,与“西瓜书”章节、公式对应,每个公式的推导和解析都以本科数学基础的视角进行讲解,希望能够帮助读者达到“理工科数学基础扎实点的大二下学期学生”水平。每章都附有相关阅读材料,以便有兴趣的读者进一步钻研探索。
本书思路清晰,视角独特,结构合理,可作为高等院校计算机及相关专业的本科生或研究生教材,也可供对机器学习感兴趣的研究人员和工程技术人员阅读参考。
序(王斌 小米AI 实验室主任、NLP 首*科学家)
前言
主要符号表
第 1章 绪论
式(1.1)
式(1.2)
第 2章 模型评估与选择
式(2.20)
式(2.21)
式(2.27)
式(2.41)
附注
参考文献
第3章 线性模型
式(3.5)
式(3.6)
式(3.7)
式(3.10)
式(3.27)
式(3.30)
式(3.32)
式(3.37)
式(3.38)
式(3.39)
式(3.43)
式(3.44)
式(3.45)
第4章 决策树
式(4.1)
式(4.2)
式(4.6)
式(4.7)
式(4.8)
附注
参考文献
第5章 神经网络
式(5.2)
式(5.10)
式(5.12)
式(5.13)
式(5.14)
式(5.15)
ii j 目录
式(5.20)
式(5.22)
式(5.23)
式(5.24)
附注
参考文献
第6章 支持向量机
式(6.9)
式(6.10)
式(6.11)
式(6.13)
式(6.35)
式(6.37)
式(6.38)
式(6.39)
式(6.40)
式(6.41)
式(6.52)
式(6.60)
式(6.62)
式(6.63)
式(6.65)
式(6.66)
式(6.67)
式(6.70)
附注
参考文献
第7章 贝叶斯分类器
式(7.5)
式(7.6)
式(7.12)
式(7.13)
式(7.19)
式(7.20)
式(7.24)
式(7.25)
式(7.27)
式(7.34)
附注
参考文献
第8章 集成学习
式(8.1)
式(8.2)
式(8.3)
式(8.4)
式(8.5)
式(8.6)
式(8.7)
式(8.8)
式(8.9)
式(8.10)
式(8.11)
式(8.12)
式(8.13)
式(8.14)
式(8.16)
式(8.17)
式(8.18)
式(8.19)
式(8.20)
式(8.21)
式(8.22)
式(8.23)
式(8.24)
式(8.25)
式(8.26)
式(8.27)
式(8.28)
式(8.29)
式(8.30)
式(8.31)
式(8.32)
式(8.33)
式(8.34)
式(8.35)
式(8.36)
第9章 聚类
式(9.5)
式(9.6)
式(9.7)
式(9.8)
式(9.33)
式(9.34)
式(9.35)
式(9.38)
第 10章 降维与度量学习
式(10.1)
式(10.2)
式(10.3)
式(10.4)
式(10.5)
式(10.6)
式(10.10)
式(10.14)
式(10.17)
式(10.24)
式(10.28)
式(10.31)
第 11章 特征选择与稀疏学习
式(11.1)
式(11.2)
式(11.5)
式(11.6)
式(11.7)
式(11.10)
式(11.11)
式(11.12)
式(11.13)
式(11.14)
式(11.15)
式(11.16)
式(11.17)
式(11.18)
第 12章 计算学习理论
式(12.1)
式(12.2)
式(12.3)
式(12.4)
式(12.5)
式(12.7)
式(12.9)
式(12.10)
式(12.11)
式(12.12)
式(12.13)
式(12.14)
式(12.15)
式(12.16)
式(12.17)
式(12.18)
式(12.19)
式(12.20)
式(12.21)
式(12.22)
式(12.23)
式(12.24)
式(12.25)
式(12.26)
式(12.27)
式(12.28)
式(12.29)
式(12.30)
式(12.31)
式(12.32)
式(12.34)
式(12.36)
式(12.37)
式(12.38)
式(12.39)
式(12.40)
式(12.41)
式(12.42)
式(12.43)
式(12.44)
式(12.45)
式(12.46)
式(12.52)
式(12.53)
式(12.57)
式(12.58)
式(12.59)
式(12.60)
参考文献
第 13章 半监督学习
式(13.1)
式(13.2)
式(13.3)
式(13.4)
式(13.5)
式(13.6)
式(13.7)
式(13.8)
式(13.9)
式(13.12)
式(13.13)
式(13.14)
式(13.15)
式(13.16)
式(13.17)
式(13.20)
第 14章 概率图模型
式(14.1)
式(14.2)
式(14.3)
式(14.4)
式(14.7)
式(14.8)
式(14.9)
式(14.10)
式(14.14)
式(14.15)
式(14.16)
式(14.17)
式(14.18)
式(14.19)
式(14.20)
式(14.22)
式(14.26)
式(14.27)
式(14.28)
式(14.29)
式(14.30)
式(14.31)
式(14.32)
式(14.33)
式(14.34)
式(14.35)
式(14.36)
式(14.37)
式(14.38)
式(14.39)
式(14.40)
式(14.41)
式(14.42)
式(14.43)
式(14.44)
第 15章 规则学习
式(15.2)
式(15.3)
式(15.6)
式(15.7)
式(15.9)
式(15.10)
式(15.11)
式(15.12)
式(15.13)
式(15.14)
式(15.16)
第 16章 强化学习
式(16.2)
式(16.3)
式(16.4)
式(16.7)
式(16.8)
式(16.10)
式(16.14)
式(16.16)
式(16.31)
📑 章节目录
- 绪论:机器学习基本术语与公式解析
- 模型评估与选择:性能度量与比较检验公式详解
- 线性模型:最小二乘、对数几率回归与线性判别分析推导
- 决策树:信息增益、基尼指数与剪枝相关公式解析
- 神经网络:反向传播算法与误差梯度推导详解
- 支持向量机:对偶问题、核函数与软间隔公式全解析
- 贝叶斯分类器:贝叶斯决策论与EM算法公式推导
- 集成学习:AdaBoost与Bagging公式推导与解析
- 聚类:k均值、高斯混合聚类与DBSCAN公式详解
- 降维与度量学习:PCA、LDA与核化方法公式推导
- 特征选择与稀疏学习:L1正则化与稀疏表示公式解析
- 计算学习理论:PAC学习与VC维相关公式详解





