- 大数据与大模型挑战：解决单机无法处理的海量数据和超大模型训练问题，掌握分布式机器学习的基本框架与流程。
- 分布式框架理解困难：深入剖析数据与模型划分、单机优化、通信、聚合等核心模块，帮助读者理解分布式机器学习全貌。
- 通信瓶颈与效率优化：讲解通信内容、拓扑结构、步调与频率等机制，帮助读者优化分布式训练效率。
- 算法与理论脱节：介绍分布式机器学习算法的理论性质，包括泛化误差、收敛性分析等，弥合理论与实践鸿沟。
- 系统选型困惑：对比Spark MLlib、Parameter Server、TensorFlow等主流系统，帮助读者根据场景选择合适工具。
★★★
中级
入门初级中级进阶高级
- 机器学习工程师：需要处理大规模数据和模型训练，希望掌握分布式训练技术的从业者。
- 大数据开发人员：从事大数据平台开发，希望了解分布式机器学习框架与优化方法。
- 算法研究员：研究分布式优化算法与理论，需要系统了解该领域前沿进展。
- 高校研究生：计算机、人工智能方向研究生，需要深入理解分布式机器学习原理。
- 技术架构师：负责机器学习平台选型与架构设计，需要对比不同分布式系统优劣。
- 先读第1-3章：建立分布式机器学习整体框架认知，理解基本流程与核心模块。
- 重点研读第4-8章：这是本书核心，深入讲解划分、优化、通信、聚合等关键技术，需反复阅读。
- 结合第9-11章升华：在理解模块基础上，学习算法组合、理论分析与系统实现，形成完整知识链。
- 动手实践：建议在Spark或TensorFlow上复现书中算法，加深对分布式训练的理解。
- 关注理论推导：第10章理论性较强，建议结合参考文献深入理解收敛性与泛化误差分析。
- 分布式机器学习全貌：掌握分布式机器学习的基本框架、核心模块与工作流程。
- 核心模块深入理解：理解数据与模型划分、单机优化、通信机制、聚合模块的原理与实现。
- 算法与理论结合：学会分析分布式算法的收敛性与泛化误差，具备理论指导实践的能力。
- 系统选型能力：了解Spark MLlib、Parameter Server、TensorFlow等系统的特点与适用场景。
- 优化分布式训练：掌握通信优化、并行策略等技巧，能够提升大规模训练效率。
📖 书籍简介
作 者:刘铁岩 等 著
定 价:89
出 版 社:机械工业出版社
出版日期:2018年10月01日
页 数:276
装 帧:平装
ISBN:9787111609186
●序言一
序言二
前言
作者介绍
章绪论
1.1人工智能及其飞速发展
1.2大规模、分布式机器学习
1.3本书的安排
参考文献
第2章机器学习基础
2.1机器学基本概念
2.2机器学基本流程
2.3常用的损失函数
2.3.1Hinge损失函数
2.3.2指数损失函数
2.3.3交熵损失函数
2.4常用的机器学习模型
2.4.1线性模型
2.4.2核方法与支持向量机
2.4.3决策树与Boosting
2.4.4神经网络
2.5常用的优化方法
2.6机器学习理论
2.6.1机器学习算法的泛化误差
2.6.2泛化误差的分解
2.6.3基于容度的估计误差的上界
2.7总结
参考文献
第3章分布式机器学习框架
3.1大数据与大模型的挑战
3.2分布式机器学基本流程
3.3数据与模型划分模块
3.4单机优化模块
3.5通信模块
3.5.1通信的内容
3.5.2通信的拓扑结构
3.5.3通信的步凋
3.5.4通信的频率
3.6数据与模型聚合模块
3.7分布式机器学习理沦
3.8分布式机器学统
3.9总结
参考文献
第4章单机优化之确定性算法
4.1基本概述
4.1.1机器学优化框架
……
第5章单机优化之随机算法
第6章数据与模型并行
第7章通信机制
第8章数据与模型聚合
第9章分布式及其学习算法
0章分布式机器学习理论
1章分布式机器学统
2章结语
索引
序言二
前言
作者介绍
章绪论
1.1人工智能及其飞速发展
1.2大规模、分布式机器学习
1.3本书的安排
参考文献
第2章机器学习基础
2.1机器学基本概念
2.2机器学基本流程
2.3常用的损失函数
2.3.1Hinge损失函数
2.3.2指数损失函数
2.3.3交熵损失函数
2.4常用的机器学习模型
2.4.1线性模型
2.4.2核方法与支持向量机
2.4.3决策树与Boosting
2.4.4神经网络
2.5常用的优化方法
2.6机器学习理论
2.6.1机器学习算法的泛化误差
2.6.2泛化误差的分解
2.6.3基于容度的估计误差的上界
2.7总结
参考文献
第3章分布式机器学习框架
3.1大数据与大模型的挑战
3.2分布式机器学基本流程
3.3数据与模型划分模块
3.4单机优化模块
3.5通信模块
3.5.1通信的内容
3.5.2通信的拓扑结构
3.5.3通信的步凋
3.5.4通信的频率
3.6数据与模型聚合模块
3.7分布式机器学习理沦
3.8分布式机器学统
3.9总结
参考文献
第4章单机优化之确定性算法
4.1基本概述
4.1.1机器学优化框架
……
第5章单机优化之随机算法
第6章数据与模型并行
第7章通信机制
第8章数据与模型聚合
第9章分布式及其学习算法
0章分布式机器学习理论
1章分布式机器学统
2章结语
索引
刘铁岩、陈薇、王太峰、高飞著的《分布式机器学习(算法理论与实践)/智能科学与技术丛书》旨在全面介绍分布式机器学现状，深入分析其中的核心技术问题，并且讨论该领域未来的发展方向。
全书共12章。章是绪论，向大家展示分布式机器学习这个领域的全景。第2章介绍机器学基础知识。第3章到第8章是本书的核心部分，向大家细致地讲解分布式机器学框架及其各个功能模块。其中第3章给出整个分布式机器学习框架的综述，而第4章到第8章则分别针对其中的数据与模型划分模块、单机优化模块、通信模块、数据与模型聚合模块加以介绍。接下来的三章是对前面内容的总结与升华。其中第9章介绍由分布式机器学习框架中不同选项所组合出来的各式各样的分布式机器学习算法，0章讨论这些算法的理论性质，1章则介绍几个主流的分布式机器学统（包括SparkMLlib迭代式MapReduce系统，ltiverso参数服务器系统，TensorFlo等
全书共12章。章是绪论，向大家展示分布式机器学习这个领域的全景。第2章介绍机器学基础知识。第3章到第8章是本书的核心部分，向大家细致地讲解分布式机器学框架及其各个功能模块。其中第3章给出整个分布式机器学习框架的综述，而第4章到第8章则分别针对其中的数据与模型划分模块、单机优化模块、通信模块、数据与模型聚合模块加以介绍。接下来的三章是对前面内容的总结与升华。其中第9章介绍由分布式机器学习框架中不同选项所组合出来的各式各样的分布式机器学习算法，0章讨论这些算法的理论性质，1章则介绍几个主流的分布式机器学统（包括SparkMLlib迭代式MapReduce系统，ltiverso参数服务器系统，TensorFlo等
📑 章节目录
- 绪论：人工智能与分布式机器学习概述
- 机器学习基础：概念、流程与常用模型
- 分布式机器学习框架综述
- 数据与模型划分模块
- 单机优化之确定性算法
- 单机优化之随机算法
- 通信机制：内容、拓扑、步调与频率
- 数据与模型聚合模块
- 分布式机器学习算法组合
- 分布式机器学习理论：收敛性与泛化误差
- 主流分布式机器学习系统
- 结语：未来发展方向
