题名:
分布式机器学习   / 柳浩著 ,
ISBN:
978-7-121-45814-9 价格： CNY139.00
语种:
chi
载体形态:
XIV, 575页, [16] 页图版 图 26cm
出版发行:
出版地： 北京 出版社： 电子工业出版社 出版日期： 2023
内容提要:
本书共分为5篇, 第1篇是分布式基础, 首先介绍了分布式机器学习的概念、基础设施, 以及机器学习并行化技术、框架和软件系统, 然后对集合通信和参数服务器PS-Lite进行了介绍 ; 第2篇是数据并行, 以PyTorch和Horovod为主对数据并行进行分析 ; 第3篇是流水线并行, 还通过引入额外的流水线来提高效率, 以GPipe/PyTorch/PipeDream为例进行分析 ; 第4篇是模型并行, 首先对NVIDIAMegatron进行分析, 讲解如何进行层内模型并行, 然后讲解PyTorch如何支持模型并行, 最后介绍分布式优化器 ; 第5篇是TensorFlow分布式。 
主题词:
分布式算法   机器学习
中图分类法:
TP181 版次： 5
其它题名:
系统、工程与实战
主要责任者:
柳浩 著
责任者附注:
柳浩, 网名“罗西的思考”, 浙江大学硕士。曾就职于多家世界500强企业, 主导过多个大型项目, 现就职于某新能源车企。