OpenI 启智社区

启智社区,确实给力

当前位置:首页 > 启梦行动 > 讲座沙龙 > EngineClub > 2021 > 主题分享 >

自动并行技术简介

  • 发布时间:2024-04-27

2021年8月18日-第八场技术讲座

讲座题目:自动并行技术简介
分享人:王进
分享人介绍:北京邮电大学信息与通信工程专业硕士毕业,鹏城实验室网络智能部开源所-AI大模型技术子课题成员,负责深度学习模型高效分布式训练方向的研发工作。邮箱:wangj05@pcl.ac.cn
内容介绍:
自动并行技术研究如何将深度学习算法在AI集群上实现高效的自动化分布式模型训练。本次分享从分布式深度学习综述出发,介绍包括算法逻辑、并行逻辑、通信模式、网络拓扑等在内的整体框架,分享现有自动并行框架的技术架构、性能对比,以及针对并行搜索空间建模、搜索性能提升等问题的分析思考。

更多技术讲座和课件下载,请访问EngineClub项目地址