分布式训练

• 分布式训练基础
• 从使用者角度切入
• Horovodrun背后做了什么
• 网络基础 & Driver
• 融合框架
• 后台线程架构
• DistributedOptimizer
• On spark
• 启动 on spark
• 弹性训练总体架构
• 弹性训练之Driver
• 弹性训练发现节点&State
• 广播 & 通知
• 弹性训练之Worker生命周期
• 弹性训练之容错
• MPI