低通信开销的分布式学习

其它领域

目前，训练机器学习模型依赖于海量的数据，当以集中方式训练时，会带来很大的计算成本。因此，现在普遍的共识是，未来的机器学习应该以分布式方式实施。通常，分布式学习是以server-worker模式中进行的，其中server利用从workers收集的信息更新学习参数，然后将这些参数广播给workers。 但是，随着worker数量的增加，通信开销也会大幅

试用