In recent years, mobile devices have gained increasingly development with stronger computation capability and larger storage. Some of the computation-intensive machine learning and deep learning tasks can now be run on mobile devices. To take advantage of the resources available on mobile devices and preserve users' privacy, the idea of mobile distributed machine learning is proposed. It uses local hardware resources and local data to solve machine learning sub-problems on mobile devices, and only uploads computation results instead of original data to contribute to the optimization of the global model. This architecture can not only relieve computation and storage burden on servers, but also protect the users' sensitive information. Another benefit is the bandwidth reduction, as various kinds of local data can now participate in the training process without being uploaded to the server. In this paper, we provide a comprehensive survey on recent studies of mobile distributed machine learning. We survey a number of widely-used mobile distributed machine learning methods. We also present an in-depth discussion on the challenges and future directions in this area. We believe that this survey can demonstrate a clear overview of mobile distributed machine learning and provide guidelines on applying mobile distributed machine learning to real applications.


翻译:近年来,移动设备以更强的计算能力和更大的存储能力获得越来越多的发展。一些计算密集型机器学习和深层学习任务现在可以在移动设备上运行。为了利用移动设备上的资源并保护用户的隐私,提出了移动分布式机器学习的想法。它利用当地硬件资源和当地数据来解决移动设备上机器学习的子问题,并且只上载计算结果而不是原始数据,以促进优化全球模型。这一结构不仅可以减轻计算和存储服务器的负担,还可以保护用户的敏感信息。另一个好处是减少带宽,因为各种本地数据现在可以参与培训过程,而无需上传到服务器上。我们在本文件中对移动分布式机器学习的最新研究进行了全面调查。我们调查了一些广泛使用的移动分布式机器学习方法。我们还就这个领域的挑战和未来方向进行了深入的讨论。我们认为,这一调查可以清楚地展示移动分布式机器学习的概况,并提供关于将移动分布式机器学习应用于实际应用的指南。

26
下载
关闭预览

相关内容

分布式机器学习研究将具有大规模数据量和计算量的任务分布式地部署到多台机器上,其核心思想在于“分而治之”,有效提高了大规模数据计算的速度并节省了开销。
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
111+阅读 · 2020年3月18日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
104+阅读 · 2019年10月12日
Transferring Knowledge across Learning Processes
CreateAMind
10+阅读 · 2019年5月18日
人工智能 | SCI期刊专刊信息3条
Call4Papers
5+阅读 · 2019年1月10日
强化学习的Unsupervised Meta-Learning
CreateAMind
8+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
34+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
【推荐】用Python/OpenCV实现增强现实
机器学习研究会
12+阅读 · 2017年11月16日
【论文】变分推断(Variational inference)的总结
机器学习研究会
25+阅读 · 2017年11月16日
【论文】图上的表示学习综述
机器学习研究会
9+阅读 · 2017年9月24日
Auto-Encoding GAN
CreateAMind
5+阅读 · 2017年8月4日
Andrew NG的新书《Machine Learning Yearning》
我爱机器学习
9+阅读 · 2016年12月7日
Arxiv
37+阅读 · 2019年12月20日
Advances and Open Problems in Federated Learning
Arxiv
17+阅读 · 2019年12月10日
A Comprehensive Survey on Transfer Learning
Arxiv
105+阅读 · 2019年11月7日
AutoML: A Survey of the State-of-the-Art
Arxiv
56+阅读 · 2019年8月14日
Arxiv
11+阅读 · 2019年1月16日
Arxiv
44+阅读 · 2018年12月11日
Federated Learning for Mobile Keyboard Prediction
Arxiv
3+阅读 · 2018年11月8日
Arxiv
135+阅读 · 2017年8月1日
VIP会员
相关资讯
Transferring Knowledge across Learning Processes
CreateAMind
10+阅读 · 2019年5月18日
人工智能 | SCI期刊专刊信息3条
Call4Papers
5+阅读 · 2019年1月10日
强化学习的Unsupervised Meta-Learning
CreateAMind
8+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
34+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
【推荐】用Python/OpenCV实现增强现实
机器学习研究会
12+阅读 · 2017年11月16日
【论文】变分推断(Variational inference)的总结
机器学习研究会
25+阅读 · 2017年11月16日
【论文】图上的表示学习综述
机器学习研究会
9+阅读 · 2017年9月24日
Auto-Encoding GAN
CreateAMind
5+阅读 · 2017年8月4日
Andrew NG的新书《Machine Learning Yearning》
我爱机器学习
9+阅读 · 2016年12月7日
相关论文
Arxiv
37+阅读 · 2019年12月20日
Advances and Open Problems in Federated Learning
Arxiv
17+阅读 · 2019年12月10日
A Comprehensive Survey on Transfer Learning
Arxiv
105+阅读 · 2019年11月7日
AutoML: A Survey of the State-of-the-Art
Arxiv
56+阅读 · 2019年8月14日
Arxiv
11+阅读 · 2019年1月16日
Arxiv
44+阅读 · 2018年12月11日
Federated Learning for Mobile Keyboard Prediction
Arxiv
3+阅读 · 2018年11月8日
Arxiv
135+阅读 · 2017年8月1日
Top
微信扫码咨询专知VIP会员