Tensorflow 新一轮迭代路线图:更好的 XLA 编译和分布式计算

2022 年 11 月 20 日 InfoQ

作者 | Claudio Masolo
译者 | 张卫滨
策划 | 丁晓昀  

谷歌宣布TensorFlow 开发的下一轮迭代。TensorFlow 是由谷歌开发并在七年前开源的机器学习平台,现在是 GitHub 上 star 数量最多的项目之一。另外一个方案是Pytorch,它是由 Facebook 开发和开源的 ML 平台。未来几个TensorFlow 发布版本的开发路线图将基于四个支柱,分别是快捷与扩展性、机器学习应用、部署就绪和简单性。

对于快捷和可扩展的支柱来说,开发工作将主要关注 XLA 编译,因为谷歌认为 XLA 将成为深度学习编译器的行业标准。其目标是使模型训练和推理工作流程在 CPU 和 GPU 上更快地执行。开发也将关注分布式计算方面:借助DTensor,模型将能够在多个设备上进行训练,以解锁未来超大型模型的训练和部署。此外,性能也很重要,所以谷歌将对算法性能的优化进行投资,如 mixed-precision 和 reduced-precision 计算,以提高在 GPU 和 TPU 上的速度。

对于机器学习应用支柱,谷歌将投资 KerasCV 和 KerasNLP 包,这些包是为应用 CV 和 NLP 使用场景设计的,包括大量的预训练模型。该支柱也将以开发者资源为基础:对于流行的和可应用的机器学习场景添加更多的代码样例、指南和文档,以降低机器学习的进入门槛。

对于部署就绪支柱,努力的方向主要在于更便利地将模型导出到移动端、边缘端、服务后端以及 JavaScript 中。尤其是,将模型导出到 TFLite 和 TF.js 将会更易于调用。C++ 原生 API 正处于开发阶段,它会更易于部署使用 JAX 和 TensorFlow Serving 开发的模型,并使用 TFlite 和 TF.js 部署到移动端和 web 中。

NumPy API 和更便利的调试体验将是第四个支柱的核心特征,即简单性。Tensorflow 将采用 NumPy API 的数值标准,以使其更加一致和易于理解。Tensorflow 还会实现更好的调试器功能,以最大限度地减少开发人员解决问题的时间。

谷歌承诺,新的 Tensorflow 版本将 100% 向后兼容,这样,工程师可以立即采用最新的版本,而不用担心现有的代码库会出现问题。

Tensorflow 新功能的预览版计划在 2023 年第二季度推出,生产版本计划在同一年推出。关于路线图和相关更新的更多信息可以参阅 官方博客。

原文链接:

Google’s Tensorflow Roadmap Includes Better XLA Compilation and Distributed Computing(https://www.infoq.com/news/2022/10/google-tensorflow-roadmap/)

相关阅读:

使用 TensorFlow.NET 构建神经网络(https://www.infoq.cn/article/8OADODV0EZZ72TMrDvTz)

声明:本文为InfoQ翻译,未经许可禁止转载。

点击底部阅读原文访问 InfoQ 官网,获取更多精彩内容!

今日好文推荐

推特员工大规模辞职,马斯克被“问候”;知情者:暴雪欲“白嫖”网易、索要中国百万玩家数据;腾讯 10 多万员工平均月薪超 8 万|Q 资讯

24 年的开源项目社区爆发严重分歧:有人不愿接受偏爱“企业利益”的 Linux 基金会赞助

马斯克称Twitter将专注“硬核软件工程”:要么加班,要么走人

GitHub 前 CTO:全面微服务是最大的架构错误!网友:这不是刚改完 GitHub 吗

登录查看更多
0

相关内容

Google发布的第二代深度学习系统TensorFlow
【2022新书】分布式机器学习Python实战,284页pdf
专知会员服务
133+阅读 · 2022年6月11日
TensorFlowLite:端侧机器学习框架
专知会员服务
30+阅读 · 2020年8月27日
TensorFlow Lite指南实战《TensorFlow Lite A primer》,附48页PPT
专知会员服务
68+阅读 · 2020年1月17日
TensorFlow 2.9 新增功能
TensorFlow
7+阅读 · 2022年6月23日
Deno 2021 回顾:优化内核、兼容 Node.js
InfoQ
0+阅读 · 2022年2月13日
hyengine - 面向移动端的高性能通用编译/解释引擎
社区分享 | Spark 玩转 TensorFlow 2.0
TensorFlow
15+阅读 · 2020年3月18日
TF Boys必看!一文搞懂TensorFlow 2.0新架构!
引力空间站
18+阅读 · 2019年1月16日
手把手教 | 深度学习库PyTorch(附代码)
数据派THU
27+阅读 · 2018年3月15日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年1月20日
Arxiv
0+阅读 · 2023年1月19日
Arxiv
18+阅读 · 2020年7月13日
已删除
Arxiv
31+阅读 · 2020年3月23日
VIP会员
相关资讯
TensorFlow 2.9 新增功能
TensorFlow
7+阅读 · 2022年6月23日
Deno 2021 回顾:优化内核、兼容 Node.js
InfoQ
0+阅读 · 2022年2月13日
hyengine - 面向移动端的高性能通用编译/解释引擎
社区分享 | Spark 玩转 TensorFlow 2.0
TensorFlow
15+阅读 · 2020年3月18日
TF Boys必看!一文搞懂TensorFlow 2.0新架构!
引力空间站
18+阅读 · 2019年1月16日
手把手教 | 深度学习库PyTorch(附代码)
数据派THU
27+阅读 · 2018年3月15日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员