TensorFlow 2.10上线:Windows上扩展GPU支持,TF-DF 1.0发布

2022 年 9 月 9 日 机器之心

机器之心报道

机器之心编辑部
TensorFlow 2.10 已发布,还没有更新的小伙伴现在可以更新了。
近日,TensorFlow 官方宣布, TensorFlow 2.10 来了!距离上次 2.9 版本的更新仅仅过去三个月。
TensorFlow 地址:https://blog.tensorflow.org/2022/09/whats-new-in-tensorflow-210.html
新版本的亮点包括:Keras 中新的用户友好特性、Windows 中扩展 GPU 支持等等。此版本还标志着 TensorFlow 决策森林 (TF-DF) 1.0 版本的到来!
对于这一更新,网友还是很期待的,有人表示:「TensorFlow 2.10 增加了 64 位 Arm 支持,现在可以在 Arm 硬件上使用 pip install TensorFlow 进行安装了。」
还有人对 TF-DF 1.0 版本的到来感到非常惊喜,并表示这是自己最期待的。
下面我们介绍一下新版本都有哪些改进。
TensorFlow 2.10 新特性
Keras
从 TensorFlow 2.10 开始,对 Keras 注意力层的 mask 处理(例如 tf.keras.layers.Attention、tf.keras.layers.AdditiveAttention ) 进行了扩展和统一。 
现在 Transformer 自注意力块可以写成这样:
import tensorflow as tfembedding = tf.keras.layers.Embedding( input_dim=10, output_dim=3, mask_zero=True) # Infer a correct padding mask.# Instantiate a Keras multi-head attention (MHA) layer,# a layer normalization layer, and an `Add` layer object.mha = tf.keras.layers.MultiHeadAttention(key_dim=4, num_heads=1)layernorm = tf.keras.layers.LayerNormalization()add = tf.keras.layers.Add()# Test input.x = tf.constant([[1, 2, 3, 4, 5, 0, 0, 0, 0], [1, 2, 1, 0, 0, 0, 0, 0, 0]])# The embedding layer sets the mask.x = embedding(x)# The MHA layer uses and propagates the mask.a = mha(query=x, key=x, value=x, use_causal_mask=True)x = add([x, a]) # The `Add` layer propagates the mask.x = layernorm(x)# The mask made it through all layers.print(x._keras_mask)
输出如下:
> tf.Tensor(> [[ True True True True True False False False False]> [ True True True False False False False False False]], shape=(2, > 9), dtype=bool)
其次,在 Tensorflow2.9 版本中,tf.keras.callbacks.BackupAndRestore 回调将在 epoch 边界备份模型和训练状态。 在 Tensorflow 2.10 中,回调还可以每 N 个训练 step 备份一次模型。
关于Keras 中新的用户友好特性,还有一点值得说的是,从音频文件目录中轻松生成音频分类数据集, 现在使用tf .keras.utils.audio_dataset_from_directory 功能,就能从 .wav 文件目录轻松生成音频分类数据集。
改进 AArch64 CPU 性能:ACL / oneDNN 集成
TensorFlow 团队与 Arm、AWS 和 Linaro 合作,通过 oneDNN 将 Arm 架构 (ACL) 的计算库与 TensorFlow 集成,来加速 AArch64 CPU 的性能。从 TensorFlow 2.10 开始,你可以通过在运行 TensorFlow 程序之前设置环境变量 TF_ENABLE_ONEDNN_OPTS=1 来实现这一点。
在 Windows 上扩展 GPU 支持
TensorFlow 现在可以通过 TensorFlow-DirectML 插件在 Windows 上使用更广泛的 GPU。用户要在 AMD、Intel、NVIDIA 和 Qualcomm 等供应商提供的 DirectX 12-capable GPU 上进行模型训练,请在本机 Windows 或 WSL2 上安装与标准 TensorFlow CPU 包一起的插件。
TensorFlow 决策森林 1.0
随着 Tensorflow 2.10 的发布,TF-DF(Tensorflow Decision Forests)1.0 版本正式来了。这是一个伟大的里程碑,TensorFlow 团队改进了文档并建立了更全面的测试,以确保 TF-DF 为专业环境做好准备。
了解更多更新,请查看 TensorFlow 官网。

掌握「声纹识别技术」:前20小时交给我,后9980小时……

《声纹识别:从理论到编程实战》中文课上线,由谷歌声纹团队负责人王泉博士主讲。
课程视频内容共 12 小时,着重介绍基于深度学习的声纹识别系统,包括大量学术界与产业界的最新研究成果。
同时课程配有 32 次课后测验、10 次编程练习、10 次大作业,确保课程结束时可以亲自上手从零搭建一个完整的声纹识别系统。
点击 阅读原文 ,了解更多课程内容。


© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:content@jiqizhixin.com

登录查看更多
0

相关内容

Google发布的第二代深度学习系统TensorFlow
【2022新书】深度学习R语言实战,第二版,568页pdf
专知会员服务
81+阅读 · 2022年10月23日
【Manning2022新书】TensorFlow实战,680页pdf
专知会员服务
101+阅读 · 2022年10月9日
【2022新书】Python数据分析第三版,579页pdf
专知会员服务
228+阅读 · 2022年8月31日
【AI与工业】2022最新发布《工业物联网AI框架》59页PDF
专知会员服务
141+阅读 · 2022年3月30日
专知会员服务
51+阅读 · 2020年9月2日
TensorFlowLite:端侧机器学习框架
专知会员服务
30+阅读 · 2020年8月27日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
144+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
39+阅读 · 2019年10月9日
如何从提升树 Estimator 迁移到 TensorFlow 决策森林
谷歌开发者
0+阅读 · 2022年4月18日
TensorFlow 2.7 有哪些新变化?
TensorFlow
0+阅读 · 2021年12月2日
TensorFlow 2.0新特性之Ragged Tensor
深度学习每日摘要
18+阅读 · 2019年4月5日
TF Boys必看!一文搞懂TensorFlow 2.0新架构!
引力空间站
18+阅读 · 2019年1月16日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年11月25日
Arxiv
13+阅读 · 2021年6月14日
Feature Denoising for Improving Adversarial Robustness
Arxiv
15+阅读 · 2018年12月9日
VIP会员
相关VIP内容
【2022新书】深度学习R语言实战,第二版,568页pdf
专知会员服务
81+阅读 · 2022年10月23日
【Manning2022新书】TensorFlow实战,680页pdf
专知会员服务
101+阅读 · 2022年10月9日
【2022新书】Python数据分析第三版,579页pdf
专知会员服务
228+阅读 · 2022年8月31日
【AI与工业】2022最新发布《工业物联网AI框架》59页PDF
专知会员服务
141+阅读 · 2022年3月30日
专知会员服务
51+阅读 · 2020年9月2日
TensorFlowLite:端侧机器学习框架
专知会员服务
30+阅读 · 2020年8月27日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
144+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
39+阅读 · 2019年10月9日
相关资讯
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员