Tensorflow Eager Execution入门指南

【导读】本文介绍了最新版的Tensorflow 1.7的功能及其使用方法,重点介绍其中最有趣的功能之一eager_execution,它许用户在不创建静态图的情况下运行tensorflow代码。本文给出了使用eager_execution的步骤及一些注意事项,并不涉及理论知识,如果您已经对Tensorflow有所了解,那么可以阅读以下本文,它能指导您使用这个有趣的功能。


作者 | Keshav Aggarwal

编译 | 专知

参与 | Yingying, Hujun


专知在以前就推出过TensorFlow 1.4 Eager Execution系列教程,欢迎查看。



关于Tensorflow Eager Execution的简要指南 – 走进数据科学


谷歌刚刚在Tensorflow Dev Summit 2018上推出了最新版本的Tensorflow,即Tensorflow 1.7。您可以在文章最后找到链接查看新版本所发生的改变。另外要观看完整Dev Summit(开发峰会),请访问这里相关链接(文末给出)。 


以下是TF 1.7的主要亮点:

使用Eager Execution,你可以在没有session的情况下运行你的代码。

使用您自己的functions轻松解决梯度计算。

支持将数据库里的数据读成用于实验的数据集。

对TensorRT的初始支持,以便您可以优化您的模型。


最有趣的功能之一是eager_execution,允许用户在不创建图形的情况下运行tensorflow代码。 让我们尝试一个简单的程序:


注意输出是一个张量而不是实际的数组本身。为了得到数组值,你需要在session中运行它。正如您所知道的,创建大型神经网络时,您无法使用打印查看操作的输出,从而增加了调试的复杂性。要检查操作的输出,您需要运行session并检查session内的输出:


现在让我们换种方式再试一次:

现在通过使用tf.enable_eager_execution()可以获得实际值。在eager_execution中,操作的输出将是实际值而不是张量。


但tf.enable_eager_execution的使用并不那么简单。 看看下一个例子。 下面是一段变量声明:

所以声明一个Tensorflow变量会引发一个错误,应该使用tf.contrib.eager.Variable。 这意味着我们不能在已有程序中使用eager execution,并希望它能够工作。为了使用eager实现功能,您需要更改您的代码。


其中一个变化是,您可以使用tensorflow数据API来代替使用占位符和变量将数据提供给模型。 这通常更快,更易于管理。 以下是一个函数,它可根据平整化的图像,标签和批量大小(flattened images, labels and batch_size)来生成数据集。


现在让我们试试这个函数。 我们得到下面的结果。 我们可以使用迭代器访问数据集中的数据来进行批处理。


我们使用GradientTape记录所有操作以便稍后应用于梯度更新。

grad()函数返回关于权重和偏差的损失的导数。然后将此传递给optimizer.apply_gradients()完成梯度下降的过程。


除了上述变化外,几乎所有东西都保持不变。 在使用eager execution之前,以下是一些关键点:


1、 数据必须使用tensorcow.data.Dataset进行初始化。 (也可以使用其他方式,但不建议使用)

2、 eager execution默认在CPU上运行,要使用GPU,需要包含以下代码:with tf.device('/ gpu:0')

3、 eager execution不会创建张量图,要构建图只需要删除tf.enable_eager_execution()即可

4、 eager execution对开发(R&D)有好处,但在生产环境中你应该使用graph execution。

5、 您可以保存通过eager execution生成的模型,然后以graph 或eager execution的形式加载该模型。

 

以下是Google Colaboratory上的工作代码链接,您可以尝试使用该代码。、

https://drive.google.com/file/d/1EEiYUfE63S2IaADXwGT40nH5Ip2iri2-/view?usp=sharing

 

参考:

https://github.com/tensorflow/tensorflow/releases/tag/v1.7.0

 https://www.youtube.com/watch?v=gplTc2F5Wvk

 

参考链接:

https://towardsdatascience.com/eager-execution-tensorflow-8042128ca7be

-END-

专 · 知

人工智能领域主题知识资料查看获取【专知荟萃】人工智能领域26个主题知识资料全集(入门/进阶/论文/综述/视频/专家等)

请PC登录www.zhuanzhi.ai或者点击阅读原文,注册登录专知,获取更多AI知识资料

请扫一扫如下二维码关注我们的公众号,获取人工智能的专业知识!

请加专知小助手微信(Rancho_Fang),加入专知主题人工智能群交流!加入专知主题群(请备注主题类型:AI、NLP、CV、 KG等)交流~

投稿&广告&商务合作:fangquanyi@gmail.com


点击“阅读原文”,使用专知

展开全文
Top
微信扫码咨询专知VIP会员