TensorFlow Lattice发布,灵活性大大提升!

2017 年 10 月 19 日 引力空间站 谷歌开发者



机器学习使用高度灵活的模型来捕获复杂的输入/输出关系,已在许多应用领域取得了巨大进步,其中包括自然语言处理和计算机视觉与建议系统。


不过,还未解决的一项挑战是在分析遵守已知全局关系并具有一定语义意义的输入(例如,“如果交通拥堵,行驶一段路程的预估时间将增加,否则将保持不变。”)时存在问题。DNN 和随机森林一类的柔性模型可能无法学习这些关系,因此,也无法很好地泛化到从与训练模型所用的示例不同的抽样分布中绘制的示例。


我们发布了 TensorFlow Lattice,它包含一套易于使用的预构建 TensorFlow 估算器和 TensorFlow 运算符,可以帮助您构建自己的点阵模型。点阵是多维内插式查找表,与几何教材封底近似于正弦函数的查找表类似。为了模型更好地泛化,我们充分利用查找表的结构来满足您指定的单调关系,这种结构能够通过使用多重输入估计任意柔性关系的方式进行键控。也就是说,查找表值在训练后可以最大程度减少训练示例上的损失,同时,查找表中的邻近值将限制为沿着输入空间的给定方向增大,从而让模型输出在这些方向上增大。


重要的是,由于可以内插在查找表值之间,点阵模型非常平滑,预测也有边界限制,这有助于避免测试时出现虚假的大或小预测。


· END ·



精彩推荐:


谷歌 Android Wear 发布升级公测

可口可乐与TensorFlow在玩什么新花样?

涨姿势!比人脑快 1000 倍的光子芯片出现了!




登录查看更多
0

相关内容

在计算机科学中,查找表是一个用更简单的数组索引操作代替运行时计算的数组。 在处理时间方面的节省是可观的,因为从存储器中检索值通常比进行“昂贵”的计算或输入/输出操作要快。 这些表可以预先计算并存储在静态程序存储中,作为程序初始化阶段(内存化)的一部分进行计算(或“预取”),甚至可以存储在特定于应用程序平台中的硬件中。 查找表还广泛用于通过与数组中的有效(或无效)项列表进行匹配来验证输入值,并且在某些编程语言中,查找表可能包含指针函数(或标签偏移量)以处理匹配的输入。 FPGA还广泛使用可重新配置的,硬件实现的查找表,以提供可编程的硬件功能。
【复旦大学-SP2020】NLP语言模型隐私泄漏风险
专知会员服务
24+阅读 · 2020年4月20日
【Google】利用AUTOML实现加速感知神经网络设计
专知会员服务
28+阅读 · 2020年3月5日
一网打尽!100+深度学习模型TensorFlow与Pytorch代码实现集合
【GitHub实战】Pytorch实现的小样本逼真的视频到视频转换
专知会员服务
35+阅读 · 2019年12月15日
已删除
将门创投
4+阅读 · 2019年8月22日
PyTorch 1.0 稳定版正式发布!
新智元
3+阅读 · 2018年12月8日
已删除
将门创投
7+阅读 · 2018年11月5日
业界 | 从FM推演各深度CTR预估模型(附代码)
大数据文摘
7+阅读 · 2018年7月16日
手把手教TensorFlow(附代码)
深度学习世界
15+阅读 · 2017年10月17日
深度学习实战(二)——基于Keras 的深度学习
乐享数据DataScientists
15+阅读 · 2017年7月13日
Arxiv
6+阅读 · 2019年7月11日
Arxiv
4+阅读 · 2017年10月30日
VIP会员
相关资讯
已删除
将门创投
4+阅读 · 2019年8月22日
PyTorch 1.0 稳定版正式发布!
新智元
3+阅读 · 2018年12月8日
已删除
将门创投
7+阅读 · 2018年11月5日
业界 | 从FM推演各深度CTR预估模型(附代码)
大数据文摘
7+阅读 · 2018年7月16日
手把手教TensorFlow(附代码)
深度学习世界
15+阅读 · 2017年10月17日
深度学习实战(二)——基于Keras 的深度学习
乐享数据DataScientists
15+阅读 · 2017年7月13日
Top
微信扫码咨询专知VIP会员