Modern neural networks obtain information about the problem and calculate the output solely from the input values. We argue that it is not always optimal, and the network's performance can be significantly improved by augmenting it with a query mechanism that allows the network to make several solution trials at run time and get feedback on the loss value on each trial. To demonstrate the capabilities of the query mechanism, we formulate an unsupervised (not dependant on labels) loss function for Boolean Satisfiability Problem (SAT) and theoretically show that it allows the network to extract rich information about the problem. We then propose a neural SAT solver with a query mechanism called QuerySAT and show that it outperforms the neural baseline on a wide range of SAT tasks and the classical baselines on SHA-1 preimage attack and 3-SAT task.


翻译:现代神经网络获取关于问题的信息,并仅从输入值中计算输出值。 我们争辩说,它并不总是最理想的,而且网络的性能可以通过一个查询机制得到显著改善,这个查询机制使网络能够在运行时进行数项解决方案试验,并获得关于每次试验损失价值的反馈。为了证明查询机制的能力,我们为Boolean可满足性问题(SAT)设计了一个不受监督(不依赖标签)的损失损失函数,并在理论上表明它允许网络提取关于该问题的丰富信息。 然后我们提议一个神经SAT解答器,其查询机制称为QuerySAT, 并显示它在一系列广泛的SAT任务上超过了神经基线以及SHA-1图像前攻击和3SAT任务上的典型基线。

0
下载
关闭预览

相关内容

SAT是研究者关注命题可满足性问题的理论与应用的第一次年度会议。除了简单命题可满足性外,它还包括布尔优化(如MaxSAT和伪布尔(PB)约束)、量化布尔公式(QBF)、可满足性模理论(SMT)和约束规划(CP),用于与布尔级推理有明确联系的问题。官网链接:http://sat2019.tecnico.ulisboa.pt/
【清华大学】图随机神经网络,Graph Random Neural Networks
专知会员服务
156+阅读 · 2020年5月26日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
MIT新书《强化学习与最优控制》
专知会员服务
282+阅读 · 2019年10月9日
逆强化学习-学习人先验的动机
CreateAMind
16+阅读 · 2019年1月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
43+阅读 · 2019年1月3日
Arxiv
14+阅读 · 2021年7月20日
Arxiv
3+阅读 · 2018年3月28日
Arxiv
26+阅读 · 2018年2月27日
Arxiv
5+阅读 · 2017年11月30日
VIP会员
相关VIP内容
【清华大学】图随机神经网络,Graph Random Neural Networks
专知会员服务
156+阅读 · 2020年5月26日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
MIT新书《强化学习与最优控制》
专知会员服务
282+阅读 · 2019年10月9日
相关资讯
逆强化学习-学习人先验的动机
CreateAMind
16+阅读 · 2019年1月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
18+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
43+阅读 · 2019年1月3日
相关论文
Arxiv
14+阅读 · 2021年7月20日
Arxiv
3+阅读 · 2018年3月28日
Arxiv
26+阅读 · 2018年2月27日
Arxiv
5+阅读 · 2017年11月30日
Top
微信扫码咨询专知VIP会员