Modern neural networks obtain information about the problem and calculate the output solely from the input values. We argue that it is not always optimal, and the network's performance can be significantly improved by augmenting it with a query mechanism that allows the network to make several solution trials at run time and get feedback on the loss value on each trial. To demonstrate the capabilities of the query mechanism, we formulate an unsupervised (not dependant on labels) loss function for Boolean Satisfiability Problem (SAT) and theoretically show that it allows the network to extract rich information about the problem. We then propose a neural SAT solver with a query mechanism called QuerySAT and show that it outperforms the neural baseline on a wide range of SAT tasks and the classical baselines on SHA-1 preimage attack and 3-SAT task.


翻译:现代神经网络获取关于问题的信息,并仅从输入值中计算输出值。 我们争辩说,它并不总是最理想的,而且网络的性能可以通过一个查询机制得到显著改善,这个查询机制使网络能够在运行时进行数项解决方案试验,并获得关于每次试验损失价值的反馈。为了证明查询机制的能力,我们为Boolean可满足性问题(SAT)设计了一个不受监督(不依赖标签)的损失损失函数,并在理论上表明它允许网络提取关于该问题的丰富信息。 然后我们提议一个神经SAT解答器,其查询机制称为QuerySAT, 并显示它在一系列广泛的SAT任务上超过了神经基线以及SHA-1图像前攻击和3SAT任务上的典型基线。

0
下载
关闭预览

相关内容

SAT是研究者关注命题可满足性问题的理论与应用的第一次年度会议。除了简单命题可满足性外,它还包括布尔优化(如MaxSAT和伪布尔(PB)约束)、量化布尔公式(QBF)、可满足性模理论(SMT)和约束规划(CP),用于与布尔级推理有明确联系的问题。官网链接:http://sat2019.tecnico.ulisboa.pt/
神经常微分方程教程,50页ppt,A brief tutorial on Neural ODEs
专知会员服务
70+阅读 · 2020年8月2日
【清华大学】图随机神经网络,Graph Random Neural Networks
专知会员服务
152+阅读 · 2020年5月26日
【Manning新书】现代Java实战,592页pdf
专知会员服务
98+阅读 · 2020年5月22日
强化学习最新教程,17页pdf
专知会员服务
168+阅读 · 2019年10月11日
MIT新书《强化学习与最优控制》
专知会员服务
270+阅读 · 2019年10月9日
强化学习三篇论文 避免遗忘等
CreateAMind
19+阅读 · 2019年5月24日
Hierarchically Structured Meta-learning
CreateAMind
23+阅读 · 2019年5月22日
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
无监督元学习表示学习
CreateAMind
26+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
41+阅读 · 2019年1月3日
Arxiv
0+阅读 · 2021年8月10日
Arxiv
13+阅读 · 2021年7月20日
Arxiv
4+阅读 · 2021年2月8日
Arxiv
3+阅读 · 2018年3月28日
Arxiv
26+阅读 · 2018年2月27日
Arxiv
5+阅读 · 2017年11月30日
Arxiv
4+阅读 · 2017年1月2日
VIP会员
相关论文
Arxiv
0+阅读 · 2021年8月10日
Arxiv
13+阅读 · 2021年7月20日
Arxiv
4+阅读 · 2021年2月8日
Arxiv
3+阅读 · 2018年3月28日
Arxiv
26+阅读 · 2018年2月27日
Arxiv
5+阅读 · 2017年11月30日
Arxiv
4+阅读 · 2017年1月2日
Top
微信扫码咨询专知VIP会员