会议: NeurIPS 2021 论文地址:https://arxiv.org/abs/2109.14285 图神经网络 (GNN) 卓越的性能已经广受关注,但其预测结果是否值得信赖却有待探索。之前的研究结果表明,许多现代神经网络对其预测具有过度自信的现象。然而与之不同的是,我们发现GNN对其预测结果却呈现出欠自信的现象。因此,要想获得一个可信的GNN,亟需对其置信度进行校正。 在本文中,我们设计了一种拓扑感知的后处理校正函数,并由此提出了一种新颖的可信赖 GNN 模型。具体来说,我们首先验证了图中的置信度分布具有同质性的特点,由此启发我们再次利用GNN模型来为分类GNN模型学习校正函数(CaGCN)的想法。CaGCN 能够为每个节点学习到一种从分类 GNN 的输出到校正后的置信度的唯一转换,同时这种转换还能够保留类间的序关系,从而满足保存精度的属性。 此外,我们还将CaGCN应用于自训练框架,结果表明可以通过对置信度进行校正获得更可信的伪标签,从而并进一步提高性能。我们通过大量实验证明了我们提出的模型在置信度校正方面和在提高分类准确率方面的有效性。 总结(2-1-1): 2种现象:GNN的预测结果具有欠自信现象;好的置信度分布具有同质性现象;

1个模型:CaGCN

1类应用:置信度调整后的GNN可以有效应用于自训练框架

成为VIP会员查看完整内容
16
0

相关内容

图神经网络 (GNN) 是一种连接模型,它通过图的节点之间的消息传递来捕捉图的依赖关系。与标准神经网络不同的是,图神经网络保留了一种状态,可以表示来自其邻域的具有任意深度的信息。近年来,图神经网络(GNN)在社交网络、知识图、推荐系统、问答系统甚至生命科学等各个领域得到了越来越广泛的应用。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
专知会员服务
16+阅读 · 2021年10月3日
专知会员服务
26+阅读 · 2021年6月7日
专知会员服务
25+阅读 · 2020年12月15日
专知会员服务
23+阅读 · 2020年12月7日
专知会员服务
32+阅读 · 2020年12月1日
【NeurIPS2020】可靠图神经网络鲁棒聚合
专知会员服务
14+阅读 · 2020年11月6日
【NeurIPS 2020】对图神经网络更切实的对抗式攻击
专知会员服务
20+阅读 · 2020年11月5日
近期必读的七篇NeurIPS 2020【对比学习】相关论文和代码
专知会员服务
63+阅读 · 2020年10月20日
专知会员服务
40+阅读 · 2020年10月5日
论文浅尝 | 基于置信度的知识图谱表示学习框架
开放知识图谱
21+阅读 · 2018年2月27日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
15+阅读 · 2019年9月7日
A Comprehensive Survey on Graph Neural Networks
Arxiv
10+阅读 · 2019年3月10日
Arxiv
16+阅读 · 2018年10月24日
小贴士
相关VIP内容
专知会员服务
16+阅读 · 2021年10月3日
专知会员服务
26+阅读 · 2021年6月7日
专知会员服务
25+阅读 · 2020年12月15日
专知会员服务
23+阅读 · 2020年12月7日
专知会员服务
32+阅读 · 2020年12月1日
【NeurIPS2020】可靠图神经网络鲁棒聚合
专知会员服务
14+阅读 · 2020年11月6日
【NeurIPS 2020】对图神经网络更切实的对抗式攻击
专知会员服务
20+阅读 · 2020年11月5日
近期必读的七篇NeurIPS 2020【对比学习】相关论文和代码
专知会员服务
63+阅读 · 2020年10月20日
专知会员服务
40+阅读 · 2020年10月5日
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
微信扫码咨询专知VIP会员