跨越注意力：Cross-Attention

在问答系统中，为了匹配一个问题句子，和一个候选的答案，我们可以注意一个句子中的不同单词，也可以注意这个答案的不同属性。到底该注意哪一个呢？中科院的赵军老师说：可以乱来的，让不同的单词和答案互相交叉着注意。

---

---

An end-to-end model for question answering overknowledge base with cross-attention combining global knowledge

Hao, Yanchao, Yuanzhe Zhang, Kang Liu, Shizhu He, ZhanyiLiu, Hua Wu, and Jun Zhao

In Proceedings of the 55th Annual Meeting of theAssociation for Computational Linguistics (Volume 1: Long Papers), vol. 1, pp.221-231. 2017