微软东昱晓《图表示学习: 嵌入，GNNs与预训练》2020教程，100页ppt

图表示学习

近年来，图神经网络(GNNs)在结构化数据建模方面取得了巨大的成功。然而，大多数GNN是为同构网络设计的，即所有节点或边具有相同的特征空间和表示分布。这使得它们无法代表真实世界中不断演化的异构图，如知识图谱、物联网图、领英经济图、开放学术图和Facebook实体图。在这次演讲中，我将介绍图神经网络架构，它可以建模十亿年规模的异构图形与动态。重点将是我们如何设计图注意力和相对时间编码机制，以捕获真实图异构和动态性质。接下来，我将进一步讨论为一般的图挖掘任务预先训练这类GNN的策略。最后，为了处理web规模的数据，我将介绍一种异构的小型批处理图采样算法，该算法带有一个归纳的时间戳分配方法，用于高效和可扩展的训练。大量的实验显示了在实践中对网络规模图进行预训练的GNNs的前景。

https://ericdongyx.github.io/papers/slides-Graph-Rep-Learning-GNN-PreTraining-at-CCF-BAAI-2020.pdf