Twitter提出大规模图上学习框架-SIGN
https://zhuanlan.zhihu.com/p/267815920
SIGN是一种摒弃采样策略的方法，受Wu 等人的论文「Simplifying Graph Convolutional Networks」的启发，只拥有一个多跳信息传播层的 GCN 模型可以拥有与具有多个信息传播层的模型相当的性能。
SIGN 架构包含一个类似于 GCN 的层，它带有多个线性传播算子，这些算子可能作用于多跳邻居节点。在这个层后面，会连接着一个面向节点级别应用的多层感知机。该架构之所以具有较高的计算效率，是由于对被传播的特征的预计算（如图中红色部分所示），面向的是节点分类级任务。
这种做法（主要操作还是得看论文的公式）有效地将整体模型的计算复杂度降低到了与多层感知机相同的水平上。此外，通过将信息传播过程转移到预计算步骤中，我们可以聚合来自所有邻居节点的信息，从而避免采样过程及其可能带来的信息损失与偏置。
SIGN 主要的优点在于其可扩展性与效率，我们可以使用标准的 mini-batch 梯度下降方法训练它。最终的实验结果比ClusterGCN好，与GraphSAINT相当。
网友评论