Explaining Graph Neural Network

XAI for Graphs: Explaining Graph Neural Network Predictions by Identifying Relevant Walks

https://arxiv.org/pdf/2006.03589v2.pdf

图神经网络是预测图结构数据的一种常用方法。由于GNNs将输入图紧密地缠绕在神经网络结构中，因此常用的可解释AI（XAI）方法不适用。到目前为止，GNNs在很大程度上仍然是用户的黑匣子。在本文中，我们提出了一种新的GNNs XAI方法。我们的方法是从高阶泰勒展开式导出的，并且能够将GNN预测分解为输入图上相关游动的集合。我们发现，这些高阶泰勒展开式可以用从GNN的顶层到第一层的多次反向传播过程来等价地（更简单地）计算。然后，用层相关传播（LRP）代替梯度传播的标准方程，可以进一步证明和推广这种解释。在无标度图、句子解析树、分子图和表示图像的像素格上测试了我们表示为GNN-LRP的新方法。在每种情况下，它都能稳定而准确地执行，并提供有趣而新颖的应用见解。