Towards Deeper Graph Neural Networks
时间 2021-06-09
标签
paper阅读
graph
问题:
- 一层的GCN layer只考虑直接邻域,加深模型层数可获得更大的感受野receptive fields,但性能却会变坏。
- 以前认为是over-smoothing问题导致的。
本文
- 增加层性能变坏是因为GCN模型里两个关键部分——representation transformation和propagation——的纠缠导致的。
- 分离这两个部分可以解决该问题。
模型:
- 进行特征变换,
- 堆叠层,只进行propagaition,不进行特征变换。
- adaptive adjustment,因为层数不好确定。用来确定各层的权重。
分离特征变换和信息传导,简化了模型,使得加深模型成为可能。虽然已有相应的工作,但关注点不在如何加深模型层数上。