GCN的前前后后详解

参考论文

1. Spectral Networks and Deep Locally Connected Networks on Graph

2. Convolutional Neural Networks on Graphs With Fast Localized Spectral Filtering

3. Semi-Supervised Classification with Graph Convolution Network

(来自paper2)将CNN推广到graph需要三个基本步骤:(i)图上的局部卷积滤波器的设计,(ii)将相似顶点组合在一起的图粗化过程和(iii)交换空间分辨率以获得更高滤波器分辨率的图池化操作。

有两种策略来定义卷积滤波器;无论是从空间方法还是从光谱方法。通过构造,空间方法通过内核的有限大小提供过滤器定位。然而,尽管可以想象空间域中的图卷积,但它面临着匹配局部邻域的挑战,如[4]中所指出的。因此,从空间角度来看,图上的平移没有独特的数学定义。另一方面,频谱方法通过在频谱域中实现的Kronecker delta的卷积在图上提供了一个定义良好的定位算子[31]。卷积定理[22]将卷积定义为在傅立叶基础上对角化的线性算子(由拉普拉斯算子的特征向量表示)。然而,在谱域中定义的滤波器不是自然局部化的,并且由于乘以图Fourier基,因此平移成本很高。然而,通过特殊选择滤波器参数化可以克服这两个限制。

图傅立叶变换

处理在无向连通图

                                                                                                

上定义的信号,其中V是顶点的有限集合,E是一组边,是编码两个顶点之间的连接权重的加权邻接矩阵。在图的节点上定义的信号可以被视为向量,其中节点处的x的值。谱图分析中的基本算子是图拉普拉斯算子[6],其组合定义是:

                                                                                            

其中,是带有的对角度矩阵,归一化定义是:

                                                                                         

其中是单位矩阵。

由于L是一个实对称半正定矩阵,它有一套完整的正交特征向量,称为图傅立叶模,以及它们相关的有序实非负特征值,被确定为图的频率。拉普拉斯算子是由傅立叶基

                                                                                     

对角化的,因此在。然后将信号的图形傅立叶变换定义为:

                                                                                             

将其逆定义 [31]为

                                                                                              

与欧几里德空间一样,这种变换可以制定基本操作,如过滤。

图信号的光谱滤波

图上的卷积运算符在傅立叶域中定义为:

                                                                                     

其中,⊙是元素Hadamard乘积。因此,信号x由过滤为:

                                                                    y=g_{\theta}(L) x=g_{\theta}\left(U \Lambda U^{T}\right) x=U g_{\theta}(\Lambda) U^{T} x (1)

其中,这里的y和的y不一样,g_{\theta}(\Lambda)是对角阵,里面的U^Ty是一个列向量,(1)式用一个对角阵g_{\theta}(\Lambda)替代,如下:

GCN的前前后后详解_第1张图片

非参数滤波器,即其参数全部空闲的滤波器,将被定义为:

                                                                                        g_{\theta}(\Lambda)=\operatorname{diag}(\theta) (2)

其中参数是傅里叶系数的向量,拉普拉斯特征值组成的向量。

局部滤波器的多项式参数化

然而,非参数滤波器存在两个局限性:(i)它们未在空间中本地化;(ii)它们的学习复杂性在中,即数据的维度。使用多项式滤波器可以克服这些问题:

                                                                                       g_{\theta}(\Lambda)=\sum_{k=0}^{K-1} \theta_{k} \Lambda^{k}(3)

其中参数是多项式系数的向量。以顶点i为中心的滤波器的顶点j处的值由给出,其中内核通过具有Kronecker delta函数的卷积进行定位。通过[12,引理5.2],意味着,其中是最短路径距离,即连接图上两个顶点的最小边数。因此,由拉普拉斯算子的K thorder多项式表示的谱滤波器正好是K-局部化的。此外,他们的学习复杂性是,这是滤波器的支持大小,因此与传统CNN具有相同的复杂性。

.......

参考paper2(mainly)和paper3

你可能感兴趣的:(GCN的前前后后详解)