图嵌入模型综述

袁立宁, 李欣, 王晓冬, 刘钊

Graph Embedding Models: A Survey

YUAN Lining, LI Xin, WANG Xiaodong, LIU Zhao

表2 静态图嵌入模型策略归纳

Table 2 Strategies of static graph embedding

模型分类 模型 时间 模型策略 矩阵分解 LLE[24] 2000 构造邻域保持映射,最小化重建损失函数 GF[13] 2013 分解邻接矩阵,利用向量内积捕捉边的存在 GraRep[25] 2015 使用SVD分解k步对数转移概率矩阵 HOPE[27] 2016 GSVD分解相似度矩阵,L2范数保持高阶相似度 NGE[30] 2013 使用NMF将输入分解为系数矩阵和嵌入矩阵 LE[32] 2001 保持相连节点在嵌入空间尽可能靠近 CGE[33] 2011 修改LE损失函数,保持低权值节点对相似性 SPE[34] 2009 利用核矩阵生成关系矩阵 A ˜,最小化 A和 A ˜的差异 随机游走 Deepwalk[49] 2014 使用随机游走采样节点,Skip-Gram最大化节点共现概率 node2vec[50] 2016 在Deepwalk的基础上引入有偏的随机游走 HARP[51] 2017 利用原始图生成保留全局结构的压缩图 Walklets[52] 2016 改进Deepwalk,捕获节点与社区的从属关系并建模 TriDNR[54] 2016 最大化节点标签、节点邻域、节点内容的共现概率 自编码器 GraphEncoder[63] 2014 利用L2损失函数重构图相似度矩阵 SDNE[64] 2016 使用有监督和无监督组件分别保持一阶和二阶相似度 DNGR[65] 2016 随机冲浪捕获图结构,生成PPMI矩阵输入SDAE DNE-APP[67] 2017 使用PPMI度量和k步转移矩阵构建相似度聚合矩阵 VGAE[69] 2016 引入VAE,使用GCN编码器,使用内积解码器 GALA[73] 2020 编码器执行拉普拉斯平滑,解码器执行拉普拉斯锐化 ANE[76] 2018 施加对抗性正则化避免流形断裂 图神经网络 GCN[70] 2016 利用谱卷积一阶近似提高层间传播效率 GraphSAGE[85] 2017 采样和聚合节点的局部邻域特征训练聚合器函数 GAT[95] 2017 在GCN的基础上引入self-attention和multi-head attention GIN[98] 2018 利用GNN和WL图同构测试保留图结构信息 MF-GCN[100] 2020 使用多个局部GCN滤波器提取节点特征 GraphAIR[102] 2020 邻域聚合模块融合节点特征表示,邻域交互模块通过乘法运算显示建模 SDGNN[103] 2021 在GNN的基础引入地位理论和平衡理论 其他 LINE[116] 2015 分别优化一阶和二阶相似度,将嵌入向量进行拼接 DNRE[117] 2018 直接使用LSTM聚合邻域信息重建节点嵌入 Graphormer[119] 2021 在标准Transformer基础上,引入有中心性编码、空间编码和边编码