圖神經網路論文-A Comprehensive Survey on Graph Neural Networks
目錄
1、前言：
這部分其實和上一篇學習的論文屬於一種概述性的，因此採用初略的閱讀，最主要的處理是對論文大致的中文進行梳理，對神經網路常用的縮寫進行梳理、以及對於論文的概括。
2、 Abstract:
一、什麼是圖神經網路
用於處理圖資料的神經網路結構,與圖嵌入或網路嵌入密切相關，圖嵌入或網路嵌入是資料探勘和機器學習界日益關注的另一個課題。嵌入旨在通過保留圖的網路拓撲結構和節點內容資訊，將圖中頂點表示為低維向量，以便使用簡單的機器學習演演算法（例如，支援向量機分類）進行處理.
二、有哪些圖神經網路
圖神經網路劃分為五大類別，分別是：
- 圖折積網路（Graph Convolution Networks，GCN）
- 圖注意力網路（Graph Attention Networks）
- 圖自編碼器（ Graph Autoencoders）
- 圖生成網路（ Graph Generative Networks）
- 圖時空網路（Graph Spatial-temporal Networks）
三、圖神經網路的應用
-
計算機視覺Computer Vision（CV）
-
推薦系統Recommender Systems
- 交通運輸Traffic
3、神經網路常用的縮寫
圖折積網路（Graph Convolution Networks，GCN）
圖注意力網路（Graph Attention Networks,(GAN\GAT)）
圖自編碼器（ Graph Autoencoders）
圖生成網路（ Graph Generative Networks）
圖時空網路（Graph Spatial-temporal Networks）
圖神經網路 GNN
幾何深度學習 GDL
圖表示學習 GRL
基於空間的圖折積神經網路Spatial-based Graph Convolutional Networks
門控注意力網路(Gated Attention Network)（GANN）
圖形注意力模型(Graph Attention Model)（GAM）
圖自動編碼器(Graph Autoencoders)
Graph Autoencoder (GAE)和Adversarially Regularized Graph Autoencoder (ARGA)
圖自編碼器的其它變體有：
具有反向正則化自動編碼器的網路表示Network Representations with Adversarially Regularized Autoencoders (NetRA)
用於圖表示的深度神經網路Deep Neural Networks for Graph Representations (DNGR)
結構深網嵌入Structural Deep Network Embedding (SDNE)
深度遞迴網路的嵌入Deep Recursive Network Embedding (DRNE)
圖生成網路 Graph Generative Networks
分子生成對抗網路 Molecular Generative Adversarial Networks (MolGAN)
Deep Generative Models of Graphs (DGMG)
圖時空網路Graph Spatial-Temporal Networks
擴散折積遞迴神經網路 Diffusion Convolutional Recurrent Neural Network (DCRNN)
CNN-GCN
Spatial Temporal GCN (ST-GCN)
Structural-RNN5、論文詳情筆記
5.1 什麼是圖神經網路
因為傳統的深度學習被應用在非歐式空間上具有侷限性。例如，在電子商務中，一個基於圖（Graph）的學習系統能夠利用使用者和產品之間的互動來做出非常準確的推薦，但 在處理時面臨著巨大的挑戰。這是因為圖是不規則的，每個圖都有一個大小可變的無序節點，圖中的每個節點都有不同數量的相鄰節點，導致一些重要的操作（例如折積）在影象（Image）上很容易計算，但不再適合直接用於圖。此外，現有深度學習演演算法的一個核心假設是資料樣本之間彼此獨立。然而，對於圖來說，情況並非如此，圖中的每個資料樣本（節點）都會有邊與圖中其他實資料樣本（節點）相關，這些資訊可用於捕獲範例之間的相互依賴關係。
5.2 圖嵌入和圖神經網路的區別
5.3 圖折積網路（GCN）
5.4 GCN方法又可以分為兩大類
基於譜（spectral-based）和基於空間（spatial-based）
基於譜的方法從圖訊號處理的角度引入濾波器來定義圖折積，其中圖折積操作被解釋為從圖訊號中去除噪聲。基於空間的方法將圖折積表示為從鄰域聚合特徵資訊，當圖折積網路的演演算法在節點層次執行時，圖池化模組可以與圖折積層交錯，將圖粗化為高階子結構。如下圖所示，這種架構設計可用於提取圖的各級表示和執行圖分類任務。
在下面，我們分別簡單介紹了基於譜的GCN和基於空間的GCN。
現有的基於譜的圖折積網路模型有以下這些：Spectral CNN、Chebyshev Spectral CNN (ChebNet)、Adaptive Graph Convolution Network (AGCN)
基於譜的圖折積神經網路方法的一個常見缺點是，它們需要將整個圖載入到記憶體中以執行圖折積，這在處理大型圖時是不高效的。
參考文獻