Pytorch实现GCN(基于PyTorch实现)

文章目录

前言

大家好，我是阿光。

本专栏整理了《图神经网络代码实战》，内包含了不同图神经网络的相关代码实现（PyG以及自实现），理论与实践相结合，如GCN、GAT、GraphSAGE等经典图网络，每一个代码实例都附带有完整的代码。

正在更新中~ ✨

🚨 我的项目环境：

• 平台：Windows10
• 语言环境：python3.7
• 编译器：PyCharm
• PyTorch版本：1.11.0
• PyG版本：2.1.0

💥 项目专栏：【图神经网络代码实战目录】

本文我们将使用PyTorch来简易实现一个GCN（图卷积网络），不使用PyG库，让新手可以理解如何PyTorch来搭建一个简易的图网络实例demo。

一、导入相关库

本项目是采用自己实现的GCN，并没有使用

PyG

库，原因是为了帮助新手朋友们能够对GCN的原理有个更深刻的理解，如果熟悉之后可以尝试使用PyG库直接调用

GCNConv

这个图层即可。

import numpy as np
import torch
import torch.nn as nn
import torch.nn.functional as F
from scipy.sparse import coo_matrix
from torch_geometric.datasets import Planetoid

二、加载Cora数据集

本文使用的数据集是比较经典的Cora数据集，它是一个根据科学论文之间相互引用关系而构建的Graph数据集合，论文分为7类，共2708篇。

• Genetic_Algorithms
• Neural_Networks
• Probabilistic_Methods
• Reinforcement_Learning
• Rule_Learning
• Theory

这个数据集是一个用于图节点分类的任务，数据集中只有一张图，这张图中含有2708个节点，10556条边，每个节点的特征维度为1433。

# 1.加载Cora数据集
dataset = Planetoid(root='./data/Cora', name='Cora')

三、定义GCN网络

3.1 定义GCN层

这里我们就不重点介绍GCN网络了，相信大家能够掌握基本原理，本文我们使用的是PyTorch定义网络层。

对于GCNConv的常用参数：

• in_channels：每个样本的输入维度，就是每个节点的特征维度
• out_channels：经过注意力机制后映射成的新的维度，就是经过GAT后每个节点的维度长度
• add_self_loops：为图添加自环，是否考虑自身节点的信息
• bias：训练一个偏置b

我们在实现时也是考虑这几个常见参数

对于GCN的传播公式为：

       H 
      
     
       ′ 
      
     
    
      = 
     
     
      
      
        D 
       
      
        ^ 
       
      
      
      
        − 
       
      
        1 
       
      
        / 
       
      
        2 
       
      
     
     
     
       A 
      
     
       ^ 
      
     
     
      
      
        D 
       
      
        ^ 
       
      
      
      
        − 
       
      
        1 
       
      
        / 
       
      
        2 
       
      
     
    
      H 
     
    
      W 
     
    
   
     H'=\hat D^{-1/2} \hat A \hat D^{-1/2}HW 
    
   
 H′=D^−1/2A^D^−1/2HW

上式子中的

     D 
    
   
  
    D 
   
  
D 代表图的度矩阵， 
 
  
   
   
     A 
    
   
  
    A 
   
  
A 代表邻接矩阵，如果考虑自身特征，则  
 
  
   
    
    
      A 
     
    
      ^ 
     
    
   
     = 
    
   
     A 
    
   
     + 
    
   
     I 
    
   
  
    \hat A=A+I 
   
  
A^=A+I， 
 
  
   
   
     H 
    
   
  
    H 
   
  
H代表每个层的输入特征，也就是每个节点的特征矩阵，如果是第一层，则  
 
  
   
    
    
      H 
     
    
      0 
     
    
   
     = 
    
   
     X 
    
   
  
    H_0=X 
   
  
H0​=X，对于  
 
  
   
   
     W 
    
   
  
    W 
   
  
W 代表每个 

GCNConv

层的可学习参数。

所以我们的任务无非就是获取这几个变量，然后进行传播计算即可

3.1.1 邻接矩阵A

由于我们使用的是内置数据集

Cora

，他给出的数据集并没有给出对应的邻接矩阵，所以我们需要手动实现获取该图对应的邻接矩阵。

adj = coo_matrix((torch.ones(edge_index.shape[1]),(edge_index[0].numpy(), edge_index[1].numpy())),
                shape=(x.shape[0], x.shape[0]))

values = data
indices = np.vstack((adj.row, adj.col))

i = torch.LongTensor(indices)
v = torch.FloatTensor(values)
shape = adj.shape

adj = torch.sparse.FloatTensor(i, v, torch.Size(shape)).to_dense()

3.1.2 度矩阵D

上面获取了邻接矩阵之后，每行元素的求和就代表每个元素的度，所以直接对邻接矩阵进行求行和即可。

degree = adj.sum(axis=1)

3.1.3 获取矩阵

      D 
     
     
     
       − 
      
     
       1 
      
     
       / 
      
     
       2 
      
     
    
   
  
    D^{-1/2} 
   
  
D−1/2

由于我们要对矩阵进行归一化，所以需要计算

      D 
     
     
     
       − 
      
     
       1 
      
     
       / 
      
     
       2 
      
     
    
   
  
    D^{-1/2} 
   
  
D−1/2，可以使用如下代码：

degree_2 = torch.torch.diag_embed(torch.pow(self.degree,-0.5).flatten())

3.1.4 GCNConv层

接下来就可以定义GCNConv层了，该层实现了3个函数，分别是

init_parameters()

、

get_L_sym()

、

forward()

• init_parameters()：初始化可学习参数
• get_L_sym()：矩阵归一化，计算GCN公式中的 D − 1 / 2 A D − 1 / 2 D^{-1/2}AD^{-1/2} D−1/2AD−1/2，由于这部分不依赖数据，所以只需要计算一次，然后保留到类内部参数即可
• forward()：这个函数定义模型的传播过程，也就是上面公式的 D − 1 / 2 A D − 1 / 2 H W D^{-1/2}AD^{-1/2}HW D−1/2AD−1/2HW，如果设置了偏置在加上偏置返回即可

classGCNConv(nn.Module):def__init__(self, in_channels, out_channels, add_self_loops=True, bias=True):super(GCNConv, self).__init__()
        self.in_channels = in_channels # 输入图节点的特征数
        self.out_channels = out_channels # 输出图节点的特征数
        self.add_self_loops = add_self_loops # 是否考虑节点自身添加自环
        
        self.adj =None# 邻接矩阵A
        self.degree =None# 度矩阵D
        self.degree_2 =None# D^(-0.5)
        self.adj_t =None# D^(-0.5)AD^(-0.5)# 定义参数 θ
        self.weight = nn.Parameter(torch.FloatTensor(in_channels, out_channels))if bias:
            self.bias = nn.Parameter(torch.FloatTensor(out_channels,1))
        
        self.init_parameters()# 初始化可学习参数definit_parameters(self):
        nn.init.xavier_uniform_(self.weight)if self.bias !=None:
            nn.init.xavier_uniform_(self.bias)# 计算D^(-1/2)AD^(-1/2)defget_L_sym(self, x, edge_index):# 1.获取邻接矩阵Aif self.adj ==None:
            self.adj = coo_matrix((torch.ones(edge_index.shape[1]),(edge_index[0].numpy(), edge_index[1].numpy())),
                shape=(x.shape[0], x.shape[0]))

            values = self.adj.data
            indices = np.vstack((self.adj.row, self.adj.col))

            i = torch.LongTensor(indices)
            v = torch.FloatTensor(values)
            shape = self.adj.shape

            self.adj = torch.sparse.FloatTensor(i, v, torch.Size(shape)).to_dense()# 2.添加自环if self.add_self_loops:
            self.adj = self.adj + torch.eye(self.adj.shape[0])# 3.获取度矩阵Dif self.degree ==None:
            self.degree = self.adj.sum(axis=1)# 4.获取D^(-0.5)if self.degree_2 ==None:
            self.degree_2 = torch.torch.diag_embed(torch.pow(self.degree,-0.5).flatten())# 5.计算D^(-0.5)AD^(-0.5)if self.adj_t ==None:
            self.adj_t = torch.mm(self.degree_2, self.adj).mm(self.degree_2)defforward(self, x, edge_index):# 1.获取D^(-0.5)AD^(-0.5)if self.adj_t ==None:
            self.get_L_sym(x, edge_index)# 2.计算HW
        x = torch.mm(x, self.weight)# num_nodes, out_channels# 3.计算D^(-0.5)AD^(-0.5)HW
        output = torch.spmm(self.adj_t, x)# 计算# 4.添加偏置if self.bias !=None:return output + self.bias.flatten()else:return output

对于我们实现这个网络的实现效率上来讲比PyG框架内置的

GCNConv

层稍差一点，因为我们是按照公式来一步一步利用矩阵计算得到，没有对矩阵计算以及算法进行优化，不然初学者可能看不太懂，不利于理解GCN公式的传播过程，有能力的小伙伴可以看下官方源码学习一下。

3.2 定义GCN网络

上面我们已经实现好了

GCNConv

的网络层，之后就可以调用这个层来搭建

GCN

网络。

# 定义GCN网络classGCN(nn.Module):def__init__(self, num_node_features, num_classes):super(GCN, self).__init__()
        self.conv1 = GCNConv(num_node_features,16)
        self.conv2 = GCNConv(16, num_classes)defforward(self, data):
        x, edge_index = data.x, data.edge_index
        
        x = self.conv1(x, edge_index)
        x = F.relu(x)
        x = F.dropout(x, training=self.training)
        x = self.conv2(x, edge_index)return F.log_softmax(x, dim=1)

上面网络我们定义了两个GCNConv层，第一层的参数的输入维度就是初始每个节点的特征维度，输出维度是16。

第二个层的输入维度为16，输出维度为分类个数，因为我们需要对每个节点进行分类，最终加上softmax操作。

四、定义模型

下面就是定义了一些模型需要的参数，像学习率、迭代次数这些超参数，然后是模型的定义以及优化器及损失函数的定义，和pytorch定义网络是一样的。

device = torch.device('cuda'if torch.cuda.is_available()else'cpu')# 设备
epochs =10# 学习轮数
lr =0.003# 学习率
num_node_features = dataset.num_node_features # 每个节点的特征数
num_classes = dataset.num_classes # 每个节点的类别数
data = dataset[0].to(device)# Cora的一张图# 3.定义模型
model = GCN(num_node_features, num_classes).to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=lr)# 优化器
loss_function = nn.NLLLoss()# 损失函数

五、模型训练

模型训练部分也是和pytorch定义网络一样，因为都是需要经过前向传播、反向传播这些过程，对于损失、精度这些指标可以自己添加。

# 训练模式
model.train()for epoch inrange(epochs):
    optimizer.zero_grad()
    pred = model(data)
    
    loss = loss_function(pred[data.train_mask], data.y[data.train_mask])# 损失
    correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()# epoch正确分类数目
    acc_train = correct_count_train / data.train_mask.sum().item()# epoch训练精度
    
    loss.backward()
    optimizer.step()if epoch %20==0:print("【EPOCH: 】%s"%str(epoch +1))print('训练损失为：{:.4f}'.format(loss.item()),'训练精度为：{:.4f}'.format(acc_train))print('【Finished Training！】')

六、模型验证

下面就是模型验证阶段，在训练时我们是只使用了训练集，测试的时候我们使用的是测试集，注意这和传统网络测试不太一样，在图像分类一些经典任务中，我们是把数据集分成了两份，分别是训练集、测试集，但是在Cora这个数据集中并没有这样，它区分训练集还是测试集使用的是掩码机制，就是定义了一个和节点长度相同纬度的数组，该数组的每个位置为True或者False，标记着是否使用该节点的数据进行训练。

# 模型验证
model.eval()
pred = model(data)# 训练集（使用了掩码）
correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()
acc_train = correct_count_train / data.train_mask.sum().item()
loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集
correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()
acc_test = correct_count_test / data.test_mask.sum().item()
loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train),'Train Loss: {:.4f}'.format(loss_train))print('Test  Accuracy: {:.4f}'.format(acc_test),'Test  Loss: {:.4f}'.format(loss_test))

七、结果

【EPOCH: 】1
训练损失为：2.0124 训练精度为：0.1929
【EPOCH: 】21
训练损失为：1.9400 训练精度为：0.1857
【EPOCH: 】41
训练损失为：1.8269 训练精度为：0.3500
【EPOCH: 】61
训练损失为：1.7327 训练精度为：0.4500
【EPOCH: 】81
训练损失为：1.6719 训练精度为：0.5143
【EPOCH: 】101
训练损失为：1.5983 训练精度为：0.5500
【EPOCH: 】121
训练损失为：1.4344 训练精度为：0.6857
【EPOCH: 】141
训练损失为：1.3838 训练精度为：0.7357
【EPOCH: 】161
训练损失为：1.2925 训练精度为：0.7571
【EPOCH: 】181
训练损失为：1.2392 训练精度为：0.7714
【Finished Training！】

>>>Train Accuracy:0.9357 Train Loss:1.1050>>>Test  Accuracy:0.6900 Test  Loss:1.4413

训练集测试集Accuracy0.93570.6900Loss1.10501.4413

完整代码

import numpy as np
import torch
import torch.nn as nn
import torch.nn.functional as F
from scipy.sparse import coo_matrix
from torch_geometric.datasets import Planetoid

# 1.加载Cora数据集
dataset = Planetoid(root='./data/Cora', name='Cora')# 2.定义GCNConv层classGCNConv(nn.Module):def__init__(self, in_channels, out_channels, add_self_loops=True, bias=True):super(GCNConv, self).__init__()
        self.in_channels = in_channels # 输入图节点的特征数
        self.out_channels = out_channels # 输出图节点的特征数
        self.add_self_loops = add_self_loops # 是否考虑节点自身添加自环
        
        self.adj =None# 邻接矩阵A
        self.degree =None# 度矩阵D
        self.degree_2 =None# D^(-0.5)
        self.adj_t =None# D^(-0.5)AD^(-0.5)# 定义参数 θ
        self.weight = nn.Parameter(torch.FloatTensor(in_channels, out_channels))if bias:
            self.bias = nn.Parameter(torch.FloatTensor(out_channels,1))
        
        self.init_parameters()# 初始化可学习参数definit_parameters(self):
        nn.init.xavier_uniform_(self.weight)if self.bias !=None:
            nn.init.xavier_uniform_(self.bias)# 计算D^(-1/2)AD^(-1/2)defget_L_sym(self, x, edge_index):# 1.获取邻接矩阵Aif self.adj ==None:
            self.adj = coo_matrix((torch.ones(edge_index.shape[1]),(edge_index[0].numpy(), edge_index[1].numpy())),
                shape=(x.shape[0], x.shape[0]))

            values = self.adj.data
            indices = np.vstack((self.adj.row, self.adj.col))

            i = torch.LongTensor(indices)
            v = torch.FloatTensor(values)
            shape = self.adj.shape

            self.adj = torch.sparse.FloatTensor(i, v, torch.Size(shape)).to_dense()# 2.添加自环if self.add_self_loops:
            self.adj = self.adj + torch.eye(self.adj.shape[0])# 3.获取度矩阵Dif self.degree ==None:
            self.degree = self.adj.sum(axis=1)# 4.获取D^(-0.5)if self.degree_2 ==None:
            self.degree_2 = torch.torch.diag_embed(torch.pow(self.degree,-0.5).flatten())# 5.计算D^(-0.5)AD^(-0.5)if self.adj_t ==None:
            self.adj_t = torch.mm(self.degree_2, self.adj).mm(self.degree_2)defforward(self, x, edge_index):# 1.获取D^(-0.5)AD^(-0.5)if self.adj_t ==None:
            self.get_L_sym(x, edge_index)# 2.计算HW
        x = torch.mm(x, self.weight)# num_nodes, out_channels# 3.计算D^(-0.5)AD^(-0.5)HW
        output = torch.spmm(self.adj_t, x)# 计算# 4.添加偏置if self.bias !=None:return output + self.bias.flatten()else:return output

# 3.定义GCNConv网络classGCN(nn.Module):def__init__(self, num_node_features, num_classes):super(GCN, self).__init__()
        self.conv1 = GCNConv(num_node_features,16)
        self.conv2 = GCNConv(16, num_classes)defforward(self, data):
        x, edge_index = data.x, data.edge_index
        
        x = self.conv1(x, edge_index)
        x = F.relu(x)
        x = F.dropout(x, training=self.training)
        x = self.conv2(x, edge_index)return F.log_softmax(x, dim=1)

device = torch.device('cuda'if torch.cuda.is_available()else'cpu')# 设备
epochs =200# 学习轮数
lr =0.0003# 学习率
num_node_features = dataset.num_node_features # 每个节点的特征数
num_classes = dataset.num_classes # 每个节点的类别数
data = dataset[0].to(device)# Cora的一张图# 4.定义模型
model = GCN(num_node_features, num_classes).to(device)
optimizer = torch.optim.Adam(model.parameters(), lr=lr)# 优化器
loss_function = nn.NLLLoss()# 损失函数# 训练模式
model.train()for epoch inrange(epochs):
    optimizer.zero_grad()
    pred = model(data)
    
    loss = loss_function(pred[data.train_mask], data.y[data.train_mask])# 损失
    correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()# epoch正确分类数目
    acc_train = correct_count_train / data.train_mask.sum().item()# epoch训练精度
    
    loss.backward()
    optimizer.step()if epoch %20==0:print("【EPOCH: 】%s"%str(epoch +1))print('训练损失为：{:.4f}'.format(loss.item()),'训练精度为：{:.4f}'.format(acc_train))print('【Finished Training！】')# 模型验证
model.eval()
pred = model(data)# 训练集（使用了掩码）
correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()
acc_train = correct_count_train / data.train_mask.sum().item()
loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集
correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()
acc_test = correct_count_test / data.test_mask.sum().item()
loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train),'Train Loss: {:.4f}'.format(loss_train))print('Test  Accuracy: {:.4f}'.format(acc_test),'Test  Loss: {:.4f}'.format(loss_test))