0


Pytorch+PyG实现GCN(图卷积网络)

文章目录


前言

大家好,我是阿光。

本专栏整理了《图神经网络代码实战》,内包含了不同图神经网络的相关代码实现(PyG以及自实现),理论与实践相结合,如GCN、GAT、GraphSAGE等经典图网络,每一个代码实例都附带有完整的代码。

正在更新中~ ✨

在这里插入图片描述

🚨 我的项目环境:

  • 平台:Windows10
  • 语言环境:python3.7
  • 编译器:PyCharm
  • PyTorch版本:1.11.0
  • PyG版本:2.1.0

💥 项目专栏:【图神经网络代码实战目录】


本文我们将使用Pytorch + Pytorch Geometric来简易实现一个GCN(图卷积网络),让新手可以理解如何PyG来搭建一个简易的图网络实例demo。

一、导入相关库

本项目我们需要结合两个库,一个是Pytorch,因为还需要按照torch的网络搭建模型进行书写,第二个是PyG,因为在torch中并没有关于图网络层的定义,所以需要torch_geometric这个库来定义一些图层。

  1. import torch
  2. import torch.nn.functional as F
  3. import torch.nn as nn
  4. import torch_geometric.nn as pyg_nn
  5. from torch_geometric.datasets import Planetoid

二、加载Cora数据集

本文使用的数据集是比较经典的Cora数据集,它是一个根据科学论文之间相互引用关系而构建的Graph数据集合,论文分为7类,共2708篇。

  • Genetic_Algorithms
  • Neural_Networks
  • Probabilistic_Methods
  • Reinforcement_Learning
  • Rule_Learning
  • Theory

这个数据集是一个用于图节点分类的任务,数据集中只有一张图,这张图中含有2708个节点,10556条边,每个节点的特征维度为1433。

  1. # 1.加载Cora数据集
  2. dataset = Planetoid(root='./data/Cora', name='Cora')

三、定义GCN网络

这里我们就不重点介绍GCN网络了,相信大家能够掌握基本原理,本文我们使用的是PyG定义网络层,在PyG中已经定义好了GCNConv这个层,该层采用的就是GCN机制。

在这里插入图片描述

对于GCNConv的常用参数:

  • in_channels:每个样本的输入维度,就是每个节点的特征维度
  • out_channels:经过注意力机制后映射成的新的维度,就是经过GAT后每个节点的维度长度
  • normalize:是否添加自环,并且是否归一化,默认为True
  • add_self_loops:为图添加自环,是否考虑自身节点的信息
  • bias:训练一个偏置b
  1. # 2.定义GCNConv网络classGCN(nn.Module):def__init__(self, num_node_features, num_classes):super(GCN, self).__init__()
  2. self.conv1 = pyg_nn.GCNConv(num_node_features,16)
  3. self.conv2 = pyg_nn.GCNConv(16, num_classes)defforward(self, data):
  4. x, edge_index = data.x, data.edge_index
  5. x = self.conv1(x, edge_index)
  6. x = F.relu(x)
  7. x = F.dropout(x, training=self.training)
  8. x = self.conv2(x, edge_index)return F.log_softmax(x, dim=1)

上面网络我们定义了两个GCNConv层,第一层的参数的输入维度就是初始每个节点的特征维度,输出维度是16。

第二个层的输入维度为16,输出维度为分类个数,因为我们需要对每个节点进行分类,最终加上softmax操作。

四、定义模型

下面就是定义了一些模型需要的参数,像学习率、迭代次数这些超参数,然后是模型的定义以及优化器及损失函数的定义,和pytorch定义网络是一样的。

  1. device = torch.device('cuda'if torch.cuda.is_available()else'cpu')# 设备
  2. epochs =10# 学习轮数
  3. lr =0.003# 学习率
  4. num_node_features = dataset.num_node_features # 每个节点的特征数
  5. num_classes = dataset.num_classes # 每个节点的类别数
  6. data = dataset[0].to(device)# Cora的一张图# 3.定义模型
  7. model = GCN(num_node_features, num_classes).to(device)
  8. optimizer = torch.optim.Adam(model.parameters(), lr=lr)# 优化器
  9. loss_function = nn.NLLLoss()# 损失函数

五、模型训练

模型训练部分也是和pytorch定义网络一样,因为都是需要经过前向传播、反向传播这些过程,对于损失、精度这些指标可以自己添加。

  1. # 训练模式
  2. model.train()for epoch inrange(epochs):
  3. optimizer.zero_grad()
  4. pred = model(data)
  5. loss = loss_function(pred[data.train_mask], data.y[data.train_mask])# 损失
  6. correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()# epoch正确分类数目
  7. acc_train = correct_count_train / data.train_mask.sum().item()# epoch训练精度
  8. loss.backward()
  9. optimizer.step()if epoch %20==0:print("【EPOCH: 】%s"%str(epoch +1))print('训练损失为:{:.4f}'.format(loss.item()),'训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')

六、模型验证

下面就是模型验证阶段,在训练时我们是只使用了训练集,测试的时候我们使用的是测试集,注意这和传统网络测试不太一样,在图像分类一些经典任务中,我们是把数据集分成了两份,分别是训练集、测试集,但是在Cora这个数据集中并没有这样,它区分训练集还是测试集使用的是掩码机制,就是定义了一个和节点长度相同纬度的数组,该数组的每个位置为True或者False,标记着是否使用该节点的数据进行训练。

  1. # 模型验证
  2. model.eval()
  3. pred = model(data)# 训练集(使用了掩码)
  4. correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()
  5. acc_train = correct_count_train / data.train_mask.sum().item()
  6. loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集
  7. correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()
  8. acc_test = correct_count_test / data.test_mask.sum().item()
  9. loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train),'Train Loss: {:.4f}'.format(loss_train))print('Test Accuracy: {:.4f}'.format(acc_test),'Test Loss: {:.4f}'.format(loss_test))

七、结果

  1. EPOCH: 1
  2. 训练损失为:1.9594 训练精度为:0.1571
  3. EPOCH: 21
  4. 训练损失为:1.8681 训练精度为:0.3286
  5. EPOCH: 41
  6. 训练损失为:1.7647 训练精度为:0.5000
  7. EPOCH: 61
  8. 训练损失为:1.6587 训练精度为:0.5571
  9. EPOCH: 81
  10. 训练损失为:1.5258 训练精度为:0.6714
  11. EPOCH: 101
  12. 训练损失为:1.4334 训练精度为:0.7143
  13. EPOCH: 121
  14. 训练损失为:1.3361 训练精度为:0.7714
  15. EPOCH: 141
  16. 训练损失为:1.2310 训练精度为:0.8357
  17. EPOCH: 161
  18. 训练损失为:1.1443 训练精度为:0.8571
  19. EPOCH: 181
  20. 训练损失为:1.0962 训练精度为:0.8714
  21. Finished Training!】
  22. >>>Train Accuracy:0.9357 Train Loss:0.9735>>>Test Accuracy:0.7200 Test Loss:1.3561

训练集测试集Accuracy0.93570.7200Loss0.97351.3561

完整代码

  1. import torch
  2. import torch.nn.functional as F
  3. import torch.nn as nn
  4. import torch_geometric.nn as pyg_nn
  5. from torch_geometric.datasets import Planetoid
  6. # 1.加载Cora数据集
  7. dataset = Planetoid(root='./data/Cora', name='Cora')# 2.定义GCNConv网络classGCN(nn.Module):def__init__(self, num_node_features, num_classes):super(GCN, self).__init__()
  8. self.conv1 = pyg_nn.GCNConv(num_node_features,16)
  9. self.conv2 = pyg_nn.GCNConv(16, num_classes)defforward(self, data):
  10. x, edge_index = data.x, data.edge_index
  11. x = self.conv1(x, edge_index)
  12. x = F.relu(x)
  13. x = F.dropout(x, training=self.training)
  14. x = self.conv2(x, edge_index)return F.log_softmax(x, dim=1)
  15. device = torch.device('cuda'if torch.cuda.is_available()else'cpu')# 设备
  16. epochs =200# 学习轮数
  17. lr =0.0003# 学习率
  18. num_node_features = dataset.num_node_features # 每个节点的特征数
  19. num_classes = dataset.num_classes # 每个节点的类别数
  20. data = dataset[0].to(device)# Cora的一张图# 3.定义模型
  21. model = GCN(num_node_features, num_classes).to(device)
  22. optimizer = torch.optim.Adam(model.parameters(), lr=lr)# 优化器
  23. loss_function = nn.NLLLoss()# 损失函数# 训练模式
  24. model.train()for epoch inrange(epochs):
  25. optimizer.zero_grad()
  26. pred = model(data)
  27. loss = loss_function(pred[data.train_mask], data.y[data.train_mask])# 损失
  28. correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()# epoch正确分类数目
  29. acc_train = correct_count_train / data.train_mask.sum().item()# epoch训练精度
  30. loss.backward()
  31. optimizer.step()if epoch %20==0:print("【EPOCH: 】%s"%str(epoch +1))print('训练损失为:{:.4f}'.format(loss.item()),'训练精度为:{:.4f}'.format(acc_train))print('【Finished Training!】')# 模型验证
  32. model.eval()
  33. pred = model(data)# 训练集(使用了掩码)
  34. correct_count_train = pred.argmax(axis=1)[data.train_mask].eq(data.y[data.train_mask]).sum().item()
  35. acc_train = correct_count_train / data.train_mask.sum().item()
  36. loss_train = loss_function(pred[data.train_mask], data.y[data.train_mask]).item()# 测试集
  37. correct_count_test = pred.argmax(axis=1)[data.test_mask].eq(data.y[data.test_mask]).sum().item()
  38. acc_test = correct_count_test / data.test_mask.sum().item()
  39. loss_test = loss_function(pred[data.test_mask], data.y[data.test_mask]).item()print('Train Accuracy: {:.4f}'.format(acc_train),'Train Loss: {:.4f}'.format(loss_train))print('Test Accuracy: {:.4f}'.format(acc_test),'Test Loss: {:.4f}'.format(loss_test))

本文转载自: https://blog.csdn.net/m0_47256162/article/details/127614247
版权归原作者 ༺࿈ 海洋༒之心 ࿈༻ 所有, 如有侵权,请联系我们删除。

“Pytorch+PyG实现GCN(图卷积网络)”的评论:

还没有评论