forward()函数和__init__()的关系
__init__()
是一个类的构造函数,用于初始化对象的属性。它会在创建对象时自动调用,而且通常在这里完成对象所需的所有初始化操作。
forward()
是一个神经网络模型中的方法,用于定义数据流的向前传播过程。它接受输入数据,通过网络的各个层进行计算,最终返回输出结果。
在神经网络的 PyTorch 实现中,**
__init__()
方法通常用于实例化各个网络层(例如卷积层、池化层、全连接层的维度等【这里只是执行了初始化,但是可以通过后面实例化时调用的forward()重新给神经网络维度赋值**】),并设置各层的超参数(例如卷积核大小、步幅、填充等)。而 **
forward()
方法则定义了这些网络层之间的计算顺序与逻辑,它负责将输入数据传递到网络中,并返回计算结果【这里输入进forward的数据维度要和forward()接收的第一个参数维度相同,虽然你看它只接受了一个参数‘x’,但是这个x的维度是多维的(在本代码中就是(input_dim, hidden_dim)两个大维度),而不是普通意义上的一个自然数】**。
因此,两个方法通常一起使用,
__init__()
用于设置网络结构和超参数,
forward()
则定义了从输入到输出的完整计算流程。
例子:
定义类:
import torch
import torch.nn as nn
class SimpleNet(nn.Module):
def __init__(self, input_dim, hidden_dim, output_dim):
super(SimpleNet, self).__init__()
self.fc1 = nn.Linear(input_dim, hidden_dim)
self.relu = nn.ReLU()
self.fc2 = nn.Linear(hidden_dim, output_dim)
def forward(self, x):
out = self.fc1(x)
out = self.relu(out)
out = self.fc2(out)
return out
在上面的代码中,我们定义了一个名为
SimpleNet
的神经网络模型,它继承自 PyTorch 中的
nn.Module
类。我们在
__init__()
方法中定义了三层网络结构,分别是输入层
fc1
、激活层
relu
和输出层
fc2
。其中,输入层和输出层都使用了全连接层(
nn.Linear
),而激活层使用了 ReLU 激活函数。
在
forward()
方法中,我们按照输入数据
x
经过
fc1
、
relu
和
fc2
三层的顺序进行计算,最终返回输出结果
out
。
调用
调用上述代码的
forward()
方法需要先创建一个
SimpleNet
类的对象,并将输入数据传递给该对象。以下是一个简单的示例:
# 创建一个 SimpleNet 对象,设置输入维度为 10,隐藏层维度为 20,输出维度为 5
net = SimpleNet(10, 20, 5)
# 构造一个随机的输入张量,大小为 [batch_size, input_dim],这里令 batch_size=1
input_tensor = torch.randn(1, 10)
# 将输入张量传入网络中,得到输出张量
output_tensor = net(input_tensor)
# 打印输出张量的形状
print(output_tensor.shape)
为什么上面的代没有看到
__init__()、
forword()函数的出现就完成了上述代码的调用呢?
初始化一个类时,则自动调用了该类的
__init__()
方法【net = SimpleNet(10, 20, 5)】
调用一个类的实例时,会自动调用该类的
forward()
方法【output_tensor = net(input_tensor)】
版权归原作者 HealthScience 所有, 如有侵权,请联系我们删除。