0


损失函数——均方误差(Mean Squared Error,MSE)

均方误差(Mean Squared Error,MSE):MSE是回归任务中常用的损失函数,它衡量模型预测值与实际值之间的平均平方误差。

具体来说,MSE的计算公式如下:

MSE = \frac{1}{n} \sum \left ( x_{i}-y_{i}\right )^{2}

其中,n是样本数量,xi是第i个样本的真实值,yi是模型对第i个样本的预测值。

MSE的值越小,说明模型的预测值与真实值之间的差异越小,模型的性能越好。MSE可以被视为模型对预测值误差的平方的平均值,因此它对离群值(Outlier)比较敏感。如果样本中存在离群值,MSE可能会受到它们的影响而导致模型性能下降。

MSE广泛应用于线性回归和多元线性回归等任务中。在深度学习中,MSE也被用于衡量神经网络在回归任务中的性能,并作为损失函数进行优化。在使用MSE作为损失函数进行优化时,通常会采用梯度下降等优化算法来最小化MSE的值,从而提高模型的性能。

在PyTorch中,可以使用内置的MSE损失函数来计算均方误差。以下是使用PyTorch实现MSE损失函数的示例代码:

import torch
import torch.nn as nn

# 创建真实值和预测值的张量
y_true = torch.tensor([1, 2, 3, 4, 5], dtype=torch.float32)
y_pred = torch.tensor([1.5, 2.5, 2.8, 3.8, 4.5], dtype=torch.float32)

# 计算MSE损失函数
criterion = nn.MSELoss()
mse_loss = criterion(y_pred, y_true)

print("MSE损失值:", mse_loss.item())

在上面的代码中,首先创建了真实值和预测值的张量,然后使用PyTorch内置的

nn.MSELoss()

函数创建了一个MSE损失函数的实例。最后,调用实例的

forward()

方法,传入预测值和真实值张量,即可计算出MSE损失值。

如果需要在训练模型时使用MSE作为损失函数进行优化,可以在训练循环中计算损失,并使用反向传播算法更新模型参数。以下是使用MSE作为损失函数进行模型训练的示例代码:

import torch
import torch.nn as nn
import torch.optim as optim

# 定义模型
class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        self.linear = nn.Linear(1, 1)

    def forward(self, x):
        y_pred = self.linear(x)
        return y_pred

# 创建模型和优化器
model = MyModel()
optimizer = optim.SGD(model.parameters(), lr=0.01)

# 创建真实值和输入张量
x = torch.tensor([1, 2, 3, 4, 5], dtype=torch.float32).unsqueeze(1)
y_true = torch.tensor([2, 4, 6, 8, 10], dtype=torch.float32).unsqueeze(1)

# 训练模型
num_epochs = 100
criterion = nn.MSELoss()

for epoch in range(num_epochs):
    # 前向传播
    y_pred = model(x)
    # 计算损失
    loss = criterion(y_pred, y_true)
    # 反向传播
    optimizer.zero_grad()
    loss.backward()
    # 更新参数
    optimizer.step()

    print(f"Epoch [{epoch+1}/{num_epochs}], Loss: {loss.item():.4f}")

在上面的代码中,首先定义了一个简单的线性模型和一个随机梯度下降(Stochastic Gradient Descent,SGD)优化器。然后创建了真实值和输入张量,并使用MSE损失函数对模型进行训练。在每个训练迭代中,首先进行前向传播,然后计算损失,并使用反向传播算法更新模型参数。


本文转载自: https://blog.csdn.net/weixin_50752408/article/details/129557320
版权归原作者 木子十口儿几丶 所有, 如有侵权,请联系我们删除。

“损失函数——均方误差(Mean Squared Error,MSE)”的评论:

还没有评论