Pytorch训练模型损失Loss为Nan或者无穷大（INF）原因
常见原因-1一般来说，出现NaN有以下几种情况：相信很多人都遇到过训练一个deep model的过程中，loss突然变成了NaN。在这里对这个问题做一个总结：1.如果在迭代的100轮以内，出现NaN，一般情况下的原因是因为你的学习率过高，需要降低学习率。可以不断降低学习率直至不出现NaN为止，一般来
使用MobileViT替换YOLOv5主干网络
相比较于其他的transformer变体，MobileViT这篇文章给出的改动技巧很简单高效，它解决的ViT中因为像素摊平操作导致的位置信息损失问题，将卷积的局部信息提取优势和自注意力机制的全局信息提取能力结合起来，并且根据论文描述具有高度轻量化+极快的推理速度，具体的大佬们自己去读读，本菜鸡好久之
图像中的注意力机制详解(SEBlock | ECABlock | CBAM)
图像中的注意力机制详解注意力机制目前主要有通道注意力机制和空间注意力机制两种一、 前言我们知道，输入一张图片，神经网络会提取图像特征，每一层都有不同大小的特征图。如图1所示，展示了 VGG网络在提取图像特征时特征图的大小变化。图1 VGG网络特征结构图其中，特征图常见的矩阵形状为[C,H,W]{[C
图像超分辨率重建（pytorch）
本文在原论文的基础上进行了代码补充，并提供了整个流程的代码运行方法以完成图像超分辨率工作。
pytorch 多GPU并行训练代码讲解
pytorch 多GPU并行训练介绍，参考我之前的博客:pytorch中使用多GPU并行训练。本文主要针对代码部分进行讲解。1. 首先判断有没有可用的GPU，如果没有的话，这边会报错提醒，因为我们的脚本对针对多GPU训练的场景的。2. 初始化各进程环境。
【损失函数：3】感知损失：Perceptual Loss、总变分损失（TV Loss）（附Pytorch实现）
提出感知损失的概念，用于实时超分辨任务和风格迁移任务，后来也被应用于更多的领域，在图像去雾方向也有不少工作使用到了感知损失，所以这里就细看一下感知损失具体是什么，该如何构造（说个题外话：我之前做实验，用VGG提取特征构造感知损失狂爆内存，然后直接放弃了，都怪设备太垃圾啊！！！）。
SENet代码复现＋超详细注释（PyTorch）
SENet代码复现（PyTorch），每一行都有超详细注释，新手小白都能看懂，亲测可运行
从0到1实现GCN——最详细的代码实现
从0到1的GCN代码实现。详细介绍了基于GCN公式的代码实现，以及更加简单高效的基于Pytorch Geometric(PyG)的GCN的代码实现。帮助小白快速入手GCN！！！
PyTorch深度学习实战 | 自然语言处理与强化学习
PyTorch是当前主流深度学习框架之一，其设计追求最少的封装、最直观的设计，其简洁优美的特性使得PyTorch代码更易理解，对新手非常友好。本文主要介绍深度学习领域中自然语言处理与强化学习部分。
面部表情识别2：Pytorch实现表情识别(含表情识别数据集和训练代码)
面部表情识别，Pytorch实现表情识别(含表情识别数据集和训练代码)，面部表情识别；情绪识别， Facial Expression Recognition
【Windows】搭建Pytorch环境(GPU版本，含CUDA、cuDNN)，并在Pycharm上使用（零基础小白向）
此文记录详细且正确的GPU版Pytorch环境搭建过程，同时包括在Pycharm上使用Pytorch的教程（Anaconda环境）。希望此文对读者有帮助！
Pytorch DataLoader中的num_workers (选择最合适的num_workers值)
Pytorch DataLoader中的num_workers (选择最合适的num_workers值)
pytorch模型保存与加载总结
pytorch模型保存与加载方式、打包保存tar、多卡训练遇到的问题、torch.jit、加载预训练模型、保存模型再加载精度损失
LSTM实现时间序列预测(PyTorch版)
为了训练数据，首先定义LSTM模型，然后再定义对应的损失函数，由于我们这里是风速预测，显然是个回归问题，所以采用回归问题常用的MESLoss()，如果可以的话，可以自定义损失函数，针对自己的项目需求定义对应的损失函数。对于优化器来讲，使用的也是目前常用的Adam优化器，对于新手来讲也可以多多尝试其它
DCGAN理论讲解及代码实现
DCGAN也叫深度卷积生成对抗网络，DCGAN就是将CNN与GAN结合在一起，生成模型和判别模型都运用了深度卷积神经网络的生成对抗网络。DCGAN将GAN与CNN相结合，奠定了之后几乎所有GAN的基本网络架构。DCGAN极大地提升了原始GAN训练的稳定性以及生成结果的质量...
【pytorch】有关nn.EMBEDDING的简单介绍
假设有一本字典，就一共只有10单词，每个单词有5个字母组成。每一页上只写一个单词，所以这10页纸上分别写了这10个单词。内如如下，我们假定这本字典叫, 这里的10和5即上面介绍的含义，10个单词，每个单词5个字母；现在我要查看第2页和第3页（从0开始），那么我会得到 [s,m,a,l,l]， [w,
Pytorch文档解读|torch.nn.MultiheadAttention的使用和参数解析
整体称为一个单注意力头，因为运算结束后只对每个输入产生一个输出结果，一般在网络中，输出可以被称为网络提取的特征，那我们肯定希望提取多种特征，[ 比如说我输入是一个修狗狗图片的向量序列，我肯定希望网络提取到特征有形状、颜色、纹理等等，所以单次注意肯定是不够的 ]因为是拼接而成的，所以每个单注意力头其实
自注意力(Self-Attention)与Multi-Head Attention机制详解
self-attention，multi-head attention原理详解
yolov5s模型剪枝详细过程(v6.0)
基于yolov5s(v6.0)的模型剪枝实战分享，参考github教程带链接带源码。
初入深度学习1——如何下载与打开一个Github深度学习库
初入深度学习1——如何下载与打开一个深度学习库学习前言下载一个仓库一、Github1、Download Zip（不推荐，但可用）a、打开网址b、下载文件c、下载与解压文件2、git clone（推荐）a、打开网址b、复制HTTPS信息c、进行git clone二、Gitee（网络不好的情况下可用）a
