深度学习中epoch、batch、batch size和iterations详解
1.epoch在训练一个模型时所用到的全部数据；备注：一般在训练时都要使用多于一个的epoch，因为在神经网络中传递完整的数据集仅仅一次是不够的，只有将完整的数据集在同样的神经网络中传递多次，才会得到比较优秀的训练效果，当然也不行，容易过拟合，所以要根据实验选择自己最合适的。epochs：epoch
【PyG】与networkx的图转换
在使用图神经网络的过程中，往往需要使用到相关的 GNN 库，而在这些 GNN 库中，一款比较高效热门的图神经网络库是 PyTorch 中的 PyG 库。PyG 提供了很多经典的图神经网络模型和图数据集，通常在使用 PyG 框架来构建和训练图模型时，需要事先选择合适的图数据结构来构造图，PyG 提供的
深度学习论文精读[6]：UNet++
UNet的编解码结构一经提出以来，大有统一深度学习图像分割之势，后续基于UNet的改进方案也经久不衰，一些研究者也在从网络结构本身来思考UNet的有效性。比如说编解码网络应该取几层，跳跃连接是否能够有更多的变化以及什么样的结构训练起来更加有效等问题。UNet本身是针对医学图像分割任务而提出来的网络结
【注意力机制集锦】Channel Attention通道注意力网络结构、源码解读系列一
本文从原文、网络结构、代码实现三个方面系统总结了SENet、SKNET、CBAM三种注意力机制
BatchNorm详解
引言：前几天被同事问到了一个问题：当batch_size=1时，Batch Normalization还有没有意义，没有说出个所以然，才意识到自己从来不好好读过BN的论文（Batch Normalization: Accelerating Deep Network Training by Reduc
模型训练时测试集上正确率大于训练集
数据集切分的时候不均匀，也就是说训练集和测试集的分布不均匀，如果模型能够正确地捕捉到数据内部的分布模式的话，就有可能造成训练集的内部方差大于验证集，会造成训练集的误差更大，这个时候就需要重新划分数据集，使其分布一样。训练集的准确率是每个batch之后产生的，而验证集的准确率一般是一个epoch后产生
神经网络与深度学习
神经网络与深度学习复习
【Unet系列】（三）Unet++网络
Unet++主要是探索encoder和decoder需要多大的问题，以此为基础，提出了融合不同尺寸Unet结构的网络。创新点就是把不同尺寸的Uent结构融入到了一个网络里。
用Pytorch搭建一个房价预测模型
在此项目中，目的是预测爱荷华州Ames的房价，给定81个特征，描述了房子、面积、土地、基础设施、公共设施等。埃姆斯数据集具有分类和连续特征的良好组合，大小适中，也许最重要的是，它不像其他类似的数据集（如波士顿住房）那样存在潜在的红线或数据输入问题。在这里我将主要讨论PyTorch建模的相关方面，作为
神经网络中的常用算法-BN算法
但是当一张图片输入到神经网络经过卷积计算之后，这个分布就不会满足刚才经过image normalization操作之后的分布了，可能适应了新的数据分布规律，这个时候将数据接入激活函数中，很可能一些新的数据会落入激活函数的饱和区，导致神经网络训练的梯度消失，如下图所示当feature map的数据为1
【PyTorch教程】07-PyTorch如何使用多块GPU训练神经网络模型
在本篇博文中，你将学习到在PyTorch中如何使用多GPU进行并行训练。
人工智能知识全面讲解： RBF神经网络
7.4.1 全连接与局部连接1968 年 ， 生 物 学 家 休 伯 尔 （ David Hunter Hubel ） 教 授 与 维 泽 尔（Torsten N.Wiesel）教授在研究动物如何处理视觉信息时有一个重要的发现。他们发现动物大脑皮层是分级、分层处理信息的。在大脑的初级视觉皮层中存在好
超图神经网络（HGNN）
HGNN解读
强化学习领域值得关注的国际顶级会议
强化学习（Reinforcement Learning, RL），又称再励学习、评价学习或增强学习，是机器学习的范式和方法论之一，用于描述和解决智能体（agent）在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。今天给大家介绍几个强化学习领域值得关注的顶级会议。
PyTorch 之 强大的 hub 模块和搭建神经网络进行气温预测
【代码】PyTorch 之 强大的 hub 模块和搭建神经网络进行气温预测。
tt100k数据集跑yolov5s模型时，所遇到的问题记录
yolov5遇到的错误
二十. 在ROS系统上实现基于PyTorch YOLO v5的实时物体检测
在ROS系统上实现基于PyTorch YOLO v5的实时物体检测
FCN全卷积网络理解及代码实现（来自pytorch官方实现）
FCN是首个端对端的针对像素级预测的全卷积网络而换为卷积层之后，最后得到的是1000通道的2D图像，可以可视化为heat map图。一般说的vgg16是D：全连接操作前后：77512（通道）【假设忽略偏置】\color{red}{【假设忽略偏置】}【假设忽略偏置】全连接FC1计算：计算对应某一个结点
PyTorch深度学习实战 | 神经网络的优化难题
即使我们可以利用反向传播来进行优化，但是训练过程中仍然会出现一系列的问题，比如鞍点、病态条件、梯度消失和梯度爆炸，对此我们首先提出了小批量随机梯度下降，并且基于批量随机梯度下降的不稳定的特点，继续对其做出方向和学习率上的优化。
BP神经网络的诊断分类（初学者+matlab代码实现）
初学者推荐，bp神经网络的实现
