深度学习:可视化方法(模型可视化,训练过程可视化,特征提取可视化)
深度学习可视化,pytorch(tensorboard/netron)
【Unet系列】(三)Unet++网络
Unet++主要是探索encoder和decoder需要多大的问题,以此为基础,提出了融合不同尺寸Unet结构的网络。创新点就是把不同尺寸的Uent结构融入到了一个网络里。
YOLOV5-网络结构和组件介绍
总的来说在基本网络结构中,会对CSP网络的参数进行确定,而我们将用公式吧参数和给出的深度,宽度参数进行计算,从而算出残差次数的使用次数,也就控制了深度。采用上,下采样灵活的构造特征金字塔。在Yolov5中也是通过这样的方式 ,当时Yolov5采用了一个更好的方式,可以使得加灰边的大小尽可能的小,可以
从GPT到chatGPT(一):GPT1
GPT1,出自于OpenAI的论文,是最早的将transformer以多层堆叠的方式构成语言模型的模型,其出现时间早于BERT,但二者有一个最大的区别在于BERT只用的是transformer的encoder层,而GPT1只用了transformer的decoder层。除此以外二者在目标函数等地方也
Pytorch 05-进阶训练技巧
PyTorch在torch.nn模块为我们提供了许多常用的损失函数,比如:MSELoss,L1Loss,BCELoss...... 但是随着深度学习的发展,出现了越来越多的非官方提供的Loss,比如DiceLoss,HuberLoss,SobolevLoss...... 这些Loss Functio
【半监督医学图像分割 2022 CVPR】S4CVnet 论文翻译
由于医学影像界缺乏高质量标注,半监督学习方法在图像语义分割任务中受到高度重视。为了充分利用视觉转换器(ViT)和卷积神经网络(CNN)在半监督学习中的强大功能,本文提出了一种基于一致性感知伪标签的自集成方法。我们提出的框架包括一个由ViT和CNN相互增强的特征学习模块,以及一个用于一致性感知目的的健
基于CNN卷积神经网络实现中文手写汉字识别
中国版的 MNIST 数据集是在纽卡斯尔大学的一个项目框架中收集的数据。一百名中国公民参与了数据收集工作。每个参与者用标准的黑色墨水笔在一张桌子上写下所有 15 个数字,在一张白色 A4 纸上画出了 15 个指定区域。这个过程对每个参与者重复 10 次。每张纸都以 300x300 像素的分辨率扫描。
机器学习中的数学——距离定义(一):欧几里得距离(Euclidean Distance)
欧几里得距离或欧几里得度量是欧几里得空间中两点间的即直线距离。使用这个距离,欧氏空间成为度量空间,相关联的范数称为欧几里得范数。nnn维空间中的欧几里得距离:d(x,y)=∑i=1n(xi−yi)2=(x1−y1)2+(x2−y2)2+⋯+(xn−yn)2d(x, y)=\sqrt{\sum_{i=
逐行讲解BiLSTM+CRF实现命名实体识别(NER)
使用BiLSTM+CRF做中文命名实体识别(NER),数据处理、建立词表、模型构建、训练过程书写等,代码有详细注释,若有遗漏或不详细可评论补充。
swin-transformer详解及代码复现
1. swin-transformer网络结构实际上,我们在进行代码复现时应该是下图,接下来我们根据下面的图片进行分段实现2. Patch Partition & Patch Embedding首先将图片输入到Patch Partition模块中进行分块,即每4x4相邻的像素为一个Patch
torch.where()用法
本文主要讲述的两种用法,第一种是最常规的,也是官方文档所注明的;第二种就是配合bool型张量的计算以上就是torch.where()的两种用法
chatgpt3.5和chatgpt4的区别
ChatGPT4是基于GPT-3模型的一个实例,但ChatGPT4已经进行了进一步的改进和优化。ChatGPT4的目标是协助您解决问题和提供信息,但请谨慎对待ChatGPT4的回答,特别是在涉及重要决策时。以回答更多与近期相关的问题,但请注意ChatGPT4的知识仍有局限,尤其是关于2021年9月之
睿智的目标检测65——Pytorch搭建DETR目标检测平台
基于Transformer的目标检测一直没弄,补上一下。DETR可以采用多种的主干特征提取网络,论文中用的是Resnet,本文以Resnet50网络为例子来给大家演示一下。将靠前若干层的某一层数据输出直接跳过多层引入到后面数据层的输入部分。意味着后面的特征层的内容会有一部分由其前面的某一层线性贡献。
近几年CVPR图像压缩总结
图像压缩cvpr
《联邦学习实战—杨强》之使用Python从零开始实现一个简单的横向联邦学习模型
理解《联邦学习实战—杨强》使用Python从零开始实现一个简单的横向联邦学习模型
[深度学习基础]激活函数和损失函数
Sigmoid函数的图像如下图所示,其函数曲线在坐标轴上呈现"S"型,经典的S型分布是正态分布的累积分布函数,由于神经网络当中的变量、数据样本分布通常具有正态分布的特性,因此需要Sigmoid函数加入网络模型当中辅助神经网络更好地拟合数据分布。使用Sigmoid的另外一个原因在于该函数的值域为[0,
活体检测综述 Deep Learning for Face Anti-Spoofing: A Survey 阅读记录
这篇文章首次全面回顾了基于深度学习的活体检测算法的最新研究进展。
tf.keras.layers.Embedding() 详解
输入:二维张量:(batch_size, input_length)。输出:3D 张量:(batch_size, input_length, output_dim)。
多模态情感识别数据集和模型(下载地址+最新综述2021.8)
引用论文:Zhao, Sicheng, et al. “Emotion Recognition from Multiple Modalities: Fundamentals and Methodologies.” arXiv preprint arXiv:2108.10152 (2021).PDF链
detectron2安装详细教程+demo测试
win10 下 detectron2 安装详细教程,手把手教你配置!!