Pytorch 05-进阶训练技巧
PyTorch在torch.nn模块为我们提供了许多常用的损失函数,比如:MSELoss,L1Loss,BCELoss...... 但是随着深度学习的发展,出现了越来越多的非官方提供的Loss,比如DiceLoss,HuberLoss,SobolevLoss...... 这些Loss Functio
【半监督医学图像分割 2022 CVPR】S4CVnet 论文翻译
由于医学影像界缺乏高质量标注,半监督学习方法在图像语义分割任务中受到高度重视。为了充分利用视觉转换器(ViT)和卷积神经网络(CNN)在半监督学习中的强大功能,本文提出了一种基于一致性感知伪标签的自集成方法。我们提出的框架包括一个由ViT和CNN相互增强的特征学习模块,以及一个用于一致性感知目的的健
基于CNN卷积神经网络实现中文手写汉字识别
中国版的 MNIST 数据集是在纽卡斯尔大学的一个项目框架中收集的数据。一百名中国公民参与了数据收集工作。每个参与者用标准的黑色墨水笔在一张桌子上写下所有 15 个数字,在一张白色 A4 纸上画出了 15 个指定区域。这个过程对每个参与者重复 10 次。每张纸都以 300x300 像素的分辨率扫描。
机器学习中的数学——距离定义(一):欧几里得距离(Euclidean Distance)
欧几里得距离或欧几里得度量是欧几里得空间中两点间的即直线距离。使用这个距离,欧氏空间成为度量空间,相关联的范数称为欧几里得范数。nnn维空间中的欧几里得距离:d(x,y)=∑i=1n(xi−yi)2=(x1−y1)2+(x2−y2)2+⋯+(xn−yn)2d(x, y)=\sqrt{\sum_{i=
卷积神经网络——inception网络及python实现
Inception网络结构及python实现
逐行讲解BiLSTM+CRF实现命名实体识别(NER)
使用BiLSTM+CRF做中文命名实体识别(NER),数据处理、建立词表、模型构建、训练过程书写等,代码有详细注释,若有遗漏或不详细可评论补充。
swin-transformer详解及代码复现
1. swin-transformer网络结构实际上,我们在进行代码复现时应该是下图,接下来我们根据下面的图片进行分段实现2. Patch Partition & Patch Embedding首先将图片输入到Patch Partition模块中进行分块,即每4x4相邻的像素为一个Patch
torch.where()用法
本文主要讲述的两种用法,第一种是最常规的,也是官方文档所注明的;第二种就是配合bool型张量的计算以上就是torch.where()的两种用法
chatgpt3.5和chatgpt4的区别
ChatGPT4是基于GPT-3模型的一个实例,但ChatGPT4已经进行了进一步的改进和优化。ChatGPT4的目标是协助您解决问题和提供信息,但请谨慎对待ChatGPT4的回答,特别是在涉及重要决策时。以回答更多与近期相关的问题,但请注意ChatGPT4的知识仍有局限,尤其是关于2021年9月之
睿智的目标检测65——Pytorch搭建DETR目标检测平台
基于Transformer的目标检测一直没弄,补上一下。DETR可以采用多种的主干特征提取网络,论文中用的是Resnet,本文以Resnet50网络为例子来给大家演示一下。将靠前若干层的某一层数据输出直接跳过多层引入到后面数据层的输入部分。意味着后面的特征层的内容会有一部分由其前面的某一层线性贡献。
近几年CVPR图像压缩总结
图像压缩cvpr
GC-LSTM:用于动态网络链路预测的图卷积嵌入原理+代码(上)原理部分
GC-LSTM利用GCN提取图数据的拓扑结构特征,LSTM提取序列数据的时序特征,从而能够对动态变化的图拓扑进行预测。本文详细介绍了GC-LSTM模型的原理,并基于PYG Temporal对其进行代码实现。
《联邦学习实战—杨强》之使用Python从零开始实现一个简单的横向联邦学习模型
理解《联邦学习实战—杨强》使用Python从零开始实现一个简单的横向联邦学习模型
[深度学习基础]激活函数和损失函数
Sigmoid函数的图像如下图所示,其函数曲线在坐标轴上呈现"S"型,经典的S型分布是正态分布的累积分布函数,由于神经网络当中的变量、数据样本分布通常具有正态分布的特性,因此需要Sigmoid函数加入网络模型当中辅助神经网络更好地拟合数据分布。使用Sigmoid的另外一个原因在于该函数的值域为[0,
活体检测综述 Deep Learning for Face Anti-Spoofing: A Survey 阅读记录
这篇文章首次全面回顾了基于深度学习的活体检测算法的最新研究进展。
tf.keras.layers.Embedding() 详解
输入:二维张量:(batch_size, input_length)。输出:3D 张量:(batch_size, input_length, output_dim)。
多模态情感识别数据集和模型(下载地址+最新综述2021.8)
引用论文:Zhao, Sicheng, et al. “Emotion Recognition from Multiple Modalities: Fundamentals and Methodologies.” arXiv preprint arXiv:2108.10152 (2021).PDF链
detectron2安装详细教程+demo测试
win10 下 detectron2 安装详细教程,手把手教你配置!!
一文快速了解 GPT-4
从文本到图像,GPT-4将彻底改变我们与AI互动的方式近年来,语言模型的发展已成为人工智能领域的一个关键研究领域。由OpenAI开发的GPT(生成预训练变换器)模型一直处于这一研究的前沿。GPT-4是该系列的最新版本,建立在其前身的优势基础上,并融合了新的特性和功能。本文讨论了GPT-4的特性和功能
Pytorch深度学习实战3-2:什么是张量?Tensor的创建与索引
张量是多维数组结构,在人工智能领域应用广泛。本文介绍Pytorch中的张量格式,以及七种张量创建方法和三种张量索引方法