深度学习之concatenate和elementwise操作(二)

一、深度学习里面的element-wise特征相乘和相加到底有什么区别?很多深度学习模型在设计时,中间特征在分支处理后,然后可能会采用element-wise相乘或相加,不知道这个乘和加的细微区别?答:相加的两个tensor通常都是具有特征意义的tensor,相乘的话,一般来说,其中一个tensor

【Pytorch深度学习50篇】·······第六篇:【常见损失函数篇】-----BCELoss及其变种

新年新气象,兄弟们新年快乐。撒花!!!之前我们的项目已经讲过了常见的4种深度学习任务(当然还有一些没有接触到的,例如GAN和今年大红的Transformer),今天这个blog我们就来谈谈一谈常见的损失函数。损失函数的更新也是非常的快,各位大佬的想法也是层出不穷,我们站在巨人的肩膀上,就可以看的更远

Ubantu 系统cuda升级到指定版本

Ubantu 系统cuda升级到指定版本

(学习笔记一)基于YOLOv5的车辆检测项目

基于YOLOv5的车辆识别项目测试报告1.YOLOv5模型简介YOLO能实现图像或视频中物体的快速识别,在相同的识别类别范围和识别准确率条件下,YOLO识别速度最快。YOLO有多种模型,其中最新的为V5,V5的特点是速度更快,识别准确率更高,权重文件更小,可以搭载在配置更低的移动设备上。本次测试采用

网络模型的参数量和FLOPs的计算 Pytorch

如果把torchstat包中的一行程序进行一点点改动,那么这个包可以用来统计全连接神经网络的参数量和计算量。当然手动计算全连接神经网络的参数量和计算量也很快 =_=。进入torchstat源代码之后,如下图所示,注释掉圈红的地方,就可以用torchstat包统计全连接神经网络的参数量和计算量了。包,

pytorch lightning最简上手

pytorch lightning最简上手

【Pytorch】torch.nn.init.xavier_uniform_()

Hello!ଘ(੭ˊᵕˋ)੭昵称:海轰标签:程序猿|C++选手|学生简介:因C语言结识编程,随后转入计算机专业,获得过国家奖学金,有幸在竞赛中拿过一些国奖、省奖…已保研学习经验:扎实基础 + 多做笔记 + 多敲代码 + 多思考 + 学好英语!唯有努力💪本文仅记录自己感兴趣的内容文章仅作为个人学习笔

MMOCR之多模态融合ABINET文字识别

今天是和大家继续分享MMOCR之ABINET文字识别。主要是一个独立自治多模态融合的思想。用文本模型提升模型整体的精度。视觉模型可以看做是先验信息,通过文本模型进行矫正。最后融合在一起,输出最终的结果,非常有新意。......

pytorch获得模型的参数量和模型的大小

pytorch获得模型的参数量和模型的大小

如何部署一个自己的AI绘图

目前AI绘图只支持N卡,显存最少4G,部署的时候一定要注意设备的配置

张量——Pytorch中Tensor的维度,形状,意义

搬运一篇文章!阅读原文在深度学习里,Tensor实际上就是一个多维数组(multidimensional array)。而Tensor的目的是能够创造更高维度的矩阵、向量。对Pytorch中的tensor人工读取维度和形状的时候总是很别扭,故作此文加深一下对tensor维度,形状以及各维度意义的理解

FPN细节剖析以及pytorch代码实现

FPN细节剖析以及pytorch代码实现

模型初始化与随机种子——Pytorch 炼丹技巧(随手记)

模型参数的默认初始化方式和自定义初始化方式,以及通过设置随机种子让每次实验的模型初始化参数保持一致

训练自己的GPT2-Chinese模型

基于GPT2-Chinese训练中文文本模型

Pytorch深度学习实战3-5:详解计算图与自动微分机(附实例)

本文详细介绍Pytorch中计算图的底层原理,讲解基于计算图的前向传播和反向传播,Pytorch自动微分原理以及梯度缓存、参数冻结等技巧

使用Pytorch实现对比学习SimCLR 进行自监督预训练

SimCLR(Simple Framework for Contrastive Learning of Representations)是一种学习图像表示的自监督技术。SimCLR 已被证明在各种图像分类基准上优于最先进的无监督学习方法。

【Pytorch】利用PyTorch实现图像识别

利用PyTorch实现图像识别的相关知识

cuda常见报错

cuda常见报错

TensorFlow和CUDA、cudnn、Pytorch以及英伟达显卡对应版本对照表

TensorFlow和CUDA、cudnn、Pytorch以及英伟达显卡对应版本对照表CUDA下载地址CUDNN下载地址torch下载英伟达显卡下载一、TensorFlow对应版本对照表版本Python 版本编译器cuDNNCUDAtensorflow-2.9.03.7-3.108.111.2ten