论文速读Backbone系列一:点云Transformer结合、PointNet++改进、点云卷积核设计

如有错误,恳请指出。对一些经典论文进行快速思路整理,以下内容主要关注的是3d点云的backbone设计,包括transformer的应用,卷积核的设计,PointNet++网络的改进。1)提出Offset Atention,在原本的self-attention中的LBR(Fa)改为LBR(Fin-F

常用归一化/正则化层:InstanceNorm1d、InstanceNorm2d、

批量归一化与实例归一化的最大区别在于计算均值及方差的依据不同,实例归一化是对每个样本沿着通道方向独立对各个通道进行计算,而批量归一化则是对所有样本沿着batch的方向对各个通道分别进行计算。比如:输入特征图形状为:(2,3,256,512),表示有两个256×512的特征图,特征图通道数为3,假设为

史上最强tensorflow2.6.0安装教程

安装tensorflow-gpu版本

基于Transformer的交通预测模型部分汇总【附源代码】

交通预测一直是一个重要的问题,它涉及到交通运输系统的可靠性和效率。随着人工智能的发展,越来越多的研究者开始使用深度学习模型来解决这个问题。其中,基于Transformer的交通预测模型在近年来备受关注,因为它们具有优秀的建模能力和较好的预测准确性。

基于深度学习的口罩检测系统(Python+清新界面+数据集)

口罩检测系统用于日常生活中检测行人是否规范佩戴口罩,利用深度学习算法可实现图片、视频、连接摄像头等方式的口罩检测,另外支持和结果可视化。在介绍算法原理的同时,给出Python的实现代码以及PyQt的UI界面。口罩检测系统可用于路口、商场等公共场合检测人脸是否佩戴口罩,佩戴和未佩戴口罩的数目、位置、预

STGCN时空图卷积网络:用于交通预测的深度学习框架

提出了一种新的深度学习架构——时空图卷积网络,用于交通预测任务。该架构包括几个时空卷积块,它们是图卷积层[Defferrard等人,2016]和卷积序列学习层的组合,以建模空间和时间依赖性。据我们所知,在交通研究中应用纯卷积结构同时从图结构时间序列中提取时空特征尚属首次。我们在两个真实世界的交通数据

轴承故障诊断领域的论文到底有多水

这个是最让人困惑的,就好像你说自己证明了某个方法更好,但是你却没有交代自己怎么做的,或者说你交代的过程有外行话或者逻辑上的缺陷,但是你就这么给出个结果完事了。由于自己没有足够大的学术交流圈子,为了尽量避免误判,我在原来13篇论文的基础上又读了18篇,这些论文至少都出自中文核心,有一些还有EI的tit

深度学习之YOLOv5实践应用(3-1)人头检测模型

参考:基于yolov5训练人头检测模型 - 知乎一、数据集下载地址:链接:四、模型训练1. 数据集目录配置在data文件夹下创建head.yaml,此文件设置类别数量,类别名称以及数据集的路径。内容如下图所示:​head.yaml2. 预训练模型从 yolov5 github 源码地址下载预训练 y

人工智能大模型多场景应用原理解析

生成式人工智能是一种基于深度学习的AI技术,其通过学习海量数据中的规律和模式,能够生成新的数据、图像、语言等内容。这种技术在各个行业的应用都能够带来巨大的商业价值作为一个普通人我们应该如何把握住这次技术变革的浪潮呢?

时间序列模型SCINet模型(自定义项目)

时间序列模型SCINet模型如何自定义项目,并在kaggle上使用,以及如何进行参数调节

TransFuse跑自己的数据集

基于Transformer的语义分割

学习率设置

本篇主要学习神经网络超参数学习率的设置,包括人工调整和策略调整学习率。在模型优化中,常用到的几种学习率衰减方法有:分段常数衰减、多项式衰减、指数衰减、自然指数衰减、余弦衰减、线性余弦衰减、噪声线性余弦衰减。......

MAE:视觉自监督2021(原理+代码)

MAE论文「Masked Autoencoders Are Scalable Vision Learners」证明了 masked autoencoders(MAE) 是一种可扩展的计算机视觉自监督学习方法。遮住95%的像素后,仍能还原出物体的轮廓,效果如图:本文提出了一种掩膜自编码器 (MAE)架

基于Pytorch的可视化工具

通过文本输出myConvNet网络的网络结构得到上面的输出结果,但这并不容易让读者理解在网络中层与层之间的连接方式,所以需要将PyTorch搭建的深度学习网络进行可视化,通过图像来帮助读者理解网络层与层之间的连接方式。而网络训练过程的可视化,通常用于监督网络的训练过程或呈现网络的训练效果。当使用Py

MobileViT模型简介

自从2010年ViT(Vision Transformer)模型的横空出世,人们发现了Transformer架构在视觉领域的巨大潜力。近些年,越来越多的科研人员投入Transformer的怀抱,视觉领域的各项任务也不断被Transformer架构模型刷新。Transformer虽然强大,但在现在看来

深度学习之文本分类总结

一、文本分类概况二、文本分类的发展三、文本分类常用的模型结构四、文本分类模型实际中遇到的问题(Q&A)

什么是AI预训练模型?

预训练 AI 模型是一种深度学习模型,在大型数据集上进行训练以完成特定任务,它可以按原样使用或定制以满足多个行业的应用需求。想象一下,试图教一个蹒跚学步的孩子什么是独角兽。一个好的起点可能是展示该生物的子图像并描述其独特的特征。现在想象一下,试图教人工智能机器什么是独角兽。从哪里开始呢?预训练的 A

YOLOV5+deepsort+rknn(rk3588进行实时目标跟踪)

rk3588的目标检测+目标跟踪

如何提高bp神经网络精度,改进bp神经网络的方案

人工神经网络,是一种旨在模仿人脑结构及其功能的信息处理系统,就是使用人工神经网络方法实现模式识别.可处理一些环境信息十分复杂,背景知识不清楚,推理规则不明确的问题,神经网络方法允许样品有较大的缺损和畸变.神经网络的类型很多,建立神经网络模型时,根据研究对象的特点,可以考虑不同的神经网络模型. 前馈型

pytorch:常见的pytorch参数初始化方法总结

使输入的张量服从(a,b)的均匀分布并返回。从给定的均值和标准差的正态分布N(mean,std)中生成值,初始化张量。以一确定数值初始化张量。从均匀分布U(−a, a)中采样,初始化输入张量,其中a的值由如下公式确定,公式中的gain值根据不同的激活函数确定[1]https://www.cxyzjd