Swin-Transformer网络结构详解
文章目录0 前言1 网络整体框架2 Patch Merging详解3 W-MSA详解Ω(MSA)\Omega (MSA)Ω(MSA)模块计算量Ω(W−MSA)\Omega (W-MSA)Ω(W−MSA)模块计算量4 SW-MSA详解5 Relative Position Bias详解6 模型详细配
基于Vision Transformers的文档理解简介
文档理解是从pdf、图像和Word文档中提取关键信息的技术。这篇文章的目标是提供一个文档理解模型的概述。
使用TensorFlow Probability实现最大似然估计
TensorFlow Probability是一个构建在TensorFlow之上的Python库。它将我们的概率模型与现代硬件(例如GPU)上的深度学习结合起来。
AI遮天传 DL-反馈神经网络RNN
AI遮天传 DL-反馈神经网络
NeurIPS 2022-10大主题、50篇论文总结
2672篇主要论文，63场研讨会，7场受邀演讲，包括语言模型、脑启发研究、扩散模型、图神经网络……NeurIPS包含了世界级的AI研究见解，本文将对NeurIPS 2022做一个全面的总结。
论文推荐：Rethinking Attention with Performers
重新思考的注意力机制，Performers是由谷歌，剑桥大学，DeepMind，和艾伦图灵研究所发布在2021 ICLR的论文已经超过500次引用
PyTorch中学习率调度器可视化介绍
学习率调度器有很多个，并且我们还可以自定义调度器。本文将介绍PyTorch中不同的预定义学习率调度器如何在训练期间调整学习率
DEFORMABLE DETR详解
transformer组件在处理图像特征图中的不足。在初始化时，注意模块对特征图中的所有像素施加了几乎一致的注意权重。长时间的训练周期是为了学习注意权重，以关注稀疏的有意义的位置。另一方面，transformer编码器中的注意权值计算是二次计算w.r.t.像素数。因此，处理高分辨率的特征映射具有非常
深度学习 Transformer架构解析
2018年10月，Google发出一篇论文《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》, BERT模型横空出世, 并横扫NLP领域11项任务的最佳成绩!而在BERT中发挥重要作用的
pytorch模型(.pt)转onnx模型(.onnx)的方法详解(1)
pytorch模型(.pt)转onnx模型(.onnx)的方法详解(1)
基于SARIMA、XGBoost和CNN-LSTM的时间序列预测对比
本文将讨论通过使用假设测试、特征工程、时间序列建模方法等从数据集中获得有形价值的技术。我还将解决不同时间序列模型的数据泄漏和数据准备等问题，并且对常见的三种时间序列预测进行对比测试。
人工智能与机器学习
主要介绍了人工智能与机器学习的概念，机器学习的流程，机器学习分类等。
图像数据的特征工程
总结了常用的图像特征工程，裁剪，灰度化，RGB通道选择，强度阈值，边缘检测和颜色过滤器
深度学习Week9-YOLOv5-C3模块实现（Pytorch）
了解C3的结构，方便后续YOLOv5算法的学习。采用的数据集是天气识别的数据集。 输出：cuda图形变换，输出一下：用到类输出：{'cloudy': 0, 'rain': 1, 'shine': 2, 'sunrise': 3}二、搭建YOLOv5-C3模型2.查看模型详情 统计模型参数量以及其他指
yolov5训练并生成rknn模型以及3588平台部署
瑞芯微RK3588上yolov5目标检测的部署。
yolov5s-5.0网络模型结构图
看了很多yolov5方面的东西，最近需要yolov5得模型结构图，但是网上的最多的是大白老师的，但是大白老师的yolov5得模型结构图不知道是哪个版本得，肯定不是5.0和6.0版本得。参考了大白老师得模型结构图和其他大佬的模型结构图，以及参考了yolov5得onnx。画出了以下得结构图，初次画不知道
YOLOv7-Pose尝鲜，基于YOLOv7的关键点模型测评
目前人体姿态估计总体分为Top-down和Bottom-up两种，与目标检测不同，无论是基于热力图或是基于检测器处理的关键点检测算法，都较为依赖计算资源，推理耗时略长，今年出现了以YOLO为基线的关键点检测器。玩过目标检测的童鞋都知道YOLO以及各种变种目前算是工业落地较多的一类检测器，其简单的设计
变形金刚——Transformer入门刨析详解
Transformer详解
模型压缩（二）yolov5剪枝
yolov5剪枝
CUDA11.3以及PyTorch-GPU版本安装
CUDA11.3以及PyTorch-GPU版本安装笔记
