PyTorch小技巧：使用Hook可视化网络层激活（各层输出）
这篇文章将演示如何可视化PyTorch激活层。可视化激活，即模型内各层的输出，对于理解深度神经网络如何处理视觉信息至关重要，这有助于诊断模型行为并激发改进。
时空图神经网络ST-GNN的概念以及Pytorch实现
对于时空图神经网络Spatail-Temporal Graph来说，最简单的描述就是在原来的Graph基础上增加了时间这一个维度，也就是说我们的Graph的节点特征是会随着时间而变化的。
nn.BCEWithLogitsLoss中weight参数和pos_weight参数的作用及用法
如果我们在做多分类任务，有些类比较重要，有些类不太重要，想要模型更加关注重要的类别，那么只需将比较重要的类所对应的w权重设置大一点，不太重要的类所对应的w权重设置小一点。其中pos_weight对应上式公式中的p_c,这个参数是为了调节正负样本不均衡问题的，如果正负样本比是10：1，那么我们可以将p
5种常用于LLM的令牌遮蔽技术介绍以及Pytorch的实现
本文将介绍大语言模型中使用的不同令牌遮蔽技术，并比较它们的优点，以及使用Pytorch实现以了解它们的底层工作原理。
知识蒸馏的蒸馏损失方法代码总结(包括：基于logits的方法：KLDiv，dist，dkd等，基于中间层提示的方法：)
【代码】知识蒸馏dist和KLDiv。
BCELoss，BCEWithLogitsLoss和CrossEntropyLoss
等价于：nn.CrossEntropyLoss = nn.NLLLoss(nn.LogSoftmax)输出：一个标量（这个minibatch的mean/sum的loss）两个损失：BCELoss，BCEWithLogitsLoss。输入：（[B,C], [B,C]）输入：（[B,C], [B,C]）
图像语义分割 pytorch复现U2Net图像分割网络详解
其会收集De_1、De_2、De_3、De_4、De_5、En_6模块的输出，将这些输出分别通过一个3x3的卷积层（这些卷积层的kerner的个数都是为1）输出的featuremap的channel是为1的，在经过双线性插值算法将得到的特征图还原回输入图像的大小；En_2 与 De_2采用的 blo
理解pytorch的广播语义
1 两个tensor都至少有一个维度；2 两个tensor的维度个数要么完全一样，那个维度较少的tensor可以把自己缺少的维度补充为1；3 补齐可以补充多个维度，但是只能发生在所有已有维度的左边，不能插在已有维度之间，也不能出现在已有维度右边。4 假如运算是原位运算，则保存运算结果的变量的尺寸不应
Ubuntu22.04虚拟环境安装CUDA10.1, CUDNN和pytorch
首先理顺一下CUDA，CUDNN，cudatoolkit的关系。安装CUDA就是安装cudatoolkit，CUDA中包含cudatoolkit. 然后安装CUDA对应版本的CUDNN。找到对应版本的CUDA，点进去，然后再进行相应的选择得到最终的版本，下载下来之后按照命令行进行安装和配置。不同的神
大模型中常用的注意力机制GQA详解以及Pytorch代码实现
分组查询注意力 (Grouped Query Attention) 是一种在大型语言模型中的多查询注意力 (MQA) 和多头注意力 (MHA) 之间进行插值的方法，它的目标是在保持 MQA 速度的同时实现 MHA 的质量。
人工智能|各名称与概念之介绍
总的来说，我个人比较推荐TensorFlow和PyTorch，它们都是完整的深度学习框架，支持广泛的应用，并且它们的社区和工具都在不断发展。Caffe在某些特定的领域如计算机视觉中仍然是一个高效可靠的选择，尽管它的流行度可能不如前两者。而Keras提供了一个用户友好的接口，使得深度学习更加容易上手，
colab上利用conda管理环境
colab上的环境管理
基于RISC-V架构的AI框架（Pytorch）适配
在RISC-V平台上进行pytorch框架的配置，采用源码编译的方法
人工智能(pytorch)搭建模型24-SKAttention注意力机制模型的搭建与应用场景
大家好，我是微学AI，今天给大家介绍一下人工智能(pytorch)搭建模型24-SKAttention注意力机制模型的搭建与应用场景，本文将介绍关于SKAttention注意力机制模型的搭建，SKAttention机制具有灵活性和通用性，可应用于计算机视觉、视频分析、自然语言处理、医学影像分析和机器
基于卷积神经网络的花卉识别（pytorch框架）【python源码+UI界面+前端界面+功能源码详解】
基于卷积神经网络的花卉识别系统是在pytorch框架下实现的，系统中有两个模型可选resnet50模型和VGG16模型，这两个模型可用于模型效果对比。该系统涉及的技术栈有，UI界面：python + pyqt5，前端界面：python flask + vue超详细的pycharm+anaconda搭
HarmonyOS-UIAbility组件间交互（设备内）
UIAbility是系统调度的最小单元。在设备内的功能模块之间跳转时，会涉及到启动特定的UIAbility，该UIAbility可以是应用内的其他UIAbility，也可以是其他应用的UIAbility（例如启动三方支付UIAbility）。本章节将从如下场景分别介绍设备内UIAbility间的交互
基于卷积神经网络的水果成熟度识别（pytorch框架）【python源码+UI界面+前端界面+功能源码详解】
基于卷积神经网络的水果成熟度识别系统是在pytorch框架下实现的，系统中有两个模型可选resnet50模型和VGG16模型，这两个模型可用于模型效果对比。该系统涉及的技术栈有，UI界面：python + pyqt5，前端界面：python flask + vue该项目是在pycharm和anaco
Kaggle 竞赛《LLM - Detect AI Generated Text》高分方案学习报告
作为一名研一学生，本着积累经验的原则，我参加了这次内容为《LLM - Detect AI Generated Text》的 Kaggle 竞赛。比赛结束后，我学习了排名前几位的选手给出的方案，并在此写下自己对一篇高分竞赛方案的学习报告，我挑选了一份人气最高的高分方案（源码和作者在本文最上方），梳理了
如何运行GitHub下载的项目中的setup.py文件
当我们在github下载一个别人的模型的时候，要求使用setup.py进行配置或者下载一些额外的包的时候，如果我们在pycharm中直接运行，会弹出以下错误，以我现在运行的文件为例子。：这是指定了要使用的Python解释器的路径。文件是用于构建、安装、打包或测试Python软件包的脚本，并且需要使用
YOLOv5-7.0解决报错ImportError: Bad git executable.
最近在复习yolov5目标检测代码时用了yolov5的最新7.0版本，之前用的是5.0版本，这一新版本相对于之前做了一些提升，对于package的兼容也要好了很多，但也不是说下载了直接就能运行，实际使用过程中还是遇到了许多新的问题，下面就我自己碰到的问题提出解决方法。同样的，按住键盘的ctrl然后鼠
