图神经网络入门示例:使用PyTorch Geometric 进行节点分类

本文介绍的主要流程是我们训练图神经网络的基本流程,尤其是前期的数据处理和加载,通过扩展本文的基本流程可以应对几乎所有图神经网络问题。

Transformers 加速的一些常用技巧

我们今天来总结以下一些常用的加速策略

使用PyTorch实现L1, L2和Elastic Net正则化

在机器学习中,L1正则化、L2正则化和Elastic Net正则化是用来避免过拟合的技术,它们通过在损失函数中添加一个惩罚项来实现。

PyTorch小技巧:使用Hook可视化网络层激活(各层输出)

这篇文章将演示如何可视化PyTorch激活层。可视化激活,即模型内各层的输出,对于理解深度神经网络如何处理视觉信息至关重要,这有助于诊断模型行为并激发改进。

时空图神经网络ST-GNN的概念以及Pytorch实现

对于时空图神经网络Spatail-Temporal Graph来说,最简单的描述就是在原来的Graph基础上增加了时间这一个维度,也就是说我们的Graph的节点特征是会随着时间而变化的。

nn.BCEWithLogitsLoss中weight参数和pos_weight参数的作用及用法

如果我们在做多分类任务,有些类比较重要,有些类不太重要,想要模型更加关注重要的类别,那么只需将比较重要的类所对应的w权重设置大一点,不太重要的类所对应的w权重设置小一点。其中pos_weight对应上式公式中的p_c,这个参数是为了调节正负样本不均衡问题的,如果正负样本比是10:1,那么我们可以将p

​5种常用于LLM的令牌遮蔽技术介绍以及Pytorch的实现

本文将介绍大语言模型中使用的不同令牌遮蔽技术,并比较它们的优点,以及使用Pytorch实现以了解它们的底层工作原理。

BCELoss,BCEWithLogitsLoss和CrossEntropyLoss

等价于:nn.CrossEntropyLoss = nn.NLLLoss(nn.LogSoftmax)输出:一个标量(这个minibatch的mean/sum的loss)两个损失:BCELoss,BCEWithLogitsLoss。输入:([B,C], [B,C])输入:([B,C], [B,C])

图像语义分割 pytorch复现U2Net图像分割网络详解

其会收集De_1、De_2、De_3、De_4、De_5、En_6模块的输出,将这些输出分别通过一个3x3的卷积层(这些卷积层的kerner的个数都是为1)输出的featuremap的channel是为1的,在经过双线性插值算法将得到的特征图还原回输入图像的大小;En_2 与 De_2采用的 blo

理解pytorch的广播语义

1 两个tensor都至少有一个维度;2 两个tensor的维度个数要么完全一样,那个维度较少的tensor可以把自己缺少的维度补充为1;3 补齐可以补充多个维度,但是只能发生在所有已有维度的左边,不能插在已有维度之间,也不能出现在已有维度右边。4 假如运算是原位运算,则保存运算结果的变量的尺寸不应

Ubuntu22.04虚拟环境安装CUDA10.1, CUDNN和pytorch

首先理顺一下CUDA,CUDNN,cudatoolkit的关系。安装CUDA就是安装cudatoolkit,CUDA中包含cudatoolkit. 然后安装CUDA对应版本的CUDNN。找到对应版本的CUDA,点进去,然后再进行相应的选择得到最终的版本,下载下来之后按照命令行进行安装和配置。不同的神

大模型中常用的注意力机制GQA详解以及Pytorch代码实现

分组查询注意力 (Grouped Query Attention) 是一种在大型语言模型中的多查询注意力 (MQA) 和多头注意力 (MHA) 之间进行插值的方法,它的目标是在保持 MQA 速度的同时实现 MHA 的质量。

人工智能|各名称与概念之介绍

总的来说,我个人比较推荐TensorFlow和PyTorch,它们都是完整的深度学习框架,支持广泛的应用,并且它们的社区和工具都在不断发展。Caffe在某些特定的领域如计算机视觉中仍然是一个高效可靠的选择,尽管它的流行度可能不如前两者。而Keras提供了一个用户友好的接口,使得深度学习更加容易上手,

colab上利用conda管理环境

colab上的环境管理

基于RISC-V架构的AI框架(Pytorch)适配

在RISC-V平台上进行pytorch框架的配置,采用源码编译的方法

人工智能(pytorch)搭建模型24-SKAttention注意力机制模型的搭建与应用场景

大家好,我是微学AI,今天给大家介绍一下人工智能(pytorch)搭建模型24-SKAttention注意力机制模型的搭建与应用场景,本文将介绍关于SKAttention注意力机制模型的搭建,SKAttention机制具有灵活性和通用性,可应用于计算机视觉、视频分析、自然语言处理、医学影像分析和机器

基于卷积神经网络的花卉识别(pytorch框架)【python源码+UI界面+前端界面+功能源码详解】

基于卷积神经网络的花卉识别系统是在pytorch框架下实现的,系统中有两个模型可选resnet50模型和VGG16模型,这两个模型可用于模型效果对比。该系统涉及的技术栈有,UI界面:python + pyqt5,前端界面:python flask + vue超详细的pycharm+anaconda搭

HarmonyOS-UIAbility组件间交互(设备内)

UIAbility是系统调度的最小单元。在设备内的功能模块之间跳转时,会涉及到启动特定的UIAbility,该UIAbility可以是应用内的其他UIAbility,也可以是其他应用的UIAbility(例如启动三方支付UIAbility)。本章节将从如下场景分别介绍设备内UIAbility间的交互

基于卷积神经网络的水果成熟度识别(pytorch框架)【python源码+UI界面+前端界面+功能源码详解】

基于卷积神经网络的水果成熟度识别系统是在pytorch框架下实现的,系统中有两个模型可选resnet50模型和VGG16模型,这两个模型可用于模型效果对比。该系统涉及的技术栈有,UI界面:python + pyqt5,前端界面:python flask + vue该项目是在pycharm和anaco

登录可以使用的更多功能哦! 登录
作者榜
...
资讯小助手

资讯同步

...
内容小助手

文章同步

...
Deephub

公众号:deephub-imba

...
奕凯

公众号:奕凯的技术栈