【torch.nn.init】初始化参数方法解读
稀疏矩阵:将2D输入张量填充为稀疏矩阵,其中非零元素将从正态分布N ( 0 , 0.01 ) N(0,0.01)N(0,0.01)中提取。正态分布:从给定均值和标准差的正态分布N(mean, std)中生成值,填充输入的张量或变量。xavier_normal 分布:用一个正态分布生成值,填充输入的张
神经网络中的分位数回归和分位数损失
在分位数回归中,我们不仅关注预测的中心趋势(如均值),还关注在分布的不同分位数处的预测准确性。Quantile loss允许我们根据所关注的分位数来量化预测的不确定性。
神经网络可视化新工具:TorchExplorer
TorchExplorer是一个交互式探索神经网络的可视化工具
一维pytorch注意力机制
最近在研究一维数据,发现目前网络上的注意力机制都是基于二维来构建的,对于一维的,没有查到什么可直接加在网络中的代码,因此本次文章主要介绍常用的三种注意力机制–SENet,CBAM和ECA其一维的代码。
MLX vs MPS vs CUDA:苹果新机器学习框架的基准测试
如果你是一个Mac用户和一个深度学习爱好者,你可能希望在某些时候Mac可以处理一些重型模型。苹果刚刚发布了MLX,一个在苹果芯片上高效运行机器学习模型的框架。
pytorch实战5——DataLoader数据集制作
DataLoader数据集制作
Pytorch学习笔记(7):优化器、学习率及调整策略、动量
Pytorch学习笔记(7):优化器、学习率及调整策略、动量
pytorch训练可视化包visdom的使用
Visdom是一个基于Python的可视化工具包,可以用于PyTorch等深度学习框架中的实时数据可视化。它提供了一个Web界面,可以方便地创建图表、散点图和直方图等可视化元素。相比具有更轻量、更便捷、更丰富、更快速等特点。visdom的github主页visdom的中文参考文档visdom的优秀教
Pytorch学习笔记(5):torch.nn---网络层介绍(卷积层、池化层、线性层、激活函数层)
Pytorch学习笔记(5):torch.nn---网络层介绍(卷积层、池化层、线性层、激活函数层)
使用PyTorch II的新特性加快LLM推理速度
Pytorch团队提出了一种纯粹通过PyTorch新特性在的自下而上的优化LLM方法
【PyTorch】切记:GeForce RTX 3090 显卡仅支持 CUDA 11 以上的版本!
得知 PyTorch 1.7.0 开始才支持 CUDA 11,所以要使用 GPU 训练的话,必须安装 PyTorch 1.7.0 及以上版本。前不久给新来的 2台 8 张 GeForce RTX 3090 服务器配置了深度学习环境(配置教程参考。原来是 GeForce RTX 3090 显卡仅支持
Pytorch 中 expand和repeat
在中,如果要改变某一个tensor的维度,可以利用view、expand、repeat、transpose和permute等方法,这里对这些方法的一些容易混淆的地方做个总结。expand和repeat函数是pytorch中常用于进行张量数据复制和维度扩展的函数,但其工作机制差别很大,本文对这两个函
Vit极简原理+pytorch代码
Vit比它爹Transformer步骤要简单的多,需要注意的点也要少得多,最令人兴奋的是它在代码中没有令人头疼的MASK,还有许多简化的操作,容我慢慢道来。
文本识别CRNN模型介绍以及pytorch代码实现
文本识别CRNN pytorch
人工智能概论报告-基于PyTorch的深度学习手写数字识别模型研究与实践
CQUPT人工智能概论的课程大作业实践应用报告,供大家参考,如果有需要word版的可以私信我,或者在评论区留下邮箱,我会逐个发。word版是我最后提交的,已经调整统一了全文格式等。希望能给大家提供一些参考。如果起到作用请给我点个赞哦,嘿嘿嘿嘿
【PyTorch】第六节:乳腺癌的预测(二分类问题)
上一个实验我们讲解了线性问题的求解步骤,本实验我们以乳腺癌的预测为实例,详细的阐述如何利用 PyTorch 求解一个非线性问题。
什么是softmax
pytroch实现softmax, softmax的理论介绍和实现softmax代码的详细讲解
RealBasicVSR(CVPR2022)复现过程
RealBasicVSR(CVPR2022)复现过程,引流:BasicVSR,BasicVSR++,RealBasicVSR,EDVR,MMagic
RuntimeError: stack expects each tensor to be equal size ??
RuntimeError: stack expects each tensor to be equal size
pytorch:参数pin_memory=True和non_blocking=True的作用
参数pin_memory=True和non_blocking=True的作用