对 ChatGLM-6B 做 LoRA Fine-tuning
ChatGLM-6B 是一个支持中英双语的对话语言模型，基于 GLM (General Language Model)。它只有 62 亿个参数，量化后最低 (INT4 量化) 只需要 6GB 的显存，完全可以部署到消费级显卡上。在实际使用这个模型一段时间以后，我们发现模型的对话表现能力确实非常不错。
PyTorch 深度学习实战 | 基于生成式对抗网络生成动漫人物
生成式对抗网络（Generative Adversarial Network, GAN）是近些年计算机视觉领域非常常见的一类方法，其强大的从已有数据集中生成新数据的能力令人惊叹，甚至连人眼都无法进行分辨。本文将会介绍基于最原始的DCGAN的动漫人物生成任务，通过定义生成器和判别器，并让这两个网络在参
Pytroch进行模型权重初始化
Pytroch常见的模型参数初始化方法有apply和model.modules()。Pytroch会自动给模型进行初始化，当需要自己定义模型初始化时才需要这两个方法。
Pytorch 深度学习注意力机制的解析与代码实现
深度学习Attention注意力机制的解析及其Pytorch代码实现
踩雷日记：Pytorch mmcv-full简易安装
因为mmcv-full版本与pytorch和cuda版本不匹配，导致mmcv-full安装失败。提示：安装mmcv-full前，先把mmcv卸掉例如：以上就是今天要讲的内容，本文简单介绍了mmcv-full的安装，希望对你有所帮助。
带你一文透彻学习【PyTorch深度学习实践】分篇——线性模型 & 梯度下降
鉴于PyTorch深度学习实践系列文章，篇幅较长，有粉丝朋友反馈说不便阅读。因此这里将会分篇发布，以便于大家阅读。本次发布的是 “基础 模型&算法 回顾”章节中的线性模型、Gradient Descent（梯度下降）。
PyTorch之F.pad的使用与报错记录
这一函数用于实现对高维tensor的形状补齐操作。模式中，padding的数量不得超出原始tensor对应维度的大小。常见的错误主要是因为padding的数量超过了对应模式的要求。模式中，padding的数量必须小于对应维度的大小。对于padding并没有限制。
TensorRT（C++）部署 Pytorch模型
众所周知，python训练pytorch模型得到.pt模型。但在实际项目应用中，特别是嵌入式端部署时，受限于语言、硬件算力等因素，往往需要优化部署，而tensorRT是最常用的一种方式。本文以yolov5的部署为例，说明模型部署在x86架构上的电脑端的流程。（部署在Arm架构的嵌入式端的流程类似）。
3d稀疏卷积——spconv源码剖析（一）
和对应上图的Hash_in，和Hash_out。对于是下标，key_ in表示value在中的位置。现在的input一共两个元素P1和P2，P1在的(2, 1)位置,P2在的(3,2)的位置，并且是YX顺序。这里只记录一下p1的位置 ，先不管p1代表的数字把这个命名为。input hash tabe
ChatGLM-6B 类似ChatGPT功能型对话大模型 部署实践
ChatGLM（alpha内测版：QAGLM）是一个初具问答和对话功能的中英双语模型，当前仅针对中文优化，多轮和逻辑能力相对有限，但其仍在持续迭代进化过程中，敬请期待模型涌现新能力。中英双语对话 GLM 模型：ChatGLM-6B，结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量
全局平均池化/全局最大池化Pytorch实现：
全局池化与普通池化的区别在于“局部区域”和“全局”：普通池化根据滑动窗口以及步长以逐步计算局部区域的方式进行；而全局池化是分别对每个通道的所有元素进行计算，谓之全局池化。大大降低计算的参数量；没有需要学习的参数，可以更好的避免过拟合；更能体现输入的全局信息；拿一个简单的网络验证参数量下降（此处只计算
Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8
Jetson AGX Orin上部署YOLOv5_v5.0+TensorRT8
pytorch深度学习一机多显卡训练设置，流程
pytorch深度学习一机多显卡训练设置，流程
pytorch如何搭建一个最简单的模型，
在 PyTorch 中，可以使用torch.nn模块来搭建深度学习模型。具体步骤如下：定义一个继承自的类，这个类将作为我们自己定义的模型。在类的构造函数__init__()中定义网络的各个层和参数。可以使用torch.nn模块中的各种层，如Conv2dLinear等。在类中定义前向传播函数forwa
GPU版本PyTorch详细安装教程
注意：30系列的的显卡暂时不支持cuda11以下版本！！！一、安装显卡驱动第一步：右击右下角开始，在设备管理器中查看计算机显卡型号，例如我的显卡是GTX1050：第二步：进入英伟达官网，下载对应显卡驱动：官方驱动 | NVIDIAhttps://www.nvidia.cn/Download/inde
UNet语义分割实战：使用UNet实现对人物的抠图
摘要在上一篇文章，我总结了一些UNet的基础知识，对UNet不了解的可以看看，文章链接：https://wanghao.blog.csdn.net/article/details/123714994我也整理的UNet的pytorch版本，文章链接：https://blog.csdn.net/hhhh
如何将pytorch模型部署到安卓
这篇文章演示如何将训练好的pytorch模型部署到安卓设备上。我也是刚开始学安卓，代码写的简单。环境：pytorch版本：1.10.0pytorch_android支持的模型是.pt模型，我们训练出来的模型是.pth。所以需要转化才可以用。先看官网上给的转化方式：这个模型在安卓对应的包：注:pyto
超参数调优框架optuna（可配合pytorch）
全自动超参数调优框架——optuna
pytorch 笔记：torch.distributions 概率分布相关（更新中）
1 包介绍torch.distributions包包含可参数化的概率分布和采样函数。 这允许构建用于优化的随机计算图和随机梯度估计器。不可能通过随机样本直接反向传播。 但是，有两种主要方法可以创建可以反向传播的代理函数。这些是评分函数估计量 score function estimato 似然比估计
Pytorch深度学习实战3-8：详解数据可视化组件TensorBoard安装与使用
在深度学习领域，人工调试极其困难。Tensorboard则是神经网络的可视化工具，可以记录训练过程的数字、图像、运行图等，观察神经网络训练过程并指导参数优化。
