【无线感知】【P7】WIFI 感知实战2- 数据集处理

slide_size = 200 (滑动窗口,帧与帧之间存在overlap,less than window_size!1: 先通过 csv_import 提取训练input,label 到txt(只运行一次,大概18分钟)运行 cross_vali_data_convert_merg

CNN中的注意力机制综合指南:从理论到Pytorch代码实现

本文将全面介绍CNN中的注意力机制,从基本概念到实际实现,为读者提供深入的理解和实践指导。

部分可观测马尔可夫决策过程(POMDP)原理与代码实战案例讲解

POMDP是一个基于概率的决策过程,用于描述在部分可观测环境下决策的问题。状态空间SSS):描述环境可能处于的所有状态。动作空间AAA):描述可以采取的所有动作。观测空间OOO):描述可能观测到的所有信息。奖励函数RsaoR(s,a,o)Rsao):描述在状态SSS、执行动作AAA并在观测OOO之后

【Windows环境下nerfstudio环境配置及复现(含tinycudann安装、poster数据)】

在Windowsx64系统,在虚拟环境python3.8、CUDA11.8、torch2.1.2的环境配置下,搭建了nerfstudio的实验环境。其中,将tinycudann、仓库拉取超时等问题做了详细的解决方法记录,以供有需要的人借鉴。

(Hugging Face)如何训练和评估 Transformer 模型(代码 + 实践)

这个函数在实例化时,它需要一个分词器(tokenzier)以便知道使用哪个填充用的 token,以及模型填充在输入的左侧或右侧。填充到该批次中最长序列的长度,而不是填充到整个数据集中最长序列的长度。最后一项我们需要做的是,当我们将元素一起进行批处理时,将所有 example 填充到最长的句子的长度。

压缩大型语言模型(LLMs):缩小10倍、性能保持不变

尽管LLMs的巨大规模使其在广泛的应用场景中表现卓越,但这也为其在实际问题中的应用带来了挑战。本文将探讨如何通过压缩LLMs来应对这些挑战。我们将介绍关键概念,然后通过具体的Python代码实例进行演示。

人工智能视觉深度学习yolov5的学习笔记

人工智能视觉深度学习yolov5的学习笔记

Vitis AI 进阶认知(量化过程详解)

在当今技术快速发展的时代,我们追求的不仅是智能设备的高性能,同时也强调其能效和便携性。Vitis AI量化器便是在这样的背景下应运而生的一个工具,它通过将神经网络模型的数据精度从32位浮点数降低到8位整数,极大地缩减了模型的体积和计算需求,而通过精心设计的校准和微调过程,又能确保模型的预测准确性基本

深度学习笔记

神经网络主要原理图:神经网络主要有两个函数:线性函数、激活函数。包含两个参数:M未知数的系数、b偏置数。在模型训练好之后:对应的inputs和outputs为输入和输出内容如:将英文内容输入输出翻译为中文。但在训练模型时需要同时将语义相近的中文和英文分别在inputs和outputs输入之后通过最上

深度学习系列----->环境搭建(Ubuntu)

电脑基础系统硬件情况:系统:ubuntu18.04、显卡:GTX1050Ti;后续的环境搭建都在此基础上进行。此次学习选择Pytorch作为深度学习的框架,选择的原因主要由于PyTorch 在研究领域特别受欢迎,较多的论文框架也是基于其开发。

生成式人工智能最重要的三个神经网络,从谷歌DeepDream、Magenta、到NVIDIA的StyleGAN

神经网络是生成式人工智能的基础,使机器能够生成模仿真实数据分布的新数据实例。

模型参数量与显存占用分析

由于反向传播、Adam优化和Transformer架构等因素,保守估计,训练所需的显存是模型参数所占显存的4倍(1x 为模型 、1x 为梯度、1~2x 为优化器)。为了确保训练期间模型收敛,参数类型一般不能是int8或int4。注1:使用AdamW优化器,显存需求为2x;使用SGD优化器,显存需求为

PyTorch数据处理:torch.utils.data模块的7个核心函数详解

本文将深入介绍PyTorch中 torch.utils.data 模块的7个核心函数,这些工具可以帮助你更好地管理和操作数据。

为什么要放弃LangChain:从生产力工具到阻碍

在AI开发工具的生态系统里,LangChain一直是一个备受争议的产品。一些开发者欣赏其丰富的工具、组件和易于集成的特点,另一些开发者则认为其复杂的抽象和嵌套抽象反而成为了开发的障碍。本文将结合Fabian Both的实际经验,详细探讨为什么他的团队最终决定放弃LangChain,以及如何开发大模型

MATLAB神经网络拟合工具的使用

使用MATLAB神经网络拟合工具箱的流程。

第五周周报:深度学习经典网络模型(三)

本周跟着李宏毅老师的课程,主要学习了生成式对抗网络中的无限制生成、去噪扩散概率模型、自监督学习中常用的预训练模型BERT和GPT,以及在目标领域中无标记数据时需要用到的迁移学习。本文将结合课程以及自身理解,介绍以上经典的神经网络模型。本周的学习到此结束,同时也完成了深度学习经典神经网络的基础理论学习

跟着李沐动手学深度学习(一)

本篇文章为李沐老师线性神经网络的学习笔记。使用Python编程语言及其强大的科学计算库(PyTorch)来实现线性回归模型。通过编写代码、运行实验和观察结果,我们将更加直观地理解线性回归模型的工作原理。

一文彻底搞懂大模型参数高效微调(PEFT)

最近这一两周看到不少互联网公司都已经开始秋招提前批了。不同以往的是,当前职场环境已不再是那个双向奔赴时代了。求职者在变多,HC 在变少,岗位要求还更高了。最近,我们又陆续整理了很多大厂的面试题,帮助一些球友解惑答疑,分享技术面试中的那些弯弯绕绕。。更多实战和面试交流,加入我们。

7.2 Transformer:具有里程碑意义的新模型——自注意力模型

自此,不管是学术界,还是工业界均掀起了基于Transformer的预训练模型研究和应用的热潮,并且逐渐从NLP领域延伸到CV、语音等多项领域。Transformer模型是一个具有里程碑意义的模型,它的提出催生了众多基于Transformer网络结构的模型,特别是在2018年预训练模型BERT的提出,

大模型参数——详细介绍

大模型参数——详细介绍