机器学习之前向传播（Forward Propagation）和反向传播（Back propagation）
在前向传播中，数据从输入层经过各个中间层（隐层）的神经元，经过加权和激活函数的计算，传递到输出层，最终得到模型的预测输出。：反向传播通过链式法则计算梯度，从输出层开始，将损失函数对每个参数的梯度向后传递到每一层，以确定每个参数的梯度。：反向传播是指在前向传播之后，通过计算损失函数对模型参数的梯度，从
机器学习之损失函数（Loss Function）
选择适当的损失函数取决于您的问题类型和任务目标。在训练过程中，优化算法会尝试最小化损失函数，以调整模型参数，使其能够更好地拟合训练数据和泛化到新数据。不同的损失函数会导致不同的训练行为和模型性能，因此选择合适的损失函数是非常重要的。损失函数（Loss Function）是机器学习和深度学习中的关键概
机器学习之损失函数
用于两阶段物体检测算法（如Faster R-CNN），包括区域建议网络（RPN）的分类损失和回归损失，以及目标检测网络（Fast R-CNN）的分类损失和回归损失。：用于二分类和多类别分类任务，包括二元交叉熵（Binary Cross-Entropy）和多元交叉熵（Categorical Cross
基于饥饿游戏算法优化的BP神经网络（预测应用） - 附代码
本案例数据一共2000组，其中1900组用于训练，100组用于测试。数据的输入为2维数据，预测的输出为1维数据。
基于BIM+AI的建筑能源优化模型【神经网络】
推荐：用快速搭建可编程3D场景。AEC（建筑、工程、施工）行业的BIM 技术，允许在实际施工开始之前虚拟地建造建筑物；这带来了许多有形和无形的好处：减少成本超支、更有效的协调、增强决策权等等。对于一些公司来说，采用 BIM 是需要克服的一大障碍，许多公司仍在苦苦挣扎。但现在我们看到行业出现了另一个新
DeepXDE学习笔记【1】——简单ODE方程求解
物理信息神经网络DeepXDE框架: ODE方程求解代码讲解
深度学习之 11 空洞卷积的实现
空洞卷积的实现
【神经网络第三期】RBF神经网络基本原理和模型应用
RBF神经网络基本原理和模型应用
前馈神经网络解密：深入理解人工智能的基石
本文深入探讨了前馈神经网络（FNN）的核心原理、结构、训练方法和先进变体。通过Python和PyTorch的实战演示，揭示了FNN的多样化应用。
FlashAttention算法详解
这篇文章的目的是详细的解释Flash Attention,它无需任何近似即可加速注意力计算并减少内存占用
一文了解scATAC-seq分析的一些必知概念
本文是作者在进行scATAC-seq时进行的一些基础知识铺垫
深度学习(23):SmoothL1Loss损失函数
SmoothL1Loss损失函数
MotionBERT：Unified Pretraining for Human Motion Analysis中文翻译
我们提出了一个统一的训练前框架MotionBERT，以解决人体运动分析的不同子任务，包括3D姿势估计、基于骨骼的动作识别和网格恢复。该框架能够利用各种人体运动数据资源，包括运动捕捉数据和野外视频。在预训练中，托词任务要求运动编码器从有噪声的部分2D观测中恢复潜在的3D运动。预先训练的运动表示因此获得
遗传算法(GA)优化的BP神经网络实现回归预测——附代码
遗传算法(GeneticAlgorithm，GA)的理论是根据达尔文进化论而设计出来的算法，大体意思是生物是朝着好的方向进化的，在进化的过程中会自动选择优良基因淘汰劣等基因。但是需要说明的是这种随机化操作选择操作方法和传统的随机搜索方法是不同的，GA进行的是高效有向的搜索而一般的随机搜索每次操作都是
【神经网络】GRU
GRU（Gate Recurrent Unit）门控循环单元，是循环神经网络（RNN）的变种种，与LSTM类似通过门控单元解决RNN中不能长期记忆和反向传播中的梯度等问题。与LSTM相比，GRU内部的网络架构较为简单。
ARTS 挑战打卡的第1天，我学到了这些~
深度学习科普
送药小车集训总结
2021年电赛国赛F题，使用K210运行Tinyyolov2神经网络进行数字识别
从零构建自己的神经网络————数据集篇
例如，可以将图片文件命名为1.jpg，2.jpg，3.jpg等，对应的标注文件命名为1.txt，2.txt，3.txt等。其中，txt_path是包含数据集信息的文本文件的路径，transform是对数据集进行预处理的函数或变换。每张图片都有一个唯一的标识符（比如图片的文件名或者数据库中的id），在
AI大模型的神经网络模型量化技术：INT8 还是 INT4 ？
如果要量化的目的是实现硬件加速，则应首选确定性量化，因为可以预先指定适当的量化级别，以便在专用硬件上运行量化网络，对硬件的性能预期得到改善。QAT量化方法在付出重新训练的代价后，采用INT4的量化模型应用场合会较大，但稳定性还是需要大量的实验验证，尤其是安全性要求很高的自动驾驶领域，大家不得不慎重考
【AI底层逻辑】——篇章6：人工神经网络（深度学习算法）
任何一项技术的发展都不会一帆风顺，深度学习的发展也经历了“三起两落”！①第一代神经网络——单层感知器（MP）模型，感知器模型实际就是将神经元模型中的激活函数作为符号函数，写成向量形式，即它简洁且功能强大，可以实现自我迭代，只要有足够数量的样本，感知器模型就能找到一组合适的权重。但存在一个致命缺陷——
