使用vLLM在一个基座模型上部署多个lora适配器
在本文中，我们将看到如何将vLLM与多个LoRA适配器一起使用。我将解释如何将LoRA适配器与离线推理一起使用，以及如何为用户提供多个适配器以进行在线推理。
用PyTorch 从零开始构建 BitNet 1.58bit
我们手动实现BitNet的编写，并进行的一系列小实验证实，看看1.58bit 模型是否与全精度的大型语言模型相媲美！
AI：204-使用深度学习改进自然语言生成对话系统【技术、模型与实践】
从基础到实践，深入学习。无论你是初学者还是经验丰富的老手，对于本专栏案例和项目实践都有参考学习意义。每一个案例都附带关键代码，详细讲解供大家学习，希望可以帮到大家。正在不断更新中~
模型量化技术综述：揭示大型语言模型压缩的前沿技术
在这篇文章中，我将在语言建模的背景下介绍量化，并逐一探讨各个概念，探索各种方法论、用例以及量化背后的原理。
【PyTorch】多对象分割项目
对象分割任务的目标是找到图像中目标对象的边界。实际应用例如自动驾驶汽车和医学成像分析。这里将使用PyTorch开发一个深度学习模型来完成多对象分割任务。多对象分割的主要目标是自动勾勒出图像中多个目标对象的边界。对象的边界通常由与图像大小相同的分割掩码定义，在分割掩码中属于目标对象的所有像素基于预定义
Transformer预测模型及其Python和MATLAB实现
通过将输入的查询、键和值线性变换为多个不同的头部，然后并行计算每个头的注意力，最后将所有头的结果拼接后经过线性变换。- **查询（Query）、键（Key）和值（Value）**：对输入的词嵌入进行线性变换，得到查询、键和值。- **解码器**：解码器结构类似于编码器，但在每个层中加入了对先前生成的
2024年最新AI大模型，一文带你走进AI搜索！
随着技术的不断进步，这些AI工具将更加深入我们的生活，成为我们探索知识、解决问题的得力助手。智能对话，数据分析，语音识别和多平台支持，提供智能化、便捷化、高效化的解决方案。功能：华为的盘古大模型，它不仅支持知识问答、文案生成、代码生成，以及多模态大模型的图像生成、图像理解等能力集，还支持雷达、红外线
Datawhale AI 夏令营——从零入门CV图像竞赛(Deepfake攻防) & Task2
深度学习（）是一种机器学习方法，通过使用人工神经网络（）来模拟人脑的功能，从而进行数据处理和模式识别。它属于人工智能（）的一个分支，主要通过大量数据和计算资源来训练多层神经网络模型，以实现复杂的任务。
Adam-mini：内存占用减半，性能更优的深度学习优化器
论文提出一种新的优化器Adam-mini，在不牺牲性能的情况下减少Adam优化器的内存占用。
机器学习课程设计，人工智能课程设计，深度学习课程设计--基于Transformer的家庭暴力情绪检测系统（欢迎私）
家庭暴力在现今社会屡见不鲜，成为威胁社会和谐与稳定的重要问题之一。家庭暴力不仅包括身体上的虐待，还涉及情感、心理和经济上的虐待，给受害者尤其是女性和儿童带来深远的负面影响。有效预防和处理家庭暴力事件，及时感知和理解伴侣的情感显得尤为重要。为了帮助社会稳定，提高居民生活幸福指数，本系统选取了CMU-M
减轻幻觉新SOTA，7B模型自迭代训练效果超越GPT-4，上海AI lab发布
本文通过迭代自我训练，逐步扩大数据集的多样性和规模，并提高幻觉标注器的准确性。最终得到的ANAH-v2仅用7B参数在各种幻觉检测基准测试中首次超过了GPT-4，并在第三方幻觉检测基准测试中表现出色。ANAH-v2不仅提供了一个基于的扩展数据集的自动幻觉评估基准，为未来幻觉缓解研究铺平了道路，还通过简
《Ai企业知识库》-模型实践-rasa开源学习框架-搭建简易机器人-环境准备(针对windows)-02
其实现在可以使用的ai的开发框架有很多很多，就需要根据各个模型的能力边界等来讨论和设计。这个步骤主要是，拿到上一步传过来的有用的记忆知识、数据。来让机器人明白要做什么。这里的dst主要是用来管理多轮对话中的时候，来处理多轮对话。Current Interpretation:现行解释。对话中的庞杂信息
算法金 | 秒懂 AI - 深度学习五大模型：RNN、CNN、Transformer、BERT、GPT 简介
每个节点不仅接收当前输入，还接收前一个节点的输出，从而形成记忆能力。Transformer 摒弃了传统 RNN 的循环结构，通过自注意力机制和并行处理，实现了更快的训练速度和更好的效果。BERT 的创新在于其双向性和预训练方法，使得模型在各种 NLP 任务中都表现优异，尤其是在需要上下文理解的任务中
深度学习中常用损失函数介绍
选择正确的损失函数对于训练机器学习模型非常重要。不同的损失函数适用于不同类型的问题。本文将总结一些常见的损失函数，并附有易于理解的解释、用法和示例
人工智能会越来越闭源——对话东北大学副教授王言治 | Open AGI Forum
全球围绕大模型开源、闭源的讨论众说纷纭。大模型的未来一定是闭源吗？在模型领域做开源为什么更难？社区将会是扭转开源“落后”的关键吗？GOSIM 独家对话美国东北大学副教授王言治，对以上问题一一解答。
【深度学习】图形模型基础(2)：概率机器学习模型与人工智能
概率建模在机器学习中至关重要，它利用概率分布表达不确定性，通过贝叶斯学习从数据中学习。非参数方法、概率编程、贝叶斯优化和数据压缩等技术展示了概率建模的灵活性和效率。自动建模系统能够发现并解释数据模型。随着大数据的增长，不确定性建模依然关键。概率建模将在未来机器学习和人工智能系统中发挥核心作用，为自动
大语言模型的Scaling Law：如何随着模型大小、训练数据和计算资源的增加而扩展
在这篇文章中，我们将介绍使这些模型运作的秘密武器——一个由三个关键部分组成的法则：模型大小、训练数据和计算能力。通过理解这些因素如何相互作用和规模化，我们将获得关于人工智能语言模型过去、现在和未来的宝贵见解。
【人工智能】Transformers之Pipeline（五）：深度估计（depth-estimation）
本文对transformers之pipeline的深度估计（depth-estimation）从概述、技术原理、pipeline参数、pipeline实战、模型排名等方面进行介绍，读者可以基于pipeline使用文中的代码极简的使用计算机视觉中的深度估计（depth-estimation）模型，应用
人工智能与伦理挑战：多维度应对策略
人工智能技术近年来取得了迅猛发展，广泛应用于医疗诊断、金融分析、教育辅助、自动驾驶等各个领域，极大地提升了生产效率和服务质量，推动了科技进步和商业创新。然而，伴随其普及和应用的泛滥，AI也带来了数据隐私侵犯、信息茧房、算法歧视、虚假信息传播等诸多问题，导致社会信任危机和伦理道德挑战凸显。这种技术的双
贝叶斯分析与决策理论：用于确定分类问题决策点的应用
在分类问题中，一个常见的难题是决定输出为数字时各类别之间的切分点。
