【人工智能】结合代码通俗讲解 Transformer 推理性能优化技术:KV Cache

KV Cache是Transformer推理性能优化的一项重要工程化技术,各大推理框架都已实现并将其进行了封装(例如 transformers库 generate 函数已经将其封装,用户不需要手动传入past_key_values)并默认开启(config.json文件中use_cache=True

Midjourney以图生图功能的使用

这里只是举了个简单的例子。大家可以根据这个以图生图的例子来创作出自己的图片。MidJourney以图生图,可以根据你上传的图片生成新的图片。MidJourney的基础操作使用方法可以看这篇文章。3.输入描述词,生成图片。这就是生成后的图片效果了。

【AI底层逻辑】——篇章5(下):机器学习算法之聚类&降维&时间序列

时间序列模型在解决实际问题时,序列必须满足特定的数据分布,或者具有平稳的时间序列特性,比如在剔除趋势数据后,时间序列不能与时间有依赖关系,数据波动的频率和幅度不能随时间变化等。——举例来说,随意挑选两个特征构建它们的散点图,如下图所示,图中每个点有两个特征,分别对应X轴和Y轴,在图中画一条直线,将所

YOLOV5的FPS计算问题

pre-process:图像预处理时间,包括图像保持长宽比缩放和padding填充,通道变换(HWC->CHW)和升维处理等;inference:推理速度,指预处理之后的图像输入模型到模型输出结果的时间;NMS :你可以理解为后处理时间,对模型输出结果经行转换等;data换为自己的数据集对应的yam

最新AI创作系统ChatGPT网站源码+新增GPT联网功能+支持GPT4+支持ai绘画+实时语音识别输入

程序已支持ChatGPT4.0、Midjourney绘画、GPT3.5 API绘画、GPT联网功能、绘画广场功能、Prompt功能,后台自定义添加,用户也可自定义添加+实时语音识别输入、用户会员套餐、用户每日签到功能、后台管理、一键更新版本。支持手机电脑不同布局页面自适应。支持中文普通话、英语后台自

【AI】清华开源中英双语对话模型ChatGLM2-6B本地安装笔记

本文记录了本地安装ChatGLM2-6B的过程,本地是用了一张RTX4070 12G的显卡,对于这个模型有点勉强,但是在实际运行中发现Win11系统给了共享GPU存储,这让我这个12G的显卡也运行了13G的模型,目前看是能正常运行,没有爆显存的问题

离散数据与连续数据

在一定区间内可以任意取值的数据叫连续数据,其数值是连续不断的,相邻两个数值可作无限分割,即可取无限个数值。例如,生产零件的规格尺寸和人体测量的身高和体重和胸围等为连续数据,其数值只能用测量或计量的方法获得。离散变量如果变量值的变动幅度很大,变量值的个数很多,则把整个变量值依次划分为几个区间,各个变量

卷积、空洞卷积、反卷积与空洞反卷积的计算公式(全)

经常使用的卷积有卷积、空洞卷积、反卷积与空洞反卷积的,下面总结了他们的计算公式。

基于onnx模型和onnx runtime推理stable diffusion

基于onnx模型和onnx runtime推理stable diffusion

torch 1.13.0 对应的torchvision版本

奈何官网也没有说对应的torchvision版本是啥,如果想要。由于torch版本肯定是会快速迭代更新的,比起记住特定版本,倒不如记住这个思路。torch最新的stable版本是。

SDXL 1.0 介绍和优缺点总结

【深度学习环境】如何查看CUDA版本 | 两个CUDA版本各表示什么 | 是否可以在同一设备安装多个CUDA版本

【深度学习环境】如何查看CUDA版本 | 两个CUDA版本各表示什么 | 是否可以在同一设备安装多个CUDA版本

改进YOLO系列:改进YOLOv8,教你YOLOv8如何添加20多种注意力机制,并实验不同位置。

注意力机制(Attention Mechanism)是深度学习中一种重要的技术,它可以帮助模型更好地关注输入数据中的关键信息,从而提高模型的性能。注意力机制最早在自然语言处理领域的序列到序列(seq2seq)模型中得到广泛应用,后来逐渐扩展到了计算机视觉、语音识别等多个领域。注意力机制的基本思想是为

收藏丨30个大语言模型训练相关的数据集分享

更多数据集,请访问OpenDataLab官网

人工智能LLM大模型:让编程语言更加支持自然语言处理

作者:禅与计算机程序设计艺术 人工智能LLM大模型:让编程语言更加支持自然语言处理作为人工智能的核心技术之一,自然语言处理 (Natural Language Processing, NLP) 已经在各个领域得到了广泛应用,如智能客服、智能翻译、文本分类等

Wandb是啥,怎么用

使用Wandb非常简单,首先需要安装Wandb的Python包,可以通过pip或conda来安装。安装完成后,需要在Python脚本中导入wandb库,登录Wandb,创建一个项目并设置实验。在实验中,可以记录各种指标、超参数、模型权重等,并进行可视化分析。最后,可以将实验的结果保存在Wandb的云

【Stateflow入门】任务9.Stateflow中的函数

(Stateflow支持创建各种类型的函数,这些函数可以在图表中多次调用。与文本编程一样,使用函数可以减少冗余并提高可读性。在本课程中,您将了解两种类型的Stateflow函数:图形函数和MATLAB函数。您可以通过浏览文档页面“图表中的可重用函数”来了解其他类型的函数。函数可以称为状态操作和条件操

LabelImg安装使用教程:

LabelImg

CUDA与TensorRT(5)之TensorRT介绍

CUDA与TensorRT(5)之TensorRT介绍

【AI】AI入门之Nvidia Jetson平台(一)- Jetson平台介绍

AI人工智能,Jetson嵌入式平台,Ubuntu系统