overfit同步小助手
文章同步
大模型推理性能优化之KV Cache解读
0. 引言做大模型性能优化的一定对KV Cache不陌生，那么我们对这个技术了解到什么程度呢？请尝试回答如下问题：KV Cache节省了Self-Attention层中哪部分的计算？KV Cache对MLP层的计算量有影响吗？KV Cache对block间的数据传输量有影响吗？本文打算剖析该技术并给
腾讯云大数据ClickHouse遇见Schema-less: 半结构化数据分析性能提升20倍！
ClickHouse是一个开源的高性能列式数据库管理系统，也是高性能大数据实时分析引擎的基石。而在半结构化数据处理领域，ClickHouse显得力不从心。腾讯云数据仓库另辟蹊径融合Schema-less数据库灵活性能力，使得大数据实时分析系统兼具高性能与灵活性。
使用flink的sql-client.sh，测试mysql--＞kafka--＞kafka--＞mysql实时流
使用flink的sql-client测试数据流程mysql-->kafka-->kafka-->mysql
【Hive】分隔符 『 单字节分隔符 | 多字节分隔符』
1. 概述2. 单字节分隔符方法：使用delimited关键字3. 其它复杂情况方式一：写MR程序进行字符替换转为单字节分隔符问题（不推荐）方式二：自定义InputFormat转为单字节分隔符问题（不推荐）方式三：使用serde关键字 （推荐）
探索大语言模型垂直化训练技术和应用-陈运文
产品化的是请垂直领域的专家，针对每项垂直任务，来设计用于生成 prompt 的产品，由专家编写大量不同的 prompt，评估或输出好的 prompt 后，进行片段切分，形成相应的产品，这对未来 AIGC 任务会起到很好的作用。由上往下，当计算机做一个长文档的规划协作生成的内容，我们让相应的其他模型做
深入解析路由与网络：网络的脉络
它是一个巨大的网络，连接了数十亿台设备，包括计算机、服务器、移动设备等。它旨在提高网站、应用程序和其他互联网服务的性能，通过将内容分布到多个位于不同地理位置的服务器上，使用户能够更快地访问和加载内容。外网是一个广泛的网络，覆盖了大范围的地理区域，通常跨越城市、国家或甚至跨越全球。局域网是一个较小的网
Hive常见面试题
Hive是一个基于Hadoop生态系统的数据仓库和数据处理工具。它提供了类似于SQL的查询语言（HiveQL），使用户能够使用SQL语句来查询和分析大规模存储在Hadoop集群上的数据。Hive的主要作用是将大数据的处理变得更加易于理 解和使用，尤其适合那些熟悉SQL查询语言的非技术用户。Hive
kafka（一）
kafka集群包括一个或者多个服务器，服务器的节点叫做broker。
axios取消请求
axios取消请求
SpringBoot知识范围-学习步骤--【思维导图知识范围】
本系列校训用免费公开视频，卷飞培训班哈人！打死不报班，赚钱靠狠干！只要自己有电脑，前后项目都能搞！N年苦学无人问，一朝成名天下知！互相伤害互相卷，玩命学习要你管，天生我才必有用，我命由我不由天！
Spring Boot自动装配原理(易懂)
熟练使用Spring Boot那么自动装配原理的掌握是必不可少的
对yolov5的数据集进行划分【训练集、验证集、测试集】7：2:1和【训练集、验证集】8:2
对yolov5的数据集进行划分【训练集、验证集、测试集】7：2:1和【训练集、验证集】8:2
自学网络安全（黑客）全笔记
本人自学网络安全黑客技术的学习笔记资料
【嵌入式Qt开发入门】初识Qt——Linux下安装Qt
理论上我们选择 Qt 的版本越新越好，这是当然的，不过我们还是要确定一个版本是必须的， 因为日后写好的程序要长期运行在一个确定的版本里，避免随意升级带来其他兼容性问题，或者重复重复移植等工作。简单的来说，Qt 可以做很多东西，好比如 Windows 下的软件也有很多是 Qt 开发的，这里我很喜欢它的
Zookeeper3.5.7版本——Zookeeper可视化工具PrettyZoo的下载、安装与简单使用
Zookeeper3.5.7版本——Zookeeper可视化工具PrettyZoo的下载、安装与简单使用
大数据Flink（五十一）：Flink的引入和Flink的简介
随着第三代计算引擎的出现，促进了上层应用快速发展，例如各种迭代计算的性能以及对流计算和 SQL 等的支持。对于上层应用来说，就不得不想方设法去拆分算法，甚至于不得不在上层应用实现多个 Job 的串联，以完成一个完整的算法，例如迭代计算。在德语中，Flink一词表示快速和灵巧，项目采用松鼠的彩色图案作
vite：常见的配置
最近在捣鼓一下vite，因为自己一直在使用react，就选择vite、react来体验一下vite。，然后选择react框架。
模型优化之模型剪枝
（2）非结构化剪枝：把权重矩阵中某个神经元节点去掉，则和神经元相连接的突触也要全部去除。可以通过计算神经元对应的行和列的权重值的平方和的根的大小进行排序，把排序在后面一定比例的神经元节点去掉。Pytorch中模型的剪枝方法有三种，局部剪枝、全局剪枝和自定义剪枝。接下来开始演示三种剪枝在LeNet网络
【Ubuntu 22.04安装CUDA】
ubuntu2204 cuda