【HiveSQL】定义变量&使用变量
HiveSQL中变量的定义与使用
Hive的堵塞问题和表锁问题原因查找
当一个用户或任务需要对表进行修改（如插入、更新、删除等操作）时，Hive会自动获取一个表级锁，以防止其他用户或任务同时修改该表。排他锁适用于对表进行写操作，当一个用户或任务获取到了一个表的排他锁时，其他用户或任务将无法修改该表。如果一个用户或任务需要对表进行修改，但另一个用户或任务已经获取了表的锁，
关于Hive的使用技巧
可以使用SET命令来设置相关参数，如mapreduce.job.reduces、hive.exec.parallel、hive.exec.dynamic.partition.mode等。优化查询：在编写查询语句时，可以使用HiveQL的优化技巧来提高查询性能。分区和桶：使用分区和桶可以提高查询性能。
【Hive实战】Hive的压缩池与锁
Hive的压缩池与锁
hive所有窗口函数详情总结
开窗函数用于为行定义一个窗口（指运算将要操作的行的集合），它对一组值进行操作，不需要使用 Group By 子句对数据进行分组，能够在同一行中同时返回基础行的列和聚合列。percent_rank ：窗口内当前行的RANK值-1/窗口内总行数-1(这里的rank值就是指的是rank 函数的的返回值)有
Hive常见错误及解决办法
Hive常见错误及解决办法
了解hive on spark和spark on hive
大数据刚出来的时候，并不是很完善。发展的不是很快，尤其是在计算服务上，当时使用的是第一代mr计算引擎，相对来说计算并不是那么快。让大数据快速发展的是2009年伯克利大学诞生的spark，并在2013年成为Aparch的顶级开源项目。使大数据发展比较迅速、但是随着spark的快速发展，对于不太会用sp
清空hive表 姿势大全
- 清空分区表为什么着重强调分区表,因为分区表清空可能会因为分区过多导致清理速度特别慢.
Hadoop集成Hive
说明：服务器已用主机名代替，可根据自己的需求，改为IP地址环境1、java版本1.82、Rsync CentOS中默认存在3、zstd、openssl、autoconf、automake、libtool、ca-certificates安装4、ISA-L5、nasm与yasm6、ssh7、hadoop
hive存储压缩格式对比说明
hive压缩说明
Hive-数据倾斜
在计算各省份的GMV时，有可能会发生数据倾斜，解决办法如下：
hive 全量表、增量表、快照表、切片表和拉链表
切片表根据基础表，往往只反映某一个维度的相应数据。其表结构与基础表结构相同，但数据往往只有某一维度，或者某一个事实条件的数据。：记录每条信息的生命周期，当一条记录的生命周期结束，就会重新开始一条新的记录，并把当前日期放入生效开始日期。3）合并变动数据和旧拉链表数据（有更新的信息需要修改生效结束日期，
Presto、Spark 和 Hive 即席查询性能对比
Spark 则是一个基于内存的分布式计算框架，可以快速地处理大规模的数据，并且具有很高的可扩展性。Presto 可以很容易地集成到现有的数据架构中，并且可以在不同的数据源之间进行无缝的查询。它们都具有各自的优缺点，在不同的场景下都有着不同的应用价值。Spark 是一个基于内存的分布式计算框架，它可以
Hive数据仓库
数仓作为面相分析的数据平台，其主职工作就是对存储在其中的数据开展分析，那么如何读取数据分析呢？理论上来说，任何一款编程语言只要具备读写数据、处理数据的能力，都可以用于数仓的开发。比如大家耳熟能详的C、java、Python等；关键在于编程语言是否易学、好用、功能是否强大。遗憾的是上面所列出的C、py
Hive Sql优化之一次from查询多次insert into操作
优化点：一次map多个reduce，有效节省了map操作。
doris配置hive的catalog
查询hive的database。创建hive的catalog。
拉链表的制作过程
**背景：**对于一些维度表，数据量特别大，每天又会有新增或者修改的数据，但是这部分数据总数据量的比重不大。如果做成每日全量数据，会导致大量的重复数据，占用存储资源；如果做成全量最新，则会缺少历史数据。针对这种情况，可以考虑使用拉链表。**设计思路：**每行数据加上两个字段，开始时间，结束时间。初始
常用的Prestosql
常用的Prestosql
【Hive-Partition】Hive添加分区及修改分区location
【Hive-Partition】Hive添加分区及修改分区location
iceberg对比hive优势
在传统的实时数仓中，由于列式存储相对行式存储有较高的查询性能，我们一般采用parquet，orc等列存储数据格式。传统的流式数据入库的过程中对小文件进行合并会产生很多问题，比如流式数据不断的往hive表进行写入，如果同时有一个合并程序进行小文件的合并，那么这时候对同一份数据进行读写。当有实时指标计算
