Doris配置外表以及多个Hive外表的配置
Doris/starrocks等建立catlog进行跨库查询,多个Hive外表的配置
HiveSQL——共同使用ip的用户检测问题【自关联问题】
HiveSQL——共同使用ip的用户检测问题【自关联问题】
数据仓库的安全性与合规性
1.背景介绍数据仓库是企业和组织中的核心资产之一，它存储了大量的敏感数据和商业秘密。随着数据仓库的发展和应用范围的扩大，数据仓库的安全性和合规性变得越来越重要。数据仓库的安全性涉及到数据的完整性、机密性和可用性，而合规性则涉及到法律法规、企业政策和行业标准等方面。在本文中，我们将从以下几个方面进行阐
SparkUI任务启动参数介绍（148个参数）
SparkUI中有很多任务启动参数，需要对参数有一个深入了解才能进一步调优，资源优化
Kettle——大数据ETL工具
kettle概念组件介绍，kettle下载安装以及简单使用。
(11)Hive调优——explain执行计划
Hive调优——explain执行计划
安装配置hive
正确安装Hive；正确配置Hive，理解其配置原理。
hive--外部表常用操作 全面且详细
在创建表的时候可以指定external关键字创建外部表,外部表对应的文件存储在location指定的hdfs目录下,向该目录添加新文件的同时，该表也会读取到该文件(当然文件格式必须跟表定义的一致)。外部表因为是指定其他的hdfs路径的数据加载到表当中来，所以hive表会认为自己不完全独占这份数据，所
数据仓库概念梳理
上面雪花模型中，学生信息事实表的orderId还继续关联了下一个层级体验课记录表，体验课报名记录表还可能会继续往下关联，对于复杂的系统而言，一般会采用雪花模型，关键层级会较多，而星型模型的关联过于单一，层级不够深，无法支持这种操作。一个维表会对应多个事实表，而维表和事实表所有关联起来就形成一个宽表，
数据仓库ETL工具对比
1.背景介绍数据仓库ETL(Extract, Transform, Load)工具是用于将数据从不同的数据源提取、转换并加载到数据仓库中的一种技术。ETL工具是数据仓库建设的核心组件，它可以帮助数据仓库专家更快地构建、维护和管理数据仓库。在过去的几年里，ETL工具的市场已经出现了许多竞争对手。这些工
SQL Hive是一个基于Hadoop的数据仓库工具，它提供了类似于SQL的查询语言，用于处理大规模的结构化数据
Hive的数据模型是基于表的，用户可以通过Hive的DDL语句来创建表，并通过Hive的DML语句来插入、更新和删除数据。Hive是一个基于Hadoop的数据仓库工具，它提供了一种类似于SQL的查询语言，称为HiveQL，用于处理和分析大规模的结构化数据。总结来说，Hive的数据模型是基于表的，支持
HIVE核心优化方案
目录1.数据采样2.join优化3.Hive索引4.数据倾斜。
spark3使用hive zstd压缩格式总结
ZSTD（全称为Zstandard）是一种开源的无损数据压缩算法，其压缩性能和压缩比均优于当前Hadoop支持的其他压缩格式，本特性使得Hive支持ZSTD压缩格式的表。Hive支持基于ZSTD压缩的存储格式有常见的ORC，RCFile，TextFile，JsonFile，Parquet，Squen
Chunjun纯钧(Flinkx)同步任务开发通用配置参数详解
Chunjun纯钧(Flinkx)是一款稳定、易用、高效、批流一体的数据集成框架，目前基于实时计算引擎Flink实现多种异构数据源之间的数据同步与计算，支持JSON模版配置任务，兼容FlinkSQL语法。本文对chunjun同步任务的配置文件进行详细的介绍和总结。
如何使用Hive或者HadoopMR访问表格存储中的表
更新时间：2023-12-14 09:58本文主要为您介绍如何使用Hive或者HadoopMR访问表格存储中的表。
Hive之set参数大全-16
在 Hive 中，是一个参数，用于配置 HiveServer2 的传输模式。该参数定义了 HiveServer2 使用的传输协议，可以是二进制（Binary）或 HTTP。以下是设置其中，是传输模式，可以是binary或http。请注意，这样的设置只对当前 HiveServer2 会话有效，当 Hi
Hive调优-计算资源分配
有些时候，代码运行速度慢、效率低，可能仅仅是因为资源分配不当。
Hive核心优化
分桶就是分文件, 在创建表的时候, 指定分桶字段, 并设置分多少个桶, 在添加数据的时候, hive会根据设置分桶字段, 将数据划分到N个桶(文件)中, 默认情况采用HASH分桶方案 , 分多少个桶, 取决于建表的时候, 设置分桶数量, 分了多少个桶最终翻译的MR也就会运行多少个reduce程序(H
【hive】列转行—collect_set()/collect_list()/concat_ws()函数的使用场景
【hive】列转行—collect_set()/collect_list()/concat_ws()函数的使用场景
Hive/SparkSQL中Map、Array的基本使用和转换
语法: map (key1, value1, key2, value2, …)说明：根据输入的key和value对构建map类型。
