0
0

大数据之Hadoop数据仓库Hive

目录：

一、简介

Hive 是一个构建在 Hadoop 之上的数据仓库，它可以将结构化的数据文件映射成表，并提供类 SQL 查询功能，用于查询的 SQL 语句会被转化为 MapReduce 作业，然后提交到 Hadoop 上运行。

特点：

  • 简单、容易上手 (提供了类似 sql 的查询语言 hql)，使得精通 sql 但是不了解 Java 编程的人也能很好地进行大数据分析；
  • 灵活性高，可以自定义用户函数 (UDF) 和存储格式；
  • 为超大的数据集设计的计算和存储能力，集群扩展容易;
  • 统一的元数据管理，可与 presto／impala／sparksql 等共享数据；
  • 执行延迟高，不适合做数据的实时处理，但适合做海量数据的离线处理。

二、HQL的执行流程

Hive 在执行一条 HQL 的时候，会经过以下步骤：

  • 语法解析：Antlr 定义 SQL 的语法规则，完成 SQL 词法，语法解析，将 SQL 转化为抽象 语法树 AST Tree；
  • 语义解析：遍历 AST Tree，抽象出查询的基本组成单元 QueryBlock；
  • 生成逻辑执行计划：遍历 QueryBlock，翻译为执行操作树 OperatorTree；
  • 优化逻辑执行计划：逻辑层优化器进行 OperatorTree 变换，合并不必要的 ReduceSinkOperator，减少 shuffle 数据量；
  • 生成物理执行计划：遍历 OperatorTree，翻译为 MapReduce 任务；
  • 优化物理执行计划：物理层优化器进行 MapReduce 任务的变换，生成最终的执行计划。

HQL建表语句示例：

CREATETABLE students(
  name      STRING,-- 姓名
  age       INT,-- 年龄
  subject   ARRAY<STRING>,--学科
  score     MAP<STRING,FLOAT>,--各个学科考试成绩
  address   STRUCT<houseNumber:int, street:STRING, city:STRING, province：STRING>--家庭居住地址)ROW FORMAT DELIMITED FIELDSTERMINATEDBY"\t";

三、索引

2.3 创建索引

CREATEINDEX index_name     --索引名称ONTABLE base_table_name (col_name,...)--建立索引的列AS index_type    --索引类型[WITH DEFERRED REBUILD]--重建索引[IDXPROPERTIES (property_name=property_value,...)]--索引额外属性[INTABLE index_table_name]--索引表的名字[[ROW FORMAT ...] STORED AS...| STORED BY...]--索引表行分隔符 、 存储格式[LOCATION hdfs_path]--索引表存储位置[TBLPROPERTIES (...)]--索引表表属性[COMMENT"index comment"];--索引注释

2.4 查看索引

--显示表上所有列的索引SHOW FORMATTED INDEXON table_name;

2.4 删除索引

删除索引会删除对应的索引表。
DROPINDEX[IFEXISTS] index_name ON table_name;

如果存在索引的表被删除了，其对应的索引和索引表都会被删除。如果被索引表的某个分区被删除了，那么分区对应的分区索引也会被删除。

2.5 重建索引

ALTERINDEX index_name ON table_name [PARTITION partition_spec] REBUILD;

重建索引。如果指定了 PARTITION，则仅重建该分区的索引。

四、索引案例

3.1 创建索引
在 emp 表上针对 empno 字段创建名为 emp_index,索引数据存储在 emp_index_table 索引表中

createindex emp_index ontable emp(empno)as'org.apache.hadoop.hive.ql.index.compact.CompactIndexHandler'with deferred rebuild 
intable emp_index_table ;

此时索引表中是没有数据的，需要重建索引才会有索引的数据。

3.2 重建索引

alterindex emp_index on emp rebuild;

Hive 会启动 MapReduce 作业去建立索引，建立好后查看索引表数据如下。三个表字段分别代表：索引列的值、该值对应的 HDFS 文件路径、该值在文件中的偏移量。
在这里插入图片描述

五、Hive常用DDL操作

1.1 查看数据列表
showdatabases;

1.2 使用数据库
USE database_name;

1.3 新建数据库
语法：

CREATE(DATABASE|SCHEMA)[IFNOTEXISTS] database_name   --DATABASE|SCHEMA 是等价的[COMMENT database_comment]--数据库注释[LOCATION hdfs_path]--存储在 HDFS 上的位置[WITH DBPROPERTIES (property_name=property_value,...)];--指定额外属性

示例：

CREATEDATABASEIFNOTEXISTS hive_test
  COMMENT'hive database for test'WITH DBPROPERTIES ('create'='heibaiying');

1.4 查看数据库信息
语法：

DESCDATABASE[EXTENDED] db_name;--EXTENDED 表示是否显示额外属性

示例：

DESCDATABASEEXTENDED hive_test;

1.5 删除数据库
语法：

DROP(DATABASE|SCHEMA)[IFEXISTS] database_name [RESTRICT|CASCADE];

默认行为是 RESTRICT，如果数据库中存在表则删除失败。要想删除库及其中的表，可以使用 CASCADE 级联删除。
示例：

DROPDATABASEIFEXISTS hive_test CASCADE;

二、创建表

2.1 建表语法
CREATE[TEMPORARY][EXTERNAL]TABLE[IFNOTEXISTS][db_name.]table_name     --表名[(col_name data_type [COMMENT col_comment],...[constraint_specification])]--列名 列数据类型[COMMENT table_comment]--表描述[PARTITIONED BY(col_name data_type [COMMENT col_comment],...)]--分区表分区规则[CLUSTEREDBY(col_name, col_name,...)[SORTED BY(col_name [ASC|DESC],...)]INTO num_buckets BUCKETS
  ]--分桶表分桶规则[SKEWED BY(col_name, col_name,...)ON((col_value, col_value,...),(col_value, col_value,...),...)[STORED AS DIRECTORIES]]--指定倾斜列和值[[ROW FORMAT row_format][STORED AS file_format]| STORED BY'storage.handler.class.name'[WITH SERDEPROPERTIES (...)]]-- 指定行分隔符、存储文件格式或采用自定义存储格式[LOCATION hdfs_path]-- 指定表的存储位置[TBLPROPERTIES (property_name=property_value,...)]--指定表的属性[AS select_statement];--从查询结果创建表

2.2 内部表
  CREATETABLE emp(
    empno INT,
    ename STRING,
    job STRING,
    mgr INT,
    hiredate TIMESTAMP,
    sal DECIMAL(7,2),
    comm DECIMAL(7,2),
    deptno INT)ROW FORMAT DELIMITED FIELDSTERMINATEDBY"\t";

2.3 外部表
  CREATE EXTERNAL TABLE emp_external(
    empno INT,
    ename STRING,
    job STRING,
    mgr INT,
    hiredate TIMESTAMP,
    sal DECIMAL(7,2),
    comm DECIMAL(7,2),
    deptno INT)ROW FORMAT DELIMITED FIELDSTERMINATEDBY"\t"
    LOCATION '/hive/emp_external';

使用 desc format emp_external 命令可以查看表的详细信息如下：
在这里插入图片描述

2.4 分区表
  CREATE EXTERNAL TABLE emp_partition(
    empno INT,
    ename STRING,
    job STRING,
    mgr INT,
    hiredate TIMESTAMP,
    sal DECIMAL(7,2),
    comm DECIMAL(7,2))
    PARTITIONED BY(deptno INT)-- 按照部门编号进行分区ROW FORMAT DELIMITED FIELDSTERMINATEDBY"\t"
    LOCATION '/hive/emp_partition';

2.5 分桶表
  CREATE EXTERNAL TABLE emp_bucket(
    empno INT,
    ename STRING,
    job STRING,
    mgr INT,
    hiredate TIMESTAMP,
    sal DECIMAL(7,2),
    comm DECIMAL(7,2),
    deptno INT)CLUSTEREDBY(empno) SORTED BY(empno ASC)INTO4 BUCKETS  --按照员工编号散列到四个 bucket 中ROW FORMAT DELIMITED FIELDSTERMINATEDBY"\t"
    LOCATION '/hive/emp_bucket';

2.6 倾斜表
通过指定一个或者多个列经常出现的值（严重偏斜），Hive 会自动将涉及到这些值的数据拆分为单独的文件。在查询时，如果涉及到倾斜值，它就直接从独立文件中获取数据，而不是扫描所有文件，这使得性能得到提升。

CREATE EXTERNAL TABLE emp_skewed(
    empno INT,
    ename STRING,
    job STRING,
    mgr INT,
    hiredate TIMESTAMP,
    sal DECIMAL(7,2),
    comm DECIMAL(7,2))
    SKEWED BY(empno)ON(66,88,100)--指定 empno 的倾斜值 66,88,100ROW FORMAT DELIMITED FIELDSTERMINATEDBY"\t"
    LOCATION '/hive/emp_skewed';

2.7 临时表
临时表仅对当前 session 可见，临时表的数据将存储在用户的暂存目录中，并在会话结束后删除。如果临时表与永久表表名相同，则对该表名的任何引用都将解析为临时表，而不是永久表。临时表还具有以下两个限制：

不支持分区列；
不支持创建索引。

CREATETEMPORARYTABLE emp_temp(
    empno INT,
    ename STRING,
    job STRING,
    mgr INT,
    hiredate TIMESTAMP,
    sal DECIMAL(7,2),
    comm DECIMAL(7,2))ROW FORMAT DELIMITED FIELDSTERMINATEDBY"\t";

2.8 CTAS创建表
支持从查询语句的结果创建表：

CREATETABLE emp_copy ASSELECT*FROM emp WHERE deptno='20';

2.9 复制表结构
语法：

CREATE[TEMPORARY][EXTERNAL]TABLE[IFNOTEXISTS][db_name.]table_name  --创建表表名LIKE existing_table_or_view_name  --被复制表的表名[LOCATION hdfs_path];--存储位置

示例：

CREATETEMPORARY EXTERNAL TABLEIFNOTEXISTS  emp_co  LIKE emp

2.10 加载数据到表
加载数据到表中属于 DML 操作，这里为了方便大家测试，先简单介绍一下加载本地数据到表中：

– 加载数据到 emp 表中

loaddatalocal inpath "/usr/file/emp.txt"intotable emp;

其中 emp.txt 的内容如下，你可以直接复制使用，也可以到本仓库的resources 目录下载：

7369    SMITH    CLERK    79021980-12-1700:00:00800.00207499    ALLEN    SALESMAN    76981981-02-2000:00:001600.00300.00307521    WARD    SALESMAN    76981981-02-2200:00:001250.00500.00307566    JONES    MANAGER    78391981-04-0200:00:002975.00207654    MARTIN    SALESMAN    76981981-09-2800:00:001250.001400.00307698    BLAKE    MANAGER    78391981-05-0100:00:002850.00307782    CLARK    MANAGER    78391981-06-0900:00:002450.00107788    SCOTT    ANALYST    75661987-04-1900:00:001500.00207839    KING    PRESIDENT        1981-11-1700:00:005000.00107844    TURNER    SALESMAN    76981981-09-0800:00:001500.000.00307876    ADAMS    CLERK    77881987-05-2300:00:001100.00207900    JAMES    CLERK    76981981-12-0300:00:00950.00307902    FORD    ANALYST    75661981-12-0300:00:003000.00207934    MILLER    CLERK    77821982-01-2300:00:001300.0010

加载后可查询表中数据：
在这里插入图片描述

三、修改表
3.1 重命名表
语法：

ALTERTABLE table_name RENAMETO new_table_name;

示例：

ALTERTABLE emp_temp RENAMETO new_emp;--把 emp_temp 表重命名为 new_emp

3.2 修改列
语法：

ALTERTABLE table_name [PARTITION partition_spec] CHANGE [COLUMN] col_old_name col_new_name column_type
  [COMMENT col_comment][FIRST|AFTER column_name][CASCADE|RESTRICT];

示例：

-- 修改字段名和类型ALTERTABLE emp_temp CHANGE empno empno_new INT;

-- 修改字段 sal 的名称 并将其放置到 empno 字段后ALTERTABLE emp_temp CHANGE sal sal_new decimal(7,2)AFTER ename;

-- 为字段增加注释ALTERTABLE emp_temp CHANGE mgr mgr_new INTCOMMENT'this is column mgr';

3.3 新增列
示例：

ALTERTABLE emp_temp ADDCOLUMNS(address STRING COMMENT'home address');

四、清空表/删除表
4.1 清空表
语法：

-- 清空整个表或表指定分区中的数据TRUNCATETABLE table_name [PARTITION(partition_column = partition_col_value,...)];
目前只有内部表才能执行 TRUNCATE 操作，外部表执行时会抛出异常 Cannot truncate non-managed table XXXX。

示例：

TRUNCATETABLE emp_mgt_ptn PARTITION(deptno=20);

4.2 删除表
语法：

DROPTABLE[IFEXISTS] table_name [PURGE];

内部表：不仅会删除表的元数据，同时会删除 HDFS 上的数据；
外部表：只会删除表的元数据，不会删除 HDFS 上的数据；
删除视图引用的表时，不会给出警告（但视图已经无效了，必须由用户删除或重新创建）。
五、其他命令
5.1 Describe

查看数据库：

DESCRIBE|DescDATABASE[EXTENDED] db_name;--EXTENDED 是否显示额外属性

查看表：

DESCRIBE|Desc[EXTENDED|FORMATTED] table_name --FORMATTED 以友好的展现方式查看表详情

5.2 Show

  1. 查看数据库列表
-- 语法SHOW(DATABASES|SCHEMAS)[LIKE'identifier_with_wildcards'];-- 示例：SHOWDATABASESlike'hive*';

LIKE 子句允许使用正则表达式进行过滤，但是 SHOW 语句当中的 LIKE 子句只支持 *（通配符）和 |（条件或）两个符号。例如 employees，emp *，emp * | * ees，所有这些都将匹配名为 employees 的数据库。

  1. 查看表的列表
-- 语法SHOWTABLES[IN database_name]['identifier_with_wildcards'];-- 示例SHOWTABLESINdefault;
  1. 查看视图列表
SHOW VIEWS [IN/FROM database_name][LIKE'pattern_with_wildcards'];--仅支持 Hive 2.2.0 +
  1. 查看表的分区列表
SHOW PARTITIONS table_name;
  1. 查看表/视图的创建语句
```commonlisp
SHOWCREATETABLE([db_name.]table_name|view_name);

六、Hive 常用DML操作

案例分析：

新建分区表：

CREATETABLE emp_ptn(
    empno INT,
    ename STRING,
    job STRING,
    mgr INT,
    hiredate TIMESTAMP,
    sal DECIMAL(7,2),
    comm DECIMAL(7,2))
    PARTITIONED BY(deptno INT)-- 按照部门编号进行分区ROW FORMAT DELIMITED FIELDSTERMINATEDBY"\t";

从 HDFS 上加载数据到分区表：

LOADDATA  INPATH "hdfs://hadoop001:8020/mydir/emp.txt" OVERWRITE  INTOTABLE emp_ptn PARTITION(deptno=20);

emp.txt 文件可在本仓库的 resources 目录中下载

加载后表中数据如下,分区列 deptno 全部赋值成 20：
在这里插入图片描述

七、查询结果插入到表

案例分析：

新建 emp 表，作为查询对象表

CREATETABLE emp(
    empno INT,
    ename STRING,
    job STRING,
    mgr INT,
    hiredate TIMESTAMP,
    sal DECIMAL(7,2),
    comm DECIMAL(7,2),
    deptno INT)ROW FORMAT DELIMITED FIELDSTERMINATEDBY"\t";-- 加载数据到 emp 表中 这里直接从本地加载loaddatalocal inpath "/usr/file/emp.txt"intotable emp;

在这里插入图片描述
为清晰演示，先清空 emp_ptn 表中加载的数据：

TRUNCATETABLE emp_ptn;

静态分区演示：从 emp 表中查询部门编号为 20 的员工数据，并插入 emp_ptn 表中，语句如下：

INSERT OVERWRITE TABLE emp_ptn PARTITION(deptno=20)SELECT empno,ename,job,mgr,hiredate,sal,comm FROM emp WHERE deptno=20;

完成后 emp_ptn 表中数据如下：
在这里插入图片描述
动态分区演示：

-- 由于我们只有一个分区，且还是动态分区，所以需要关闭严格默认。因为在严格模式下，用户必须至少指定一个静态分区set hive.exec.dynamic.partition.mode=nonstrict;-- 动态分区   此时查询语句的最后一列为动态分区列，即 deptnoINSERT OVERWRITE TABLE emp_ptn PARTITION(deptno)SELECT empno,ename,job,mgr,hiredate,sal,comm,deptno FROM emp WHERE deptno=30;

结果：
在这里插入图片描述

八、更新和删除操作

更新和删除的语法比较简单，和关系型数据库一致。需要注意的是这两个操作都只能在支持 ACID 的表，也就是事务表上才能执行。

-- 更新UPDATE tablename SETcolumn=value[,column=value...][WHERE expression]--删除DELETEFROM tablename [WHERE expression]

案例分析：

  1. 修改配置

首先需要更改 hive-site.xml，添加如下配置，开启事务支持，配置完成后需要重启 Hive 服务。

<property><name>hive.support.concurrency</name><value>true</value></property><property><name>hive.enforce.bucketing</name><value>true</value></property><property><name>hive.exec.dynamic.partition.mode</name><value>nonstrict</value></property><property><name>hive.txn.manager</name><value>org.apache.hadoop.hive.ql.lockmgr.DbTxnManager</value></property><property><name>hive.compactor.initiator.on</name><value>true</value></property><property><name>hive.in.test</name><value>true</value></property>
  1. 创建测试表

创建用于测试的事务表，建表时候指定属性 transactional = true 则代表该表是事务表。需要注意的是，按照官方文档 的说明，目前 Hive 中的事务表有以下限制：

必须是 buckets Table;
仅支持 ORC 文件格式；
不支持 LOAD DATA …语句。

CREATETABLE emp_ts(  
  empno int,  
  ename String
)CLUSTEREDBY(empno)INTO2 BUCKETS STORED AS ORC
TBLPROPERTIES ("transactional"="true");
  1. 插入测试数据
INSERTINTOTABLE emp_ts  VALUES(1,"ming"),(2,"hong");

插入数据依靠的是 MapReduce 作业，执行成功后数据如下：
在这里插入图片描述

  1. 测试更新和删除
--更新数据UPDATE emp_ts SET ename ="lan"WHERE  empno=1;--删除数据DELETEFROM emp_ts WHERE empno=2;

更新和删除数据依靠的也是 MapReduce 作业，执行成功后数据如下：
在这里插入图片描述

九、查询结果写出到文件系统

5.1 语法
INSERT OVERWRITE [LOCAL] DIRECTORY directory1
  [ROW FORMAT row_format][STORED AS file_format]SELECT...FROM...
  • OVERWRITE 关键字表示输出文件存在时，先删除后再重新写入；
  • 和 Load 语句一样，建议无论是本地路径还是 URL 地址都使用完整的；

写入文件系统的数据被序列化为文本，其中列默认由^A 分隔，行由换行符分隔。如果列不是基本类型，则将其序列化为 JSON 格式。其中行分隔符不允许自定义，但列分隔符可以自定义，如下：

-- 定义列分隔符为'\t' insert overwrite local directory './test-04'row format delimited 
FIELDSTERMINATEDBY'\t'
COLLECTION ITEMS TERMINATEDBY','
MAP KEYSTERMINATEDBY':'select*from src;

5.2 示例
这里我们将上面创建的 emp_ptn 表导出到本地文件系统，语句如下：

INSERT OVERWRITE LOCAL DIRECTORY '/usr/file/ouput'ROW FORMAT DELIMITED
FIELDSTERMINATEDBY'\t'SELECT*FROM emp_ptn;

导出结果如下：
在这里插入图片描述

十、Hive CLI和Beeline命令行的基本使用

1.1 Help
使用 hive -H 或者 hive --help 命令可以查看所有命令的帮助，显示如下：
在这里插入图片描述
1.2 交互式命令行
直接使用 Hive 命令，不加任何参数，即可进入交互式命令行。

1.3 执行SQL命令
在不进入交互式命令行的情况下，可以使用 hive -e 执行 SQL 命令。

hive -e 'select * from emp';

在这里插入图片描述
1.4 执行SQL脚本
用于执行的 sql 脚本可以在本地文件系统，也可以在 HDFS 上。

# 本地文件系统
hive -f /usr/file/simple.sql;# HDFS文件系统
hive -f hdfs://hadoop001:8020/tmp/simple.sql;
其中 simple.sql 内容如下：

select*from emp;

1.5 配置Hive变量

可以使用 --hiveconf 设置 Hive 运行时的变量。

hive -e 'select * from emp' \
--hiveconf hive.exec.scratchdir=/tmp/hive_scratch  \--hiveconf mapred.reduce.tasks=4;

hive.exec.scratchdir：指定 HDFS 上目录位置，用于存储不同 map/reduce 阶段的执行计划和这些阶段的中间输出结果。

1.6 配置文件启动

使用 -i 可以在进入交互模式之前运行初始化脚本，相当于指定配置文件启动。

hive -i /usr/file/hive-init.conf;
其中 hive-init.conf 的内容如下：

set hive.exec.mode.local.auto =true;

hive.exec.mode.local.auto 默认值为 false，这里设置为 true ，代表开启本地模式。

1.7 用户自定义变量
–define <key=value> 和 --hivevar <key=value> 在功能上是等价的，都是用来实现自定义变量，这里给出一个示例:

定义变量：

hive  --define  n=ename --hiveconf  --hivevar j=job;

在查询中引用自定义变量：

# 以下两条语句等价
hive >select ${n} from emp;
hive >select ${hivevar:n} from emp;# 以下两条语句等价
hive >select ${j} from emp;
hive >select ${hivevar:j} from emp;

在这里插入图片描述

十一、Hive配置

可以通过三种方式对 Hive 的相关属性进行配置，分别介绍如下：

3.1 配置文件
方式一为使用配置文件，使用配置文件指定的配置是永久有效的。Hive 有以下三个可选的配置文件：

  • hive-site.xml ：Hive 的主要配置文件；
  • hivemetastore-site.xml： 关于元数据的配置；
  • hiveserver2-site.xml：关于 HiveServer2 的配置。

示例如下,在 hive-site.xml 配置 hive.exec.scratchdir：

<property><name>hive.exec.scratchdir</name><value>/tmp/mydir</value><description>Scratch space for Hive jobs</description></property>

3.2 hiveconf
方式二为在启动命令行 (Hive CLI / Beeline) 的时候使用 --hiveconf 指定配置，这种方式指定的配置作用于整个 Session。

hive --hiveconf hive.exec.scratchdir=/tmp/mydir

3.3 set
方式三为在交互式环境下 (Hive CLI / Beeline)，使用 set 命令指定。这种设置的作用范围也是 Session 级别的，配置对于执行该命令后的所有命令生效。set 兼具设置参数和查看参数的功能。如下：

0: jdbc:hive2://hadoop001:10000> set hive.exec.scratchdir=/tmp/mydir;Norows affected (0.025 seconds)0: jdbc:hive2://hadoop001:10000> set hive.exec.scratchdir;+----------------------------------+--+|set|+----------------------------------+--+| hive.exec.scratchdir=/tmp/mydir  |+----------------------------------+--+

3.4 配置优先级

配置的优先顺序如下 (由低到高)：
hive-site.xml - >hivemetastore-site.xml- >hiveserver2-site.xml - >-- hiveconf- > set

标签： 大数据 hadoop hive
本文转载自: https://blog.csdn.net/zouyang920/article/details/130409481
版权归原作者 bst@微胖子 所有， 如有侵权，请联系我们删除。
登录后发布评论

“大数据之Hadoop数据仓库Hive”的评论:

还没有评论
关于作者
...
overfit同步小助手
文章同步
相关阅读

机器人技术在安全领域的重要作用

安全学习记录——网络篇（一）

图腾柱PFC：HP1010为您的电动两轮车之旅提供绿色，高效，安全的动力

单元测试数据库回滚问题

这才是单元测试，之前我们都错了

【C语言基础】：字符函数和字符串函数

ChatGPT-Next-Web SSRF漏洞+XSS漏洞复现(CVE-2023-49785)

文章导航