大数据之Hive:regexp_extract函数案例

目录

一、正则的通配符简介

1、正则表达式的符号及意义

符号含义实列/做为转意，即通常在"/"后面的字符不按原来意义解释如" * “匹配它前面元字符0次或多次，/a*/将匹配a,aa,aaa，加了”/"后，/a/* /将只匹配"a* ".匹配任何一个字符^匹配一个输入或一行的开头/^a/匹配"an A"，而不匹配"An a"$匹配一个输入或一行的结尾/a$/匹配"An a"，而不匹配"an A"匹配前面元字符0次或多次/ba/将匹配b,ba,baa,baaa+匹配前面元字符1次或多次/ba+/将匹配ba,baa,baaa?匹配前面元字符0次或1次/ba?/将匹配b,ba(x)匹配x保存x在名为$1…$9的变量中x竖y匹配x或y{n}精确匹配n次{n,}匹配n次以上{n,m}匹配n-m次[xyz]字符集(character set)，匹配这个集合中的任一一个字符(或元字符)[^xyz]不匹配这个集合中的任何一个字符/d匹配一个字数字符//d/ = /[0-9]//D匹配一个非字数字符//D/ = /[^0-9]//s匹配一个空白字符，包括/n,/r,/f,/t,/v等/S匹配一个非空白字符，等于/[^/n/f/r/t/v]//w匹配一个可以组成单词的字符(alphanumeric，这是我的意译，含数字)，包括下划线，如[/w]匹配"$5.98"中的5，等于[a-zA-Z0-9]/W匹配一个不可以组成单词的字符，如[/W]匹配"$5.98"中的 $，等于[^a-zA-Z0-9]
备注：
‘( )’ 标记一个子表达式的开始和结束位置。
‘[]’ 标记一个中括号表达式。
/num 匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。

2、各种操作符的运算优先级：

转义符>圆括号和方括号>限定符>位置和顺序
具体如下：
/ 转义符
(), ( ?: ), (?=), [] 圆括号和方括号
*, +, ?, {n}, {n,}, {n,m} 限定符
^, $, anymetacharacter 位置和顺序
正则表达式的符号及意义

二、案例

数据

withtempas(select'[{favorite=["电影":杀死比尔,"电视剧":宰相刘罗锅],age=15,gender:男}]'as attributes ---第一行unionallselect'[{favorite="像风一样的女人",age=未知,gender:男}]'as attributes ---第二行unionallselect'[{favorite=28, gender:女,age=15}]'as attributes ---第三行unionallselect'[{gender:女,favorite=["综艺","动漫"],age=15 }]'as  attributes ---第四行)

要求

将favorite的值，age的值和gender的值取出来

分析

1. 目前从temp表可知表中可知表里面只有一个attributes（特征）字段，这个字段其实包含三个字段，分别为favorite和age和gender
2. 该字段类型不是标准的json格式，哪怕转换成标准的json格式也不太容易，假设转成json,你首先要处理最外层的中括号，其次json里面的key是有双引号的，你需要给key添加双引号，再次字段类型也不一致，age=15和age=未知；
3. 综上分析需要使用regexp_extract函数
4. 使用regexp_extract函数需要注意什么？注意字段顺序不一样，不是统一的，这是第一点；第二点有些逗号后面有空格，有些没有，花括号前有些有空格，有些没有；第三点favorite和age后面是等号，gender后面是冒号；

实现

select 
regexp_extract (attributes,'favorite\\=(.*?)(\\,\\s{0,1}age|\\,\\s{0,1}gender|\\s{0,1}\\})',1)as favorite
,regexp_extract (attributes,'age\\=(.*?)(\\s{0,1}\\}|\\,\\s{0,1}favorite|\\,\\s{0,1}gender)',1)as age
,regexp_extract (attributes,'gender\\:(.*?)(\\s{0,1}\\}|\\,\\s{0,1}favorite|\\,\\s{0,1}age)',1)as gender
fromtemp;

输出结果

favoriteagegender[“电影”:杀死比尔,“电视剧”:宰相刘罗锅]15男“像风一样的女人”未知男2815女[“综艺”,“动漫”]15女

实现2

虽然说转json比较麻烦，但还是可以实现的，需要一些技巧；主要的问题是加引号，其次是去最外层的中括号，其他是一些小细节；

----去除空格字符和里面的引号（会在加引号时有干扰）等,第一个replace去空格，第二个去除双引号select  regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"','')fromtemp

----处理最外层的中括号,并加最外层的引号select  regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}')fromtemp

----最终处理select  regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}'),'gender\\:','gender\\='),'\\=','\\"\\:\\"'),'\\,','\\&'),'\\&age','\\"\\,\\"age'),'\\&gender','\\"\\,\\"gender'),'\\&favorite','\\"\\,\\"favorite')as attributes
fromtemp

至此终于到最标准的json格式了，处理json可以使用get_json_object,也可以使用json_tuple

select 
get_json_object(attributes,'$.favorite'),get_json_object(attributes,'$.age'),get_json_object(attributes,'$.gender')from(select  regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}'),'gender\\:','gender\\='),'\\=','\\"\\:\\"'),'\\,','\\&'),'\\&age','\\"\\,\\"age'),'\\&gender','\\"\\,\\"gender'),'\\&favorite','\\"\\,\\"favorite')as attributes
fromtemp) tt 

select 
json_tuple(attributes,'favorite','age','gender')from(select  regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}'),'gender\\:','gender\\='),'\\=','\\"\\:\\"'),'\\,','\\&'),'\\&age','\\"\\,\\"age'),'\\&gender','\\"\\,\\"gender'),'\\&favorite','\\"\\,\\"favorite')as attributes
fromtemp) tt 

select 
b.favorite
,b.age
,b.gender
from(select  regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}'),'gender\\:','gender\\='),'\\=','\\"\\:\\"'),'\\,','\\&'),'\\&age','\\"\\,\\"age'),'\\&gender','\\"\\,\\"gender'),'\\&favorite','\\"\\,\\"favorite')as attributes
fromtemp) tt lateral view
json_tuple(attributes,'favorite','age','gender') b as favorite,age,gender

实现3

select 
attributes['favorite']as favorite
,attributes['gender']as gender
,attributes['age']as age
from(select 
str_to_map(attributes,',','=')as attributes
from(select  
regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\:','\\='),'\\,','\\&'),'\\&age','\\,age'),'\\&favorite','\\,favorite'),'\\&gender','\\,gender'),'(\\[\\{)|(\\}\\])','')as attributes
fromtemp) tt 
) ttm

总结

首先需要明确的是，上面中的例子是人为制造的，非常不规则，所以导致处理起来非常麻烦，里面有好几个中括号，中括号里面是逗号分割，还有gender专门后面编成冒号，这些无疑加大了处理难度；上述使用三种方法进行处理，优先级：regexp_extract >str_to_map>get_json_object;