大数据之Hive:regexp_extract函数

目录

一、正则的通配符简介

1、正则表达式的符号及意义

符号含义实列/做为转意，即通常在"/"后面的字符不按原来意义解释如" * “匹配它前面元字符0次或多次，/a*/将匹配a,aa,aaa，加了”/"后，/a/* /将只匹配"a* "^匹配一个输入或一行的开头/^a/匹配"an A"，而不匹配"An a"$匹配一个输入或一行的结尾/a$/匹配"An a"，而不匹配"an A"匹配前面元字符0次或多次/ba/将匹配b,ba,baa,baaa+匹配前面元字符1次或多次/ba+/将匹配ba,baa,baaa?匹配前面元字符0次或1次/ba?/将匹配b,ba(x)匹配x保存x在名为$1…$9的变量中x竖y匹配x或y{n}精确匹配n次{n,}匹配n次以上{n,m}匹配n-m次[xyz]字符集(character set)，匹配这个集合中的任一一个字符(或元字符)[^xyz]不匹配这个集合中的任何一个字符/d匹配一个字数字符//d/ = /[0-9]//D匹配一个非字数字符//D/ = /[^0-9]//s匹配一个空白字符，包括/n,/r,/f,/t,/v等/S匹配一个非空白字符，等于/[^/n/f/r/t/v]//w匹配一个可以组成单词的字符(alphanumeric，这是我的意译，含数字)，包括下划线，如[/w]匹配"$5.98"中的5，等于[a-zA-Z0-9]/W匹配一个不可以组成单词的字符，如[/W]匹配"$5.98"中的 $，等于[^a-zA-Z0-9]备注：‘( )’ 标记一个子表达式的开始和结束位置。‘[]’ 标记一个中括号表达式。/num 匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。

2、各种操作符的运算优先级：

转义符>圆括号和方括号>限定符>位置和顺序
具体如下：
/ 转义符
(), ( ?: ), (?=), [] 圆括号和方括号
*, +, ?, {n}, {n,}, {n,m} 限定符
^, $, anymetacharacter 位置和顺序
正则表达式的符号及意义

二、regexp_extract函数

语法: regexp_extract(string subject, string pattern, int index)
返回值: string
说明：将字符串subject按照pattern正则表达式的规则拆分，返回index指定的字符
idx是返回结果 取表达式的哪一部分 默认值为1。
0表示把整个正则表达式对应的结果全部返回
1表示返回正则表达式中第一个() 对应的结果 以此类推。
示例1：

with aa as(select'特价1.5米大床房(无窗)'as  roomname )select regexp_extract(roomname,'(特价)(\\d\.\\d)(米大床房)(\\(\\D\+\\))',0)as roomname
from aa
select regexp_extract(roomname,'(特价)(\\d\\.\\d)(米大床房)(\\(\\D+\\))',0)as roomname
from aa
--roomname--特价1.5米大床房(无窗)---结论：1、特殊符号如.,()等必须转义，需写成\\.,\\(,\\);-------- 2、\\D+和\\D\+,效果一样---------3、 0代表匹配所有，是正则表达式对应的结果全部，而不仅仅是（）内的结果，1代表第一个（）内匹配的结果

示例2：

select regexp_extract('hitdescisiondlist','i(.*?)e',1)as r1
       regexp_extract('hitdescisiondlist','(i)(.*?)(e)',2)as r2
       regexp_extract('x=a3&x=18abc&x=2&y=3&x=4','x=([0-9]+)([a-z]+)',2)as r3;--r1 r2 r3--td td abc

示例3：

select regexp_extract('15|Range,16|5,31|369728,17|1',"(15\\|)(.*?)(\\,)",2)as r1,
       regexp_extract('16|5,15|30,31|369728,17|1',"(15\\|)(.*?)(\\,)",2)as r2,
       regexp_extract('16|5,31|369728,17|1,15|Range',"(15\\|)(.*?)(\\,)",2)as r3,
       regexp_extract('15|30',"(15\\|)(.*?)(\\,)",2)as r4;--r1 r2 r3 r4--Range 30   

示例4：

select regexp_extract('15|Range,16|5,31|369728,17|1',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1)as r1,
       regexp_extract('16|5,15|30,31|369728,17|1',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1)as r2,
       regexp_extract('16|5,31|369728,17|1,15|Range',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1)as r3,
       regexp_extract('15|30',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1)as r4,
       regexp_extract('15|Range',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1)as r5,
       regexp_extract('16|5,15|Range,31|369728,17|1',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1)as r6,
       regexp_extract('16|5,15|Range,31|369728,17|1',"15\\|(\\w\+)",1)as r7;--r1 r2 r3 r4 r5 r6 r7 r8--Range 30 Range 30 Range Range Range--结论：\\+,\+,{1,}实现的效果相同；

示例5：

select
regexp_extract('x=a3&x=18abc&x=2&y=3&x=4','x=([0-9]+)([a-z]+)',0),-- x=18abc
regexp_extract('x=a3&x=18abc&x=2&y=3&x=4','^x=([a-z]+)([0-9]+)',0),-- x=a3
regexp_extract('https://detail.tmall.com/item.htm?spm=608.7065813.ne.1.Ni3rsN&id=522228774076&tracelog=fromnonactive','id=([0-9]+)',0),-- id=522228774076
regexp_extract('https://detail.tmall.com/item.htm?spm=608.7065813.ne.1.Ni3rsN&id=522228774076&tracelog=fromnonactive','id=([0-9]+)',1),-- 522228774076
regexp_extract('http://a.m.taobao.com/i41915173660.htm','i([0-9]+)',0),-- i41915173660
regexp_extract('http://a.m.taobao.com/i41915173660.htm','i([0-9]+)',1)-- 41915173660;

示例6：

select regexp_extract('name:zhangsan,sex:男,age:20','name:(.*?)(\\,)',1);--zhangsanselect regexp_extract('name:zhangsan,sex:男,age:20','name:([a-zA-Z]\+)',1);--zhangsanselect regexp_extract('name:zhangsan,sex:男,age:20','name:([a-zA-Z]+)',1);--zhangsanselect regexp_extract('name:zhangsan,sex:男,age:20','name:([a-zA-Z]{1,})',1);--zhangsan

示例7：

selectcasewhen regexp_extract(mysql_table,'(\\.)(\\S+)',2)<>''then regexp_extract(mysql_table,'(\\.)(\\S+)',2)else mysql_table
endas mysql_table

示例8：

select 
regexp_extract(trim(query_sql),'FROM(\\s+)[^\\(](.*?)(\\s+WHERE)',2) ta_name

示例9：

selectcasewhen regexp_extract(
query_sql,"(\.=*\\'|in*\\(\\')([0-9a-z]{16})(\\')",2)<>''then1else0endas openid_tag,casewhen regexp_extract(
query_sql,"(\.=*\\'|in*\\(\\')(\\d{15})(\\')",2)<>''then1else0endas imei_tag

示例10：

---提取root.stat:后面的0.9645select 
regexp_extract('root.etl:0.7898,root.stat:0.9654','root\\.stat\\:(\\d\\.\\d+)',1)as flag
-----0.9645

以上是一些练习，正则匹配博大精深，共勉；