0


Hive学习(13)lag和lead函数取偏移量

hive里面lag函数

在数据处理和分析中,窗口函数是一种重要的技术,用于在数据集中执行聚合和分析操作。Hive作为一种大数据处理框架,也提供了窗口函数的支持。在Hive中,Lag函数是一种常用的窗口函数,可以用于计算前一行或前N行的值。

窗口函数简介

窗口函数是一种用于根据特定条件对数据进行分组和排序的函数,它可以在查询中使用。窗口函数配合分析函数一起使用,能够对数据进行更加灵活和高效的处理。

Hive中的窗口函数可以用于以下几种情况:

  1. 计算移动平均值或累积总和
  2. 计算每一行与前一行的差值
  3. 获取某一行相对于整个数据集的排序位置
  4. 对数据进行分组后,获取每个分组的排名

语法:

LAG(input[,offset[,default]])OVER([PARTITIONBY partition_expression,...]ORDERBY sort_expression [,...])

参数说明:

input:要获取的值所在的列或者表达式
offset:要获取的行之前的偏移量,默认为1
default:当没有前一行时,返回的默认值

场景1:
原数据如下,目标是客户取上次购买时间
cust_nopurc_date3000312022-01-013000312022-01-023000312022-01-033000312022-01-043000312022-01-053000312022-01-06
代码如下:
lag(字段,向上取几行,取不到给默认值),lag函数是可以直接取指定行数,取不到默认为null;
可设置默认值,语法中【default】位置赋值默认值;
lead 同理,向下取行;
(lag设置默认值 ‘1970-01-01’ ,lead未设置;看下效果)

select cust_no,purc_date,
    lag(purc_date,1,'1970-01-01')over(partitionby cust_no orderby purc_date)as time1,-- 上次购买时间(设置默认值)
    lead(purc_date,1)over(partitionby cust_no orderby purc_date)as time2 -- 下次购买时间from table_name a;

结果:
lag结果的首条记录的上次购买时间(已经是首条记录故没有上次购买时间),返回设置的默认值 ‘1970-01-01’;
lead结果的末条购买时间的下次购买时间为null
客户编号购买时间上次购买时间下次购买时间3000312022-01-011970-01-012022-01-023000312022-01-022022-01-012022-01-033000312022-01-032022-01-022022-01-043000312022-01-042022-01-032022-01-053000312022-01-052022-01-042022-01-063000312022-01-062022-01-05NULL
补充:

--如有此业务场景,可计算本次距离上次间隔天数
datediff(purc_date,lag(purc_date,1,'1970-01-01') over (partition by cust_no order by purc_date))

场景2
简单看一下场景2,有问题可评论或私信讨论。
现在,我们希望计算每个产品的月度增长率,即当前月份的销售额与前一个月份的销售额之比。可以使用Lag函数来实现这个目标:

select 
    mth            --月份,product    --产品代码,revenue    --收入金额,(revenue / lag(revenue)over(partitionby product orderby mth))as growth_rate    --月度增长率from
    table_name
orderby 
    product
    ,mth

结果:
产品A因未设置默认值,所以返回NULL;产品B同理
在这里插入图片描述

码字不易,喜欢请点赞,谢谢!!!😊

参考:
https://blog.csdn.net/szdxltt/article/details/128615440
https://blog.51cto.com/u_16213418/7061149

标签: hive hadoop sql

本文转载自: https://blog.csdn.net/Dreamy_zsy/article/details/135342668
版权归原作者 一个天蝎座 白勺 程序猿 所有, 如有侵权,请联系我们删除。

“Hive学习(13)lag和lead函数取偏移量”的评论:

还没有评论