Hive学习(13)lag和lead函数取偏移量

hive里面lag函数

在数据处理和分析中,窗口函数是一种重要的技术,用于在数据集中执行聚合和分析操作。Hive作为一种大数据处理框架,也提供了窗口函数的支持。在Hive中,Lag函数是一种常用的窗口函数,可以用于计算前一行或前N行的值。

窗口函数简介

窗口函数是一种用于根据特定条件对数据进行分组和排序的函数,它可以在查询中使用。窗口函数配合分析函数一起使用,能够对数据进行更加灵活和高效的处理。

Hive中的窗口函数可以用于以下几种情况:

  1. 计算移动平均值或累积总和
  2. 计算每一行与前一行的差值
  3. 获取某一行相对于整个数据集的排序位置
  4. 对数据进行分组后,获取每个分组的排名

语法:

LAG(input[, offset[, default]]) OVER([PARTITION BY partition_expression, ...] ORDER BY sort_expression [, ...])

参数说明:

input:要获取的值所在的列或者表达式
offset:要获取的行之前的偏移量,默认为1
default:当没有前一行时,返回的默认值

场景1:
原数据如下,目标是客户取上次购买时间

cust_no purc_date
300031 2022-01-01
300031 2022-01-02
300031 2022-01-03
300031 2022-01-04
300031 2022-01-05
300031 2022-01-06

代码如下:
lag(字段,向上取几行,取不到给默认值),lag函数是可以直接取指定行数,取不到默认为null;
可设置默认值,语法中【default】位置赋值默认值;
lead 同理,向下取行;
(lag设置默认值 ‘1970-01-01’ ,lead未设置;看下效果)

select cust_no,purc_date,
    lag(purc_date,1,'1970-01-01') over (partition by cust_no order by purc_date) as time1,-- 上次购买时间(设置默认值)
    lead(purc_date,1) over (partition by cust_no order by purc_date) as time2 -- 下次购买时间
from table_name a;

结果:
lag结果的首条记录的上次购买时间(已经是首条记录故没有上次购买时间),返回设置的默认值 ‘1970-01-01’;
lead结果的末条购买时间的下次购买时间为null

客户编号 购买时间 上次购买时间 下次购买时间
300031 2022-01-01 1970-01-01 2022-01-02
300031 2022-01-02 2022-01-01 2022-01-03
300031 2022-01-03 2022-01-02 2022-01-04
300031 2022-01-04 2022-01-03 2022-01-05
300031 2022-01-05 2022-01-04 2022-01-06
300031 2022-01-06 2022-01-05 NULL

补充:

--如有此业务场景,可计算本次距离上次间隔天数
datediff(purc_date,lag(purc_date,1,'1970-01-01') over (partition by cust_no order by purc_date))

场景2
简单看一下场景2,有问题可评论或私信讨论。
现在,我们希望计算每个产品的月度增长率,即当前月份的销售额与前一个月份的销售额之比。可以使用Lag函数来实现这个目标:

select 
	mth			--月份
	,product	--产品代码
	,revenue	--收入金额
	,(revenue / lag(revenue) over(partition by product order by mth)) as growth_rate	--月度增长率
from
	table_name
order by 
	product
	,mth

结果:
产品A因未设置默认值,所以返回NULL;产品B同理
Hive学习(13)lag和lead函数取偏移量_第1张图片

参考:
https://blog.csdn.net/szdxltt/article/details/128615440
https://blog.51cto.com/u_16213418/7061149

你可能感兴趣的:(大数据,hive,hadoop,sql,大数据,数据仓库)