详解Hive行号函数:row_number()与窗口函数的搭配应用
在Hive中,row_number()函数与窗口函数配合使用时,能够为结果集中的每一行分配一个唯一且连续的序号。这一功能在数据分析和报表生成场景中非常实用,例如,您可能希望为每个产品按照订单日期进行排名,或者提取每个分组内的前几条记录——row_number()正是实现这种“排座次”需求的核心工具。

来看一个具体的例子。假设我们有一张名为sales_data的表,其中存储了订单ID(id)、产品ID(product_id)、销售额(amount)和订单日期(order_date)。业务需求很明确:按日期为每个产品分配一个序号——也就是说,在同一个产品内部,按照时间戳的先后顺序进行排序。
如何实现呢?首先需要构建一个窗口规范,告诉Hive按照什么顺序排序、按照什么字段进行分区。这里我们按order_date降序排列(越新的订单序号越小),并以product_id作为分区依据(每个产品独立生成序号)。
CREATE TABLE sales_data (id INT,product_id INT,amount DOUBLE,order_date DATE);
SELECT
id,
product_id,
amount,
order_date,
ROW_NUMBER() OVER (
PARTITION BY product_id
ORDER BY order_date DESC
) AS row_num
FROM
sales_data;
在这段代码中,ROW_NUMBER()函数被包裹在OVER子句中,PARTITION BY product_id将数据划分为多个“小包”——每个包内都是同一产品ID的订单记录。接着,ORDER BY order_date DESC指定在每个包内部,按日期降序分配行号。注意,降序排列意味着最近的订单行号为1,依次类推。
最终执行结果集除了原始列之外,还会额外增加一个row_num列,其中存储了按产品分组后的日期排序序号。这样一来,无论是查找每个产品的最新一笔订单,还是基于日期进行滚动窗口计算,都变得非常便捷和高效。
