hadoop - Hive - 在多行上拆分分隔列，根据位置选择

Question

我正在寻找一种基于逗号分隔数据拆分列的方法。下面是我的数据集

id  col1  col2
1   5,6   7,8

我要得到结果

id col1 col2
1  5    7
1  6    8

索引的位置应该匹配，因为我需要相应地获取结果。

我尝试了以下查询，但它返回了笛卡尔积。

查询:

SELECT col3, col4
FROM test ext 
lateral VIEW explode(split(col1,'\002')) col1 AS col3
lateral VIEW explode(split(col2,'\002')) col2 AS col4

结果:

id col1 col2
1  5    7
1  5    8
1  6    7
1  6    8

Answer 1

您可以使用 posexplode() 为拆分数组创建位置索引列。然后，只选择位置索引相等的那些行。

SELECT id, col3, col4
  FROM test
  lateral VIEW posexplode(split(col1,'\002')) col1 AS pos3, col3
  lateral VIEW posexplode(split(col2,'\002')) col2 AS pos4, col4
  WHERE pos3 = pos4;

输出:

id col3 col4
1  5    7
1  6    8

引用:Hive language manual - posexplode()