gpt4 book ai didi

hadoop - 用avro模式编写时如何在拉丁 pig 中创建复杂记录

转载 作者:行者123 更新时间:2023-12-02 21:52:58 27 4
gpt4 key购买 nike

我在拉丁 pig 中有以下关系,我需要将其存储到avro-schema文件中:

    data = load 'data.dat' as (a: long, b: chararray, c: long);
...
STORE data INTO 'file' USING avroStorage();

但是我需要数据的格式为:
Record 1:
{
"a" : {
"long" : 2
},
"complex" : {
"b" : {
"string" : "abc"
},
"c" : {
"long" : 3
}
}
}
...

最佳答案

我尚未测试此代码以查看如何将其转换为avro模式,但尝试从此代码开始

data = load 'data.dat' as (a: long, b: chararray, c: long);    
transformed = foreach data generate a, TOTUPLE(b, c);
STORE transformed INTO 'file' USING avroStorage();

TOTUPLE的文档- http://pig.apache.org/docs/r0.11.1/func.html#totuple

关于hadoop - 用avro模式编写时如何在拉丁 pig 中创建复杂记录,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18382551/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com