gpt4 book ai didi

hadoop - 将Sqoop增量导入作为逐 block 方式使用

转载 作者:行者123 更新时间:2023-12-02 20:10:31 25 4
gpt4 key购买 nike

是否真的有可能通过sqoop增量导入来导入逐块数据?

Say I have a table with rowid 1,2,3..... N (here N is 100) and now I want to import it as chunk. Like
1st import: 1,2,3.... 20
2nd import: 21,22,23.....40
last import: 81,82,83....100

我已经阅读了有关增量导入的sqoop作业的信息,也了解了--last-value参数,但不知道如何传递块大小。对于上面的示例,此处的块大小为20。

最佳答案

最后,我编写了一个脚本,该脚本将在每次成功运行sqoop后使用新的where子句修改参数文件。我正在通过Oozie协调员来运行。我想使用--boundary-query但它不适用于块。这就是为什么我必须这样做。可在以下位置找到此解决方法的详细信息:

http://tmusabbir.blogspot.com/2013/05/chunk-data-import-incremental-import-in.html

关于hadoop - 将Sqoop增量导入作为逐 block 方式使用,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/16444935/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com