gpt4 book ai didi

hbase - HBase 批处理 put(List) 比 put(Put) 快吗? Put 对象的容量是多少?

转载 作者:行者123 更新时间:2023-12-04 14:43:50 24 4
gpt4 key购买 nike

我正在处理批处理作业,以通过 HTableInterface 将一批 Put 对象处理到 HBase 中。有两个 API 方法,HTableInterface.put(List) 和 HTableInterface.put(Put)。

我想知道,对于相同数量的 Put 对象,批量放置是否比将它们一个一个放置更快?

另一个问题是,我放置了一个非常大的 Put 对象,这导致作业失败。 Put 对象的大小似乎有限制。它可以有多大?

最佳答案

put(List<Put> puts)put(Put aPut)引擎盖下是一样的。他们都打电话doPut(List<Put> puts) .

重要的是@ozhang 提到的缓冲区大小。例如默认值为 2MB。

<property>   
<name>hbase.client.write.buffer</name>
<value>2097152</value>
</property>

每次写缓冲区填满都会有 1 个 RPC 和一个 flushCommits()被触发。因此,如果您的应用程序由于对象相对较大而经常刷新,那么尝试增加写入缓冲区大小将解决问题。

关于hbase - HBase 批处理 put(List<Put>) 比 put(Put) 快吗? Put 对象的容量是多少?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/28754077/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com