java - 高效查询Hbase

Question

我正在使用 Java 作为查询 Hbase 的客户端。

我的 Hbase 表是这样设置的:

ROWKEY     |     HOST     |     EVENT
-----------|--------------|----------
21_1465435 | host.hst.com |  clicked
22_1463456 | hlo.wrld.com |  dragged
    .             .             .
    .             .             .
    .             .             .

我需要做的第一件事是获取与 host.hst.com 关联的所有 ROWKEY 的列表。

我可以在列 host 上创建一个扫描器，并且对于具有 column value = host.hst.com 的每一行值，我将添加相应的 ROWKEY 到列表。看起来很有效率。 O(n) 用于获取所有行。

现在是困难的部分。对于列表中的每个 ROWKEY，我需要获取相应的 EVENT。

如果我使用普通的 GET 命令获取位于 (ROWKEY, EVENT) 的单元格，我相信扫描器是在 EVENT 处创建的这需要 O(n) 时间来找到正确的单元格并返回值。这对于每个单独的 ROWKEY 来说都是非常糟糕的时间复杂度。将两者结合起来得到 O(n^2)。

有没有更有效的方法来解决这个问题？

非常感谢您的提前帮助!

Answer 1

这里的n是什么？？有了 RowKey 在手 - 我猜你指的是 HBase rowkey - 而不是一些手工制作的？ - 这对于 HBase 来说是快速/容易的。将其视为 O(1)。

如果 ROWKEY 是您 创建的实际列.. 那么那里 就是您的问题。请改用 HBase 提供的行键。

那么让我们继续 - 假设您 (a) 已经正确使用了提供的 hbase rowkey - 或者已经修复了您的结构。

在这种情况下，您可以简单地为每个 (rowkey, EVENT) 值创建一个单独的 get，如下所示:

Perform a `get` with the given `rowkey`. 
In your result then filter out EVENT in <yourEventValues for that rowkey>

因此，您最终将获取给定行键的所有 最近(最新时间戳)条目。与'n'相比，这可能很小？？然后过滤是对一列的快速操作。

您还可以通过执行批处理 multiget 来加快速度。节省来自减少到 HBase 主服务器的往返次数以及主服务器/区域服务器的解析/计划生成。

更新 感谢OP:我更清楚地了解了情况。我建议简单地使用“host |”作为行键。然后您可以执行范围扫描并从单个获取/扫描中获取条目。

另一个更新

HBase 支持基于行键前缀的范围扫描。所以你有 foobarRow1、foobarRow2、.. 等，然后你可以对 (foobarRow、foobarRowz) 进行范围扫描，它会找到所有行键以 foobarRow 开头的行 - 以及任何字母数字字符以下。

看看这个HBase (Easy): How to Perform Range Prefix Scan in hbase shell

下面是一些说明性代码:

SingleColumnValueFilter filter = new SingleColumnValueFilter(
   Bytes.toBytes("columnfamily"),
   Bytes.toBytes("storenumber"),
   CompareFilter.CompareOp.NOT_EQUAL,
   Bytes.toBytes(15)
);
filter.setFilterIfMissing(true);
Scan scan = new Scan(
   Bytes.toBytes("20110103-1"),
   Bytes.toBytes("20110105-1")
);
scan.setFilter(filter);

请注意，20110103-1 和 20110105-1 提供了一系列要搜索的行键。