hdfs - HBase - 位置始终为零

Question

我们有一个由 6 个数据节点组成的集群(Apache Phoenix 作为协处理器)与 HBase 区域服务器位于同一位置。我们已将所有选项设置为启用:

  <property>
    <name>dfs.client.read.shortcircuit</name>
    <value>true</value>
  </property>
  <property>
    <name>dfs.client.read.shortcircuit.buffer.size</name>
    <value>131072</value>
  </property>
  <property>
    <name>dfs.domain.socket.path</name>
    <value>/var/run/hadoop-hdfs/dn._PORT</value>
  </property>

*我尝试删除套接字路径，但 RS 因错误而失败，因此它尝试使用短路。

同时在 hdfs datanode 日志中我可以看到:

2018-07-31 09:20:30,539 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: 127.0.0.1, dest: 127.0.0.1, op: REQUEST_SHORT_CIRCUIT_FDS, blockid: 1077953652, srvID: d67ca494-8813-4117-9009-9c34054eb4c3, success: true
2018-07-31 09:20:30,560 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: 127.0.0.1, dest: 127.0.0.1, op: REQUEST_SHORT_CIRCUIT_FDS, blockid: 1077953658, srvID: d67ca494-8813-4117-9009-9c34054eb4c3, success: true
2018-07-31 09:20:30,567 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: 127.0.0.1, dest: 127.0.0.1, op: REQUEST_SHORT_CIRCUIT_FDS, blockid: 1077954458, srvID: d67ca494-8813-4117-9009-9c34054eb4c3, success: true
2018-07-31 09:20:30,930 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: 127.0.0.1, dest: 127.0.0.1, op: RELEASE_SHORT_CIRCUIT_FDS, shmId: 72430b904199e87f54f9b59eca2d3e0d, slotIdx: 13, srvID: d67ca494-8813-4117-9009-9c34054eb4c3, success: true
2018-07-31 09:20:30,934 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: 127.0.0.1, dest: 127.0.0.1, op: RELEASE_SHORT_CIRCUIT_FDS, shmId: 72430b904199e87f54f9b59eca2d3e0d, slotIdx: 15, srvID: d67ca494-8813-4117-9009-9c34054eb4c3, success: true
2018-07-31 09:20:30,935 INFO org.apache.hadoop.hdfs.server.datanode.DataNode.clienttrace: src: 127.0.0.1, dest: 127.0.0.1, op: RELEASE_SHORT_CIRCUIT_FDS, shmId: 72430b904199e87f54f9b59eca2d3e0d, slotIdx: 16, srvID: d67ca494-8813-4117-9009-9c34054eb4c3, success: true

但是 HBase 报告所有区域服务器的局部性为零，即使在 major_compaction 之后也是如此: Regions/data size/locality

有人可以帮忙吗？

Answer 1

您可以通过浏览 Namenode UI 的浏览文件系统实用程序来检查 block 分配。转到 hbase 文件位置，在区域名称下，您将找到 block 位置。如果 block 在同一个区域服务器上复制，但您的位置仍然为 0，则可能是因为区域服务器节点和数据节点分别使用不同的主机名注册到 HMaster 和 Namenode。您可以在 Region Servers 下的 Hbase master UI 上检查区域服务器名称，类似地在 namenode UI 中检查数据节点名称。

如果两个地方的主机名不同，那可能是位置 0 的原因。启动时 HRegionServer 确实会从 master 反转 DNS 查找，将 ip 添加到主服务器和区域服务器的/etc/hosts 中的主机映射应该可以解决这个问题。 . 注意:在/etc/hosts 中添加条目后，您必须重新启动区域服务器