gpt4 book ai didi

shell - HBase、hadoop、hive通过hive访问Hbase的正确设置方法是什么?

转载 作者:可可西里 更新时间:2023-11-01 14:57:57 27 4
gpt4 key购买 nike

我在配置和安装 hbase/hadoop/hive 时遇到问题。到目前为止,我在装有 ubuntu 14.04.3 LTS 的虚拟机上做了什么:

  • 像这样安装版本为 jdk1.8.0_60 的 jdk:

https://askubuntu.com/questions/56104/how%E2%80%8B-can-i-install-sun-o%E2%80%8Bracles-proprietary-j%E2%80%8Bava-jdk-6-7-8-or-jre%E2%80%8B

  • 获取 hadoop-2.6.1 并解压 .tar 文件。之后我做了一些配置:

核心站点.xml:

 <configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>

hadoop-env.sh

 export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_60

hdfs-site.xml

  <configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:///home/hfu/hadoop/hdfs/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:///home/hfu/hadoop/hdfs/datanode</value>
</property>
</configuration>
  • 得到 hbase-0.98.0-hadoop2 并解压它并按以下方式配置它:

hbase-env.sh

导出JAVA_HOME=/usr/lib/jvm/jdk1.8.0_60/

hbase-site.xml

  <configuration>
<property>
<name>hbase.cluster.distributed</name>
<value>true</value>
</property>
<property>
<name>hbase.rootdir</name>
<value>file:///home/hfu/hbase-0.98.0-hadoop2/data</value>
</property>
<property>
<name>hbase.zookeeper.property.dataDir</name>
<value>/home/hfu/hbase-0.98.0-hadoop2/zookeeper</value>
</property>
<property>
<name>zookeeper.znode.parent</name>
<value>/hbase-unsecure</value>
</property>
<property>
<name>hbase.zookeeper.quorum</name>
<value>ubuntu</value>
</property>
<property>
<name>hbase.master</name>
<value>ubuntu:16000</value>
</property>
<property>
<name>hbase.zookeeper.property.clientPort</name>
<value>2181</value>
</property>
</configuration>
  • 得到 apache-hive-1.2.1-bin 并解压它:

hive enf.sh

export HADOOP_HOME=/home/hfu/hadoop-2.6.1

启动hadoop:

sbin/start-all.sh

enter image description here

启动hbase:

bin/start-hbase.sh

enter image description here

在 HBASE shell 中可以创建表。我也可以将一些条目放入其中。我也在启动配置单元之前在控制台中写了这个

export HADOOP_USER_CLASSPATH_FIRST=true

防止异常

在 Hive 中,可以创建一个表并从中读取内容。但是一旦我想按照一些教程中的描述将两者连接在一起

http://chase-seibert.github.io/blog/2013/05/10/hive-hbase-quickstart.html

http://www.n10k.com/blog/hbase-via-hive-pt1/

我得到一个异常。我还在另一篇文章中描述了我的问题,但这篇文章更详细: How transfer a Table from HBase to Hive? enter image description here

最佳答案

我使用了错误版本的 HBase 和 Hadoop。这是一个概述,hadoop 和 HBase 的哪些版本是兼容的。 http://hbase.apache.org/book.html#hadoop

关于shell - HBase、hadoop、hive通过hive访问Hbase的正确设置方法是什么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/33544169/

27 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com