个人中心
gpt4 book ai didi

python3.7通过thrift操作hbase的示例代码

转载 作者：qq735679552 更新时间：2022-09-29 22:32:09 27 4
gpt4 key购买 nike

CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.

这篇CFSDN的博客文章python3.7通过thrift操作hbase的示例代码由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.

HBase是一个分布式的、面向列的开源数据库，其是Apache的Hadoop项目的子项目。HBase不同于一般的关系数据库，它是一个适合于非结构化数据存储的数据库。另一个不同的是HBase基于列的而不是基于行的模式。其数据结构类似与Redis的key-value模式.

python3.7通过thrift操作hbase的示例代码

python3.7 通过 thrift ， rpc 接口操作 hbase ，指定依赖库为： thrift 和 hbase-thrift 。 然而我们 在 python3.7 环境中发现 hbase-thrift-0.20.4 无法被支持， hbase-thrift 官方仅推荐用于 python2.x 。 于是有了下边的 patch 版本 和 patch 版本写法的客户端.

patch 版本下载，适用于 python 3.x ： http://dl.cpp.la/Archive/hbase-thrift-0.20.4.patch.tgz 。

卸载 hbase-thrift-0.20.4 版本 。

?
1
2
3
4
# pip3 list | grep hbase-thrift
>> hbase - thrift    0.20 . 4
# pip3 uninstall hbase-thrift -y
>> Successfully uninstalled hbase - thrift - 0.20 . 4

安装 hbase-thrift-0.20.4.patch 版本(支持 python3.x ) 。

?
1
2
3
4
wget http: / / dl.cpp.la / Archive / hbase - thrift - 0.20 . 4.patch .tgz
tar - zxvf hbase - thrift - 0.20 . 4.patch .tgz
cd hbase - thrift - 0.20 . 4.patch
python3 setup.py install

检测安装是否成功 。

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
# pip3 list | grep hbase-thrift
>> hbase - thrift    0.20 . 4.patch
Python3. 7 操作 hbase - thrift - patch 客户端代码示例
from thrift.transport import TSocket
from thrift.transport.TTransport import TBufferedTransport
from thrift.protocol import TBinaryProtocol
 
from hbase import Hbase
from hbase.ttypes import ColumnDescriptor
from hbase.ttypes import Mutation
 
class HBaseClient( object ):
 
   def __init__( self ):
     self .__ip = HBASE_URI.get( "HOST" )
     self .__port = HBASE_URI.get( "PORT" )
     self .__transport = self .createSocket
     protocol = TBinaryProtocol.TBinaryProtocol( self .__transport)
     self .__client = Hbase.Client(protocol)
     self .__transport. open ()
 
   @property
   def createSocket( self ):
     CS = TSocket.TSocket( self .__ip, self .__port)
     CS.setTimeout( 60 * 1000 )
     return TBufferedTransport(CS)
 
   def __del__( self ):
     self .__transport.close()
 
   def get_tables( self ):
     """
     get all table name
     :return: table name list
     """
     return self .__client.getTableNames()
 
   def create_table( self , table, * columns):
     """
     create table
     :param table: table name
     :param columns: columns name , variable parameter
     """
     func = lambda col: ColumnDescriptor(col)
     column_families = list ( map (func, columns))
     self .__client.createTable(table, column_families)
 
   def delete_table( self , table):
     '''
     delete table in hbase
     :param table: tableName
     :return:
     '''
     if self .__client.isTableEnabled(table):
       self .__client.disableTable(table)
     self .__client.deleteTable(table)
 
   def put( self , table, row, columns):
     """
     add record
     :param table: table name
     :param row:
     :param columns:
     :return:
     """
     self .__client.mutateRow(table, row, [Mutation(column = k, value = v) for k, v in columns.items()])
 
   def delete( self , table, row, column):
     """
     delete record
     :param table: table name
     :param row:
     """
     self .__client.deleteAll(table, row, column)
 
   def scan( self , table, start_row = "", columns = None ):
     """
     get record
     :param table: table name
     :param start_row:
     :param columns:
     """
     scanner = self .__client.scannerOpen(table, start_row, columns)
     while True :
       r = self .__client.scannerGet(scanner)
       if not r:
         break
       yield dict ([(k, v.value) for k, v in r[ 0 ].columns.items()])
if __name__ = = "__main__" :
   client = HBaseClient()
   for v in client.scan( 'studentd' , columns = { "cpp.la" : "https://cpp.la" }):
     print (v)
by:cpp.la

ps：python3.7连接hbase 。

pip安装thrift 和hbase 包 。

?
1
2
3
4
5
6
7
8
9
10
11
12
from thrift.transport import TSocket,TTransport
from thrift.protocol import TBinaryProtocol,TCompactProtocol
from hbase import Hbase
socket = TSocket.TSocket( '10.1.21.35' ,port = 9090 )
socket.setTimeout( 5000 )
transport = TTransport.TFramedTransport(socket)
protocol = TBinaryProtocol.TBinaryProtocol(transport) / / 不使用这个协议
protocol = TCompactProtocol.TCompactProtocol(transport)
client = Hbase.Client(protocol)
socket. open ()
table = client.getTableNames()
print (table)

总结 。

以上所述是小编给大家介绍的python3.7通过thrift操作hbase的示例代码，希望对大家有所帮助，如果大家有任何疑问请给我留言，小编会及时回复大家的。在此也非常感谢大家对我网站的支持！ 如果你觉得本文对你有帮助，欢迎转载，烦请注明出处，谢谢！ 。

原文链接：https://cpp.la/369.html 。

最后此篇关于python3.7通过thrift操作hbase的示例代码的文章就讲到这里了,如果你想了解更多关于python3.7通过thrift操作hbase的示例代码的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。

27 4 0
文章推荐： PyTorch实现ResNet50、ResNet101和ResNet152示例
文章推荐： 解决pytorch DataLoader num_workers出现的问题
文章推荐： Pytorch在dataloader类中设置shuffle的随机数种子方式
文章推荐： pytorch实现mnist数据集的图像可视化及保存
qq735679552
个人简介

我是一名优秀的程序员,十分优秀！

滴滴打车优惠券免费领取
滴滴打车优惠券
全站热门文章
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com