Python连接Hive(基于impyla)

最新推荐文章于 2024-08-16 14:00:00 发布

泽米

最新推荐文章于 2024-08-16 14:00:00 发布

阅读量1.6w

点赞数 3

分类专栏： hive 文章标签： impyla hive

本文链接：https://blog.csdn.net/a6822342/article/details/80844072

版权

本文介绍了在Python中使用impyla库连接Hive时遇到的问题及解决方案，包括ThriftPy的模块路径问题、TSocket属性错误以及SASL认证问题。通过修改thrift-sasl版本、配置Hive服务器认证方式为NOSASL，最终成功实现Python与Hive的连接。

摘要由CSDN通过智能技术生成

如何安装impyla请看我这篇博文：

https://blog.csdn.net/a6822342/article/details/80841056

以下是我的一些包的版本

thirftpy 0.3.9

thirft-sasl 0.2.0

thirft 0.11.0

sasl 0.2.1

pure-sasl 0.3.0

impyla 0.14.1

到这里，我默认大家是装好impaly了。那么我们在pycharm中运行以下程序

# coding=gbk
from impala.dbapi import connect
#需要注意的是这里的auth_mechanism必须有，默认是NOSASL，但database不必须，user也不必须
conn = connect(host='服务器ip', port=10000, database='default',auth_mechanism='NOSASL',user='在hdfs-site中设定的用户名（如果不懂，请看https://blog.csdn.net/a6822342/article/details/80697919）')
cur = conn.cursor()

cur.execute('SHOW DATABASES')
print(cur.fetchall())

cur.execute('SHOW Tables')
print(cur.fetchall())

一开始我运行这段代码的时候报错

ThriftPy does not support generating module with path in protocol '