python访问Hive配置

hive有三种启动方式:

  1.  hive  命令行模式,直接输入/hive/bin/hive的执行程序,或者输入 hive –service cli  用于linux平台命令行查询,查询语句基本跟mysql查询语句类似
  2. hive  web界面的启动方式,hive –service hwi  用于通过浏览器来访问hive。可以分离查询的执行,同时执行多个查询;不用本地安装hive

  3. hive  远程服务 (端口号10000) 启动方式,hive以thrift服务的服务器形式运行,允许不同的语言编写客户端进行访问,通过thrift,jdbc,odbc连接器和hive服务器与hive通信,这种方式很适合java、python编程人员通过jdbc接口去访问hive。

这里实现第三种方式,首先要安装thrift

 

Thrift是一个跨语言服务部署框架,最初由Facebook于2007年开发,后于2008年进入Apache孵化器(Apache Incubator)。类似于SOAP,COM 和CORBA,Thrift通过定义一个中间定义语言和Thrift代码生成工具,生成指定语言的代码。目前,Thrift
支持C++,Java, Python, PHP, Ruby, Erlang, Perl, Haskell, C#, Cocoa, Smalltalk和OCaml的代码生成。
在这里我们用的是thrift的另一个应用,不是生成指定语言的代码,而是通过 Thrift Gateway,利用Thrift序列化技术(支持C++,PHP,Python等多种语言)适合其他异构系统调用hive,在我们这用python客户端通过thrift 调用hive(将hive相关的python语句放与hive服务器)

thrift主页:http://thrift.apache.org/,上面有详细的安装说明。

  1. 到thrift主页下载最新版本thrift.http://thrift.apache.org/download/   thrift-0.8.0.tar.gz 
    直接解压
    tar zxvf thrift-0.8.0.tar.gz 
  2. 出现错误:This does not look like a tar archive
    这是个BUG 
     解决办法: 
                   gzip -d xxxx.tar.gz (对于.tar.gz文件的处理方式)
                   tar -xf xxxx.tar    (对于.tar文件处理方式)
  3.  
    系统必备包和工具安装,按照  http://thrift.apache.org/docs/install/ubuntu/ 上所说,安装必备工具和包
     
    $:sudo apt-get install libboost-dev libboost-test-dev libboost-program-options-dev libevent-dev automake libtool flex bison pkg-config g++ libssl-dev 
    python必备包安装:
    $:python-dev python-twisted
  4. 安装thrift http://thrift.apache.org/docs/BuildingFromSource/
    直接运行
    $:./configure
    不用运行
    ./bootstrap.sh 
    $:make & make install

thrift安装完毕。

 thrift的lib包加入python的lib下

 

运行
$: python  
>>>from hive_service import
 >>>ThritHiveImportError: cannot import name ThritHive
查看之后,才发现在执行了第(1)步后,python2.7/site-packages中并没有相应模块,这样当然是不可能通过编译的,所以到刚才解压后的根目录,将build/lib中的所有模块都拷贝到python2.7/site-packages中,如下:有两种方式:

  1. $:cd  .../thrift-0.8.0/lib/py/build/lib.linux-x86_64-2.7
    cp -r thrift/   /usr/lib/python2.7/site-packages/
  2. python插件方式

 

eclipse下python写hive程序设置

在菜单项windonw->preferences下

 

 

添加thrift for python 和 thrift for hive

oK



  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值