hiveServer2、metastore以及client解读

hive服务架构图:

å¨è¿éæå¥å¾çæè¿°
Metastore通过Thrift API 对外提供访问,生态里的工具如:pig, MR, impala, presto, SparkSQL, NIFI 都可以通过Thrift接口访问Metastore, Metastore接口格式为:thrift://xxxxxxx:9083

HiveServer2对外提供JDBC/ODBC接口,供前端工具(DBeavor, SQL Squirrel, SQL Developer, DBVis)使用, 编程语言如:Python, Scala, Java也可以通过JDBC连接访问HiveServer2, HiveServer2的JDBC接口格式为:jdbc:hive2://xxxxxx:10000

HiveClient 仅仅只是堆外提供的一个入口,作用只是能够提供客户在机器上执行sql,但是对sql的解析,获取元数据都是交给Metastore服务。

安装配置:
1)metastore server并不需要额外配置,只要在hive-site里面配置好mysql地址,user以及password,“hive --service metastore” 启动metastore即可,可以启动多个。
2)一般我们的hive都是做服务端的情况较多,不用作为客户端client,多数时候不用部署hive client。
如果仅作为客户端,只需要在hive-site.xml配置hive.metastore.uris=thrift://<host_name>:,服务端连元数据库,和客户端没半毛钱直接关系,不需要配置其他的。

    <property>
        <name>hive.metastore.uris</name>
        <value>thrift://${hive_host}:9083</value>
    </property>

但如果作为客户端,而且还要启动hiveServer2服务(该服务也需要访问元数据),那database须配置的。

    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://${MS}</value>
    </property>
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.jdbc.Driver</value>
    </property>
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>root</value>
    </property>
    <property>
        <name>hive.metastore.uris</name>
        <value>thrift://${hive_host}:9083</value>
    </property>

还有一种情况,既是服务端又是客户端。

    <property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://${MS}</value>
    </property>
    <property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.jdbc.Driver</value>
    </property>
    <property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
    </property>
    <property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>root</value>
    </property>
    (不配置默认hdfs路径user/hive/warehouse)
    <property>
        <name>hive.metastore.warehouse.dir</name>
        <value>hdfs路径</value>
    </property>
    (0.1版本后不需要配置了)
    <property>
        <name>hive.metastore.local</name>
        <value>false</value>
    </property>
   
部署hive的时候通常hive metastore和hiveserver都可以部署多个,且通常部署在一个节点上,但是需要分别启动。部署metastore的节点可以不配置hive.metastore.uris,只作为客户端的节点必须配置。如果在metastore服务器上没配置hive.metastore.uris,在当前机器上使用时,会使用hive内部自带的metastore服务,即使当前机器metastore和hive server2都停止了也可以使用,如果配置了hive.metastore.uris,就是用启动起来的metastore服务,一旦metastore服务停止,就不能使用了。
如果配置两个或者多个MetaStoreServer,客户端的hive.metastore.uris配置:

<property>
 <name>hive.metastore.uris</name>
 <value>thrift://dw1:9083,thrift://dw2:9083</value>
</property>

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值