Spark SQL 配置

最新推荐文章于 2024-08-16 20:58:31 发布

hjh00

最新推荐文章于 2024-08-16 20:58:31 发布

阅读量2.2k

点赞数

分类专栏： hadoop 文章标签： spark sql

本文链接：https://blog.csdn.net/hjh00/article/details/71483677

版权

本文介绍了如何配置Spark SQL以连接到Hive，主要步骤包括将hive-site.xml文件复制到spark/conf目录，通过指定master和executor内存启动spark-sql及thriftserver，并使用beeline连接thriftserver进行交互。

摘要由CSDN通过智能技术生成

配置好hive后，spark sql 配置就很简单了，实际上只要配置一个hive-site.xml文件，拷贝到spark/conf目录下。这个文件是给spark使用的，hive的配置文件用自己的配置文件。

1. 配置hive-site.xml

<configuration>
  <property>
    <name>hive.metastore.uris</name>
    <value>thrift://localhost:9083</value>
    <description>Thrift URI for the remote metastore. Used by metastore client to
        connect to remote metastore.</description>
  </property>
  <property>
    <name>hive.server2.thrift.min.worker.threads</name>
    <value>5</value>
    <description>Minimum number of Thrift worker threads</description>
  </property>
  <property>
    <name>hive.server2.thrift.max.worker.threads</name>
    <value>500</value>
    <description>Maximum number of Thrift worker threads</description>
  </property>
  <property>
    <name&g