spark远程操作hive的一些列操作增删查

本文介绍了如何将Hive的计算引擎从MR切换到Spark,以提高查询效率。首先,需要将hive-site.xml配置文件复制到Spark目录,并在Windows上创建resources。接着,将MySQL的JAR包添加到Spark的JAR目录。程序中,通过参数接收SQL语句,通常将SQL写入文件以复用。
摘要由CSDN通过智能技术生成

因为老早之前配置hive的时候没有把hive的底层计算引擎改为spark,现在对hive的表进行查询的时候很慢,就想把MR换掉,于是这篇文章就诞生了,
首先做准备工作,你需要把hive的hive-site.xml拷贝到你的集群的spark目录下还要在你的win上创建一个resources
在这里插入图片描述
把这个文件拷贝之后
接着就是你吧mysql的jar拷贝到你工程的存放jar的目录下,然后拷贝到spark/jar下面如果没有点击下载mysql的jar包

然后就是咱们的程序如下

package csvToHive


import org.apache.spark.SparkConf
import org.apache.spark.sql. SparkSession

import scala.io.Source


object createHiveTable {


  def main(args: Array[String]): Unit = {


    //设置配置文件等
    val conf = new SparkConf()
      .setAppName(s"${this.getClass.getSimpleName}")
      .setMaster("spark://master:7077")    //如果是打jar包的时候这句话需要注释掉的

    //设置hive连接,既能连接hive也能读取文件
    val hive = SparkSession
      .builder()
      .enableHiveSuppo
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值