spark-shell客户端连接hive

1.拷贝hive-site.xml到spark/conf下,拷贝mysql-connector-java-xxx-bin.jar到hive/lib下

2.开启hive元数据服务:hive --service metastore

3.开启hadoop服务:sh $HADOOP_HOME/sbin/start-all.sh

4.开启spark服务:sh $SPARK_HOME/sbin/start-all.sh

5.进入spark-shell:./spark-shell

6.scala操作hive(spark-sql)

scala>val conf=new SparkConf().setAppName("SparkHive").setMaster("local")   //可忽略,已经自动创建了
            
scala>val sc=new SparkContext(conf)  //可忽略,已经自动创建了
            
scala>val sqlContext = new org.apache.spark.sql.hive.HiveContext(sc)
        
scala>sqlContext.sql("create table transaction(orderNo int, date string,orderType int,price int,id int) row format delimited fields terminated by ' ' ") 

//这里需要注意数据的间隔符

scala>sqlContext.sql("LOAD DATA INPATH '/user/spark/src.txt' INTO TABLE src ");

scala>sqlContext.sql(" SELECT * FROM src").collect().foreach(println)

scala>sc.stop()
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值