spark to es

package com.hihonor.sparksql/**spark save to es*/object SparkSaveToEs {def main(args: Array[String]): Unit = {System.setProperty(“hadoop.home.dir”, “D:\soft\hadoop-2.6.0”)import org.apache.spark.rdd.RDDimport org.apache.spark.sql.{DataFrame, Save
摘要由CSDN通过智能技术生成

package com.hihonor.sparksql

/**

  • spark save to es
  • */
    object SparkSaveToEs {
    def main(args: Array[String]): Unit = {
    System.setProperty(“hadoop.home.dir”, “D:\soft\hadoop-2.6.0”)
    import org.apache.spark.rdd.RDD
    import org.apache.spark.sql.{DataFrame, SaveMode, SparkSession}
    import org.apache.spark.SparkContext
    val spark: SparkSession = SparkSession
    .builder().appName(this.getClass.getName).master(“local[2]”)
    .getOrCreate()
    val options = Map(
    “es.index.auto.create”->“true”,
    “es.nodes.wan.only” -> “true”,
    “es.nodes” -> “10.68.161.122”,
    “es.port” -> “9200”,
    “es.mapping.id” -> “id”
    )
    //从hive表中读取数据
    //val sourceDF = spark.table(“hive_table”)
    val context: SparkContext = spark.sparkContext
    val sourceDF: RDD[Person] = context.parallelize(Array(Person(“a1”, “张三”, “30”), Person(“a2”, “李四”, “31”
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值