spark实时读取kafka数据扩展包(支持多topic)

代码如下

package calc.bi.rc

import scala.collection.mutable.ArrayBuffer
import joptsimple.OptionParser
import kafka.utils.CommandLineUtils
import kafka.utils.ToolsUtils
import kafka.client.ClientUtils
import kafka.common.TopicAndPartition
import kafka.api.PartitionOffsetRequestInfo
import kafka.api.OffsetRequest
import kafka.consumer.SimpleConsumer
import scala.collection.mutable.Map

  //这是对kafka自带工具包的扩展
object GetOffsetShellWrap {

  //在主函数添加一个参数map
  def main(args: Array[String],map: Map[String, String]): Unit = {
    //对参数的解析
    val parser = new OptionParser
    val brokerListOpt = parser.accepts("broker-list", "REQUIRED: The list of hostname and port of the server to connect to.")
      .withRequiredArg
      .describedAs("hostname:port,...,hostname:port")
      .ofType(classOf[String])
    val topicOpt = parser.accepts("topic", "REQUIRED: The topic to get offset from.")
      .withRequiredArg
      .describe
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值