Druid 加载 Kafka 数据时通过控制台来提交一个 supervisor

最新推荐文章于 2022-01-04 16:52:00 发布

HoneyMoose

最新推荐文章于 2022-01-04 16:52:00 发布

阅读量268

点赞数

分类专栏： iSharkFly

本文链接：https://blog.csdn.net/huyuchengus/article/details/119469234

版权

iSharkFly 专栏收录该内容

497 篇文章 4 订阅

订阅专栏

在控制台中，单击 Submit supervisor 来打开一个 supervisor 对话框。

请将下面的内容配置参数拷贝张贴到打开的对话框中，然后单击 Submit 提交。

{
  "type": "kafka",
  "spec" : {
    "dataSchema": {
      "dataSource": "wikipedia",
      "timestampSpec": {
        "column": "time",
        "format": "auto"
      },
      "dimensionsSpec": {
        "dimensions": [
          "channel",
          "cityName",
          "comment",
          "countryIsoCode",
          "countryName",
          "isAnonymous",
          "isMinor",
          "isNew",
          "isRobot",
          "isUnpatrolled",
          "metroCode",
          "namespace",
          "page",
          "regionIsoCode",
          "regionName",
          "user",
          { "name": "added", "type": "long" },
          { "name": "deleted", "type": "long" },
          { "name": "delta", "type": "long" }
        ]
      },
      "metricsSpec" : [],
      "granularitySpec": {
        "type": "uniform",
        "segmentGranularity": "DAY",
        "queryGranularity": "NONE",
        "rollup": false
      }
    },
    "tuningConfig": {
      "type": "kafka",
      "reportParseExceptions": false
    },
    "ioConfig": {
      "topic": "wikipedia",
      "inputFormat": {
        "type": "json"
      },
      "replicas": 2,
      "taskDuration": "PT10M",
      "completionTimeout": "PT20M",
      "consumerProperties": {
        "bootstrap.servers": "localhost:9092"
      }
    }
  }
}

上面将会启动一个 supervisor，启动 supervisor 将会负责对任务进行管理，使用启动的任务来完成对数据的输入和从 Kafka 中获取数据。

https://www.ossez.com/t/druid-kafka-supervisor/13655