FLINK 1.12.2 读取KAFKA写入HIVE的完整示例

该博客提供FLINK 1.12.2从KAFKA读取数据并写入HIVE的实例,包括依赖配置、代码示例及集群发布方法,涉及打包上传和IDE远程发布。
摘要由CSDN通过智能技术生成

本文只提供FLINK 1.12.2 读取KAFKA写入HIVE的完整示例,具体说明可以参考《FLINK 1.12.2 流式写入HDFS(hive)的几种方式》和《FLINK 1.12.2 读取KAFKA的2种方式》。

目录

1依赖

2代码

3发布集群

3.1打包后上传到集群执行

3.2IDE远程发布集群执行


1依赖

<dependencies>

<dependency>

<groupId>com.fasterxml.jackson.core</groupId>

<artifactId>jackson-databind</artifactId>

<version>2.12.0</version>

</dependency>

<dependency>

<groupId>org.apache.flink</groupId>

<artifactId>flink-connector-kafka_2.11</artifactId>

<version>${flink.version}</version>

</dependency>

<!-- flink -->

<dependency>

<groupId>org.apache.flink</groupId>

<artifactId>flink-core</artifactId>

<version>${flink.version}</version>

</dependency>

<dependency>

<groupId>org.apache.flink</groupId>

<artifactId>flink-clients_2.11</artifactId>

<version>${flink.version}</version>

</dependency>





<!--flink用来解析json的依赖-->

<dependency>

<groupId>org.apache.flink</groupId>

<artifactId>flink-json</artifactId>

<version>${flink.version}</version>

</dependency>



<!--flinksqlonhive-->

<dependency>

<groupId>org.apache.thrift</groupId>

<artifactId>libfb303</artifactId>

<version>0.9.3</version>

<type>pom</type>

</dependency>

<dependency>

<groupId>org.apache.flink</groupId>

<artifactId>flink-connector-hive_2.11</artifactId>

<version>${flink.version}</version>

</dependency>



<!--table api-->

<dependency>

<groupId>org.apache.flink</groupId>

<artifactId>flink-table-api-java-bridge_2.11</artifactId>

<version>${flink.version}</version>

</dependency>

<dependency>

<groupId>org.apache.flink</groupId>

<artifactId>flink-table-planner-blink_2.11</artifactId>

<version>${flink.version}</version>

</dependency>

<dependency>

<groupId>org.apache.flink</groupId>

<artifactId>flink
### 回答1: Apache Flink 是一个流处理框架,支持从 Apache Kafka 读取数据,并将其写入 Apache HiveFlinkKafkaHive 输入/输出接口可以方便地配置和使用,以实现从 KafkaHive 的数据流转。 ### 回答2: Flink是目前非常流行的分布数据处理引擎,而Kafka则是高性能、高可靠的分布消息队系统,而Hive是一种基于Hadoop的数据仓库系统。那么如何将FlinkKafka读取数据,并将数据写入Hive中呢?下面介绍一下具体实现方: 首先,需要在项目中导入FlinkKafka的依赖包,然后配置Kafka连接信息,如Kafka的地址、zookeeper地址、Topic名称以及消费组的名称等信息。然后,就可以通过Flink提供的Kafka Consumer API来读取Kafka中的数据。在代码中可以使用Flink DataStream API来进行数据转换、处理以及写入Hive等操作。 下面是一个FlinkKafka读取数据,然后将数据写入Hive示例代码: ```java public class FlinkKafkaHiveDemo { public static void main(String[] args) throws Exception { StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment(); env.enableCheckpointing(5000); Properties properties = new Properties(); properties.setProperty("bootstrap.servers", "localhost:9092"); properties.setProperty("group.id", "test-consumer-group"); properties.setProperty("zookeeper.connect", "localhost:2181"); properties.setProperty("auto.offset.reset", "earliest"); properties.setProperty("enable.auto.commit", "false"); FlinkKafkaConsumer<String> consumer = new FlinkKafkaConsumer<>("test", new SimpleStringSchema(), properties); DataStream<String> stream = env.addSource(consumer); // 处理数据 DataStream<Tuple2<String, Integer>> result = stream .flatMap(new FlatMapFunction<String, Tuple2<String, Integer>>() { @Override public void flatMap(String s, Collector<Tuple2<String, Integer>> collector) throws Exception { String[] words = s.split("\\s+"); for (String word : words) { collector.collect(new Tuple2<>(word, 1)); } } }) .keyBy(0) .sum(1); // 将结果写入Hive final String dbName = "testDb"; final String tblName = "testTbl"; final String warehouseDir = "/user/hive/warehouse"; final String hiveConfDir = "/usr/local/hive/conf"; Configuration config = new Configuration(); config.set("hive.metastore.uris", "thrift://localhost:9083"); HiveConf hiveConf = new HiveConf(config, HiveConf.class); result.writeAsText("file:///home/user/result.txt"); result.addSink(new HiveSink<>(hiveConf, dbName, tblName, warehouseDir, new Tuple2RowConverter())); env.execute("Flink Kafka Hive Demo"); } } ``` 在代码中,我们使用FlinkKafkaConsumer来读取Kafka中名为test的Topic的数据,然后使用flatMap和sum对数据进行处理。接着,将结果写入Hive。在使用HiveSink对结果进行写入时,需要指定Hive相关的元数据信息,以及数据在Hive中的存储路径等信息的具体实现方法。最后,在命令行中执行该代码即可。 总之,Flink读取Kafka并将数据写入Hive是非常常见且实用的一种方,通过简单的配置和代码实现,可以实现对数据的高效处理和快速存储。 ### 回答3: Apache Flink作为一款实时大数据处理框架,支持读取来自Kafka的数据并将其写入Hive,这也是Flink的常见应用场景之一。在介绍如何将数据从Kafka写入Hive之前,有必要了解一下FlinkHive的相关知识。 Flink是一个开源的流处理框架,具有高吞吐、低延迟、容错性强等优点。它支持多种数据源,包括Kafka、HDFS、文件、Socket、JDBC等。同时,Flink也支持将数据写入多种数据存储系统,如Hive、HBase、Cassandra等。 Hive是一个开源的数据仓库系统,它可以在Hadoop上进行数据管理和查询。通过Hive,用户可以使用SQL语言对数据进行查询、汇总、分析等操作。Hive将数据存储在HDFS上,支持多种文件格,如ORC、Parquet、Avro等。 要将数据从Kafka写入Hive,需要先创建一个Flink数据流,然后通过Flink提供的Kafka Consumer将数据读取到数据流中。接着,使用Flink提供的HiveWriter将数据写入Hive表中。以下是具体步骤: 1. 创建Flink数据流:使用Flink提供的StreamExecutionEnvironment创建数据流,并为其指定数据源和数据存储方。 2. 配置Kafka Consumer:使用Flink提供的Kafka Consumer将数据从Kafka读取Flink数据流中。需要指定Kafka集群的地址、主题名称等参数。 3. 解析数据:在数据流中,每条数据可以是一个JSON对象、XML节点等格,需要将其解析为可读取Hive表中的结构化数据,例如CSV格。 4. 创建Hive表:在Hive中创建一个表,用于存储来自Kafka的数据。需要指定表的结构和文件格,例如CSV、Parquet等。 5. 配置HiveWriter:使用Flink提供的HiveWriter将数据写入Hive表中。需要指定Hive表的名称、文件格、文件路径等参数。 6. 启动任务:将以上步骤整合到一个Flink任务中,并启动该任务,即可将来自Kafka的数据写入Hive表中。 综上所述,Flink读取Kafka数据并将其写入Hive表的过程涉及到FlinkKafkaHive等多方面的知识,需要仔细地配置所有参数和细节,确保数据能够顺利地传输和存储。
评论 12
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值