kafka stream(kafka流处理)

博客内容介绍了如何使用Kafka Stream进行数据流处理,包括列转化问题的解决方法,如将列转化为行,并提到了在实际操作中,如主程序的构建、打包以及在虚拟机上的运行。
摘要由CSDN通过智能技术生成

kafka stream(kafka流处理)

问题:

1)列转化问题(列转化行)

  1. user_attendees friend_id
//打开zookeeper
[root@bigdata bin]# zkServer.sh start
//启动kafka
[root@bigdata bin]# ./kafka-server-start.sh ../config/server.properties 
//启动Spark
[root@bigdata ~]# cd /opt/bigdata/spark243/sbin
[root@bigdata sbin]# ./start-all.sh
//查看kafuka下面的文件名
[root@bigdata bin]# ./kafka-topics.sh --zookeeper 127.0.0.1:2181 --list
//还原kafka里面的消息队列数据
[root@bigdata bin]# ./kafka-streams-application-reset.sh --zookeeper 127.0.0.1:2181 --application-id user_friends --input-topics user
_friends

//导入maven中的kafka
<!-- https://mvnrepository.com/artifact/org.apache.kafka/kafka -->
<dependency>
    <groupId>org.apache.kafka</groupId>
    <artifactId>kafka_2.12</artifactId>
    <version>1.0.0</version>
</dependency>
//配置maven最低为1.8以后才可以用
    <build>
        <plugins>
            <plugin>
                <groupId>org.apache.maven.plugins</groupId>
                <artifactId>maven-compiler-plugin</artifactId>
                <version>3.8.0</version>
                <configuration>
                    <source>1.8</source>
                    <target>1.8</target>
                </configuration>
            </plugin>
        </plugins>
    </build>

主程序

package com.mykstream.services;

import org.apache.kafka.common.serialization.Serdes;
import org.apache.kafka.</
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值