kafka往mysql写数据操作笔记

本文记录了使用Kafka将数据实时写入MySQL的过程,包括配置Kafka消费者,设置数据转换逻辑,以及确保数据一致性策略。通过这个操作,可以实现大数据流处理到关系型数据库的无缝对接。
摘要由CSDN通过智能技术生成
第三讲代码

导入jar(df_connect_finance-0.1-jar-with-dependencies.jar)包到  /opt/lib/  下
--------------------------------------------------------->>>>

POST http://localhost:8083/connectors/

body:
--------------------
{
    "name": "finace_source_connector_01",
    "config": {
    	"cuid": "finace_source_connector_01",
        "connector.class": "com.datafibers.flink.stream.FinanceSourceConnector",
        "tasks.max": "1",
        "topic": "stock_source",
        "portfolio": "Top 10 IT Service",
        "interval": "5",
        "spoof": "RAND",
        "schema.registry.uri": "http://localhost:8081"
    }
}
---------------------------
GET http://localhost:8002/subjects

GET http://localhost:8002/subjects/stock_source/versions


GET http://localhost:8002/schemas/ids/1


在第一个窗口输入:
kafka-avro
  • 0
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Kafka可以使用多种方式往topic数据,以下是常见的两种方式: 1. 使用Kafka命令行工具往topic数据: ```bash $ kafka-console-producer.sh --broker-list localhost:9092 --topic test >Hello world! >How are you? > ``` 在这个例子中,我们使用kafka-console-producer.sh命令行工具向名为test的topic入了两条消息,分别是“Hello world!”和“How are you?”。--broker-list参数指定了Kafka集群中的broker地址。 2. 使用Kafka Producer API往topic数据: ```java import org.apache.kafka.clients.producer.KafkaProducer; import org.apache.kafka.clients.producer.ProducerRecord; import java.util.Properties; public class KafkaProducerExample { public static void main(String[] args) { String topicName = "test"; String key = "key1"; String value = "Hello world!"; // 设置Kafka Producer的配置信息 Properties props = new Properties(); props.put("bootstrap.servers", "localhost:9092"); props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer"); props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); // 创建Kafka Producer实例 KafkaProducer<String, String> producer = new KafkaProducer<>(props); // 创建ProducerRecord实例,包含了要发送的消息的key和value ProducerRecord<String, String> record = new ProducerRecord<>(topicName, key, value); // 发送消息 producer.send(record); // 关闭Kafka Producer producer.close(); } } ``` 在这个例子中,我们使用Kafka Producer API往名为test的topic入了一条消息“Hello world!”。我们首先设置了Kafka Producer的配置信息,包括Kafka集群中的broker地址、key和value的序列化方式等。然后创建了Kafka Producer实例,并创建了要发送的消息的ProducerRecord实例。最后通过调用send()方法向Kafka入消息,并关闭了Kafka Producer。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值