C# kafka 控制台应用程序,根据需要可以迁移
基于.net framework 的 Confluent.Kafka 的简单生产者和消费者示列,满足基本的需求适合初学者
完成以下步骤需要安装对应的Kafka包,安装示列:
生产者示列代码:
using Confluent.Kafka;
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
namespace ConsoleApp7
{
class KafkaProducer : IDisposable
{
private ProducerConfig _config = new ProducerConfig();
private IProducer<string, string> _producer;
public KafkaProducer(string server = null)
{
if (string.IsNullOrEmpty(server))
{
//这里可以添加更多的Kafka集群,比如
//server=" server ="192.168.1.129:9092,192.168.1.133:9092,192.168.1.134:9092";";
server = "localhost:9092";
}
_config.BootstrapServers = server;
_producer = new ProducerBuilder<string, string>(_config).Build();
}
public async Task<DeliveryResult<string, string>> ProduceAsync(string topic, Message<string, string> message)
{
return await _producer.ProduceAsync(topic, message);
}
public void Dispose()
{
_producer?.Dispose();
}
}
}
生产者控制台调用:
static void Main(string[] args)
{
Console.WriteLine("请输入消息内容(默认主题为test,即消息类型)");
string brokerList = args[0];
var config = new Dictionary<string, object> { { "bootstrap.servers", brokerList } };
using (var producer = new KafkaProducer())
{
while (true)
{
string message = Console.ReadLine();
try
{
var result = producer.ProduceAsync("test",
new Confluent.Kafka.Message<string, string>() { Key = Guid.NewGuid().ToString(), Value = message })
.GetAwaiter().GetResult();
Console.WriteLine($"offset:{result.Offset.Value},partition:{result.Partition.Value}");
}
catch (ProduceException<string, string> e)
{
Console.WriteLine($"失败的消息: {e.Message} [{e.Error.Code}]");
continue;
}
}
}
}
消费者代码示列:
using Confluent.Kafka;
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
namespace ConsoleApp1
{
class KafkaConsumer : IDisposable
{
private IConsumer<string, string> _consumer;
public KafkaConsumer(string server = null)
{
if (string.IsNullOrEmpty(server))
{
server = "localhost:9092";
}
var config = new ConsumerConfig
{
GroupId = "TestGroupone",
BootstrapServers = server,
AutoOffsetReset = AutoOffsetReset.Earliest
};
_consumer = new ConsumerBuilder<string, string>(config).Build();
_consumer.Subscribe("test");
}
public void Consume(Action<ConsumeResult<string, string>> action = null)
{
var consumerResult = _consumer.Consume(TimeSpan.FromSeconds(2));
action?.Invoke(consumerResult);
}
public void Dispose()
{
_consumer?.Dispose();
}
}
}
消费者调用端
using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
namespace ConsoleApp1
{
class Program
{
static void Main(string[] args)
{
Console.WriteLine("默认只关注test主题的消息)");
using (var consumer = new KafkaConsumer())
{
while (true)
{
consumer.Consume(a =>
{
if (a == null)
{
Console.WriteLine("暂无消息");
}
else
{
Console.WriteLine($"Key:{a.Key},Value:{a.Value}");
}
});
}
}
}
}
}
以上就是C#版本的Kafka基本使用方法,完成以上步骤你还需要配置一些其他环境配置,你可以看到我配置很多次才成功,我尝试了红色箭头的部分安装包,你们可以安装对应的版本,以下就是连接配置需要的文件截图如下:
这些安装包链接如下:
java环境的安装包链接:
http://www.oracle.com/technetwork/java/javase/downloads/index.html
zookeeper的安装包链接:
http://zookeeper.apache.org/releases.html#download
kafka的安装包链接:
http://kafka.apache.org/downloads.html
可以参考如下博客链接关于以上配置这块,链接如下:
https://www.cnblogs.com/coloz/p/10487679.html
以上关于kafka的消费和生产原文链接
非常感谢这位博主
外言:
本人的第一篇博客,由于工作比较忙,就不设计相关样式,在学习kafka的过程中,遇到很多事情,有些唯利是图,收费,等等,让我很疑惑,很伤心,所以自力更生,终于成功,所以希望这种无私奉献的精神,能够让我们更多的程序员传承下去,谢谢大家阅读