=========================================================================
Kafka是Apache下的一个子项目,是一个高性能跨语言分布Publish/Subscribe消息队列系统,相对于ActiveMQ是一个非常轻量级的消息系统,除了性能非常好之外,还是一个工作良好的分布式系统。
==========================================================================
====================================================================
RocketMQ是阿里巴巴开源的分布式消息中间件,现在是Apache的一个顶级项目。在阿里内部使用非常广泛,已经经过了"双11"这种万亿级的消息流转。
====================================================================
RocketMQ官网
github
===========================================================================
下载
我们先从官网去选择Binary下载,Binary代表是二进制版本,可以直接使用。
解压
-
bin:启动脚本,包括shell脚本和CMD脚本
-
conf:实例配置文件 ,包括broker配置文件、logback配置文件等
-
lib:依赖jar包,包括Netty、commons-lang、FastJSON等
配置环境环境:ROCKETMQ_HOME
在电脑高级配置(配置jdk那边)配置环境变量,变量名为:ROCKETMQ_HOME,值为:MQ解压路径\MQ文件夹名。
修改配置文件
进入RocketMQ的conf文件,里面有一个broker.conf配置文件。在文件末尾添加两行。(输入的时候建议将中文去掉)
enablePropertyFilter=true
namesrvAddr=127.0.0.1:9876
启动nameserver
在MQ解压文件的bin目录下进入CMD的1命令行,执执行命令(或者双击mqnamesrv.cmd),启动nameserver,成功后会弹出提示框,不要关闭。
执行命令
start mqnamesrv.cmd
启动broker
在bin目录下cmd进入命令行模式,执行命令,启动broker。成功后不要关闭。
mqbroker.cmd -c …/conf/broker.conf
MQ可视化工具安装
可视化工具下载地址,密码6666
这个jar一定要JDK8的环境!!下载后修改application.properties文件,修改自己启动的端口和服务的ip+端口。集群按钮1那里出现了版本号说明启动成功!
=========================================================================
这里使用的不是虚拟机,是阿里云的ECS服务器,系统版本为CentOs7。
上传RocketMQ
RocketMQ的下载包:密码6666
将RocketMQ的zip包上传到阿里云服务器,使用命令解压。
unzip /usr/soft/rocketmq-all-4.4.0-bin-release.zip # 这个目录要改为自己的RocketMQ
mv /usr/soft/rocketmq-all-4.4.0-bin-release/ /usr/soft/rocketmq-4.4/ # 重命名方便管理
修改配置文件
进入RocketMQ的conf目录,修改broker.conf,新增三行(去掉我注释的中文)。
enablePropertyFilter=true # 支持标签顾过滤消息
namesrvAddr=127.0.0.1:9876 # 你的mqnamesrv地址
brokerIP1=11.11.11.11 # 你的阿里云服务器的公网ip
修改启动参数
因为默认的RocketMQ启动的时候需要的1JVM内存很多,会报错,所以我们将他变小一点即可。默认是1G,修改为512m。
vi /usr/soft/rocketmq-4.4/bin/runbroker.sh
vi /usr/soft/rocketmq-4.4/bin/runserver.sh
防火墙和安全组开放几个端口
开放9876、10911、10912、10909以及你指定的可视化工具启动的端口,这里步骤不再赘述,有疑问可以在评论区回复或者翻我的Linux的学习文章进行学习。
启动服务
nohup sh /usr/soft/rocketmq-4.4/bin/mqnamesrv &
nohup sh mqbroker -n localhost:9876 -c …/conf/broker.conf &
查看日志
在RocketMQ的根目录的bin目录中,有一个nohup.out用于存放启动的日志信息。无报错即成功,日志信息和1Windows的差不多。
=============================================================================
===============================================================================
-
名字服务Name Server(邮局):消息队列的协调者,Broker向它注册路由信息,同时Producer和Consumer向其获取路由信息,名称服务充当路由消息的提供者。生产者或消费者能够通过名字服务查找各主题相应的Broker IP列表。多个Namesrv实例组成集群,但相互独立,没有信息交换。
-
代理服务器Broker Server(邮递员):Broker是RocketMQ的核心,消息中转角色,负责存储消息、转发消息。代理服务器在RocketMQ系统中负责接收从生产者发送来的消息并存储、同时为消费者的拉取请求作准备。代理服务器也存储消息相关的元数据,包括消费者组、消费进度偏移和主题和队列消息等。
-
生产者Producer(寄件人):负责生产消息,一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到broker服务器。RocketMQ提供多种发送方式,同步发送、异步发送、顺序发送、单向发送。同步和异步方式均需要Broker返回确认信息,单向发送不需要。
-
消费者Consumer(收件人):负责消费消息,一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提供给应用程序。从用户应用的角度而言提供了两种消费形式:拉取式消费、推动式消费。
-
Topic(省份):用来区分不同类型的消息,表示一类消息的集合,每个主题包含若干条消息,每条消息只能属于一个主题,是RocketMQ进行消息订阅的基本单位。
-
标签Tag:为消息设置的标志,用于同一主题下区分不同类型的消息。来自同一业务单元的消息,可以根据不同业务目的在同一主题下设置不同标签。标签能够有效地保持代码的清晰度和连贯性,并优化RocketMQ提供的查询系统。消费者可以根据Tag实现对不同子主题的不同消费逻辑,实现更好的扩展性。
-
消息队列MessageQueue(邮件):为了提高性能和吞吐量,引入了Message Queue,一个Topic可以设置一个或多个Message Queue,这样消息就可以并行往各个Message Queue发送消息,消费者也可以并行的从多个 Message Queue读取消息
-
消息内容Message:息系统所传输信息的物理载体,生产和消费数据的最小单位,每条消息必须属于一个主题。RocketMQ中每个消息拥有唯一的Message ID,且可以携带具有业务标识的Key。系统提供了通过Message ID和Key查询消息的功能。
-
生产者组Producer Group:生产者组,简单来说就是多个发送同一类消息的生产者称之为一个生产者组。
-
消费者组Consumer Group:消费者组,消费同一类消息的多个 consumer 实例组成一个消费者组。
====================================================================
======================================================================
org.apache.rocketmq
rocketmq-client
4.4.0
======================================================================
发送消息的步骤1:
-
创建消息生产者, 指定生产者所属的组名。
-
指定Nameserver地址。
-
启动生产者。
-
创建消息对象,指定主题、标签和消息体。
-
发送消息。
-
关闭生产者。
public class Producer {
public static void main(String[] args) throws Exception {
// 创建一个生产者对象,并且指定一个生产者组
DefaultMQProducer producer = new DefaultMQProducer(“xiaolin-producer”);
// 指定名字服务器地址
producer.setNamesrvAddr(“127.0.0.1:9876”);
// 启动生产者
producer.start();
// 创建一个消息,参数分别为:主题、标签、消息体
Message message = new Message(“hello_demo1”,“tag1”,“你好,我是消息1”.getBytes(“utf-8”));
// 发送消息
producer.send(message);
// 关闭资源
producer.shutdown();
}
}
============================================================================
消费消息的步骤:
1. 创建消息消费者, 指定消费者所属的组名 2. 指定Nameserver地址 3. 指定消费者订阅的主题和标签 4. 设置回调函数,编写处理消息的方法 5. 启动消息消费者
public class ConsumerDemo {
public static void main(String[] args) throws MQClientException {
// 创建一个拉取消息对象,并指定所属组名
DefaultMQPushConsumer consumer = new DefaultMQPushConsumer(“consumer-demo”);
// 指定名字服务器地址
producer.setNamesrvAddr(“127.0.0.1:9876”);
// 指定消费者订阅的主题和标签,第二个参数用于过滤条件用于指定接收什么tag,什么都接收
consumer.subscribe(“hello_demo1”, “*”);
// 注册一个消息监听器
consumer.registerMessageListener(new MessageListenerConcurrently() {
@Override
public ConsumeConcurrentlyStatus consumeMessage(List msgs,
ConsumeConcurrentlyContext consumeConcurrentlyContext) {
// 可能有多个消息
for (MessageExt msg : msgs) {
// 打印消息
System.out.println(new String(msg.getBody()));
}
// 返回发送成功
return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
}
});
// 启动消费者
consumer.start();
}
}
=====================================================================
======================================================================
RocketMQ提供三种方式来发送普通消息:可靠同步发送、可靠异步发送和单向发送。
==========================================================================
同步发送是指消息发送方发出数据后,会在收到接收方发回响应之后才发下一个数据包的通讯方式。这种方式应用场景非常广泛,例如重要通知邮件、报名短信通知、营销短信系统等。
public class SyncProducer {
public static void main(String[] args) throws Exception {
// 实例化消息生产者Producer
DefaultMQProducer producer = new DefaultMQProducer(“xiaolin-producer”);
// 设置NameServer的地址
producer.setNamesrvAddr(“127.0.0.1:9876”);
// 启动Producer实例
producer.start();
for (int i = 0; i < 100; i++) {
// 创建消息,并指定Topic,Tag和消息体
Message msg = new Message(“04-producer-type” /* Topic */,
“TagA” /* Tag */,
("这是一条同步消息 " + i).getBytes(“utf-8”) /* Message body */);
//发送同步消息到一个Broker
SendResult sendResult = producer.send(msg);
// 通过sendResult返回消息是否成功送达
System.out.println(JSON.toJSONString(sendResult));
}
// 如果不再发送消息,关闭Producer实例。
producer.shutdown();
}
}
========================================================================
异步发送是指发送方发出数据后,不等接收方发回响应,接着发送下个数据包的通讯方式。发送方通过回调接口接收服务器响应,并对响应结果进行处理。
异步发送一般用于链路耗时较长,对 RT 响应时间较为敏感的业务场景,例如用户视频上传后通知启动转码服务,转码完成后通知推送转码结果等。
public class ASyncProducer {
public static void main(String[] args) throws Exception {
// 实例化消息生产者Producer
DefaultMQProducer producer = new DefaultMQProducer(“xiaolin-producer”);
// 设置NameServer的地址
producer.setNamesrvAddr(“127.0.0.1:9876”);
// 启动Producer实例
producer.start();
for (int i = 0; i < 100; i++) {
// 创建消息,并指定Topic,Tag和消息体
Message msg = new Message(“04-producer-type” /* Topic */,
“TagA” /* Tag */,
(“我是异步消息” + i).getBytes(“utf-8”) /* Message body */
);
//发送同步消息到一个Broker
producer.send(msg, new SendCallback() {
@Override
public void onSuccess(SendResult sendResult) {
System.out.println(“消息发送成功”);
System.out.println(JSON.toJSONString(sendResult));
}
@Override
public void onException(Throwable e) {
System.out.println(“消息发送失败”+e.getMessage());
System.out.println(“处理失败消息”);
}
});
}
// 让线程不要终止,否则会报错
Thread.sleep(30000000);
// 如果不再发送消息,关闭Producer实例。
producer.shutdown();
}
}
========================================================================
单向发送是指发送方只负责发送消息,不等待服务器回应且没有回调函数触发,即只发送请求不等待应答。适用于某些耗时非常短,但对可靠性要求并不高的场景,例如日志收集。
public class OneWayProducer {
public static void main(String[] args) throws Exception {
// 实例化消息生产者Producer
DefaultMQProducer producer = new DefaultMQProducer(“xiaolin-producer”);
// 设置NameServer的地址
producer.setNamesrvAddr(“127.0.0.1:9876”);
// 启动Producer实例
producer.start();
for (int i = 0; i < 100; i++) {
// 创建消息,并指定Topic,Tag和消息体
Message msg = new Message(“04-producer-type” /* Topic */,
“TagA” /* Tag */,
(“我是单向消息” + i).getBytes(“utf-8”) /* Message body */
);
//发送单向消息到一个Broker
producer.sendOneway(msg);
}
// 如果不再发送消息,关闭Producer实例。
producer.shutdown();
}
}
=============================================================================
======================================================================
虽然RocketMQ的数据结构是队列,看起来天生支持顺序消息,当只有一个队列的时候,他就天生支持顺序消息,但是Brocket内部有多个队列,发送多条消息的时候,Broker会按照轮询的方式将多个消息放在不同的队列,消费者采用多线程的方式去消费消息,所以无法保证消费消息的方式和发送消息的方式一样的。解决方式是将消息全部发送到一个队列里面。
比如一个订单的流程是:创建、付款、推送、完成。订单号相同的
顺序消息是消息队列提供的一种严格按照顺序来发布和消费的消息类型。
/**
- 订单构建者
*/
public class OrderStep {
private long orderId;
private String desc;
public long getOrderId() {
return orderId;
}
public void setOrderId(long orderId) {
this.orderId = orderId;
}
public String getDesc() {
return desc;
}
public void setDesc(String desc) {
this.desc = desc;
}
@Override
public String toString() {
return “OrderStep{” +
“orderId=” + orderId +
“, desc='” + desc + ‘’’ +
‘}’;
}
public static List buildOrders() {
// 1039L : 创建 付款 推送 完成
// 1065L : 创建 付款
// 7235L :创建 付款
List orderList = new ArrayList();
OrderStep orderDemo = new OrderStep();
小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数初中级Java工程师,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年最新Java开发全套学习资料》送给大家,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频
如果你觉得这些内容对你有帮助,可以添加下面V无偿领取!(备注Java)
最后
既已说到spring cloud alibaba,那对于整个微服务架构,如果想要进一步地向上提升自己,到底应该掌握哪些核心技能呢?
就个人而言,对于整个微服务架构,像RPC、Dubbo、Spring Boot、Spring Cloud Alibaba、Docker、kubernetes、Spring Cloud Netflix、Service Mesh等这些都是最最核心的知识,架构师必经之路!下图,是自绘的微服务架构路线体系大纲,如果有还不知道自己该掌握些啥技术的朋友,可根据小编手绘的大纲进行一个参考。
如果觉得图片不够清晰,也可来找小编分享原件的xmind文档!
且除此份微服务体系大纲外,我也有整理与其每个专题核心知识点对应的最强学习笔记:
-
出神入化——SpringCloudAlibaba.pdf
-
SpringCloud微服务架构笔记(一).pdf
-
SpringCloud微服务架构笔记(二).pdf
-
SpringCloud微服务架构笔记(三).pdf
-
SpringCloud微服务架构笔记(四).pdf
-
Dubbo框架RPC实现原理.pdf
-
Dubbo最新全面深度解读.pdf
-
Spring Boot学习教程.pdf
-
SpringBoo核心宝典.pdf
-
第一本Docker书-完整版.pdf
-
使用SpringCloud和Docker实战微服务.pdf
-
K8S(kubernetes)学习指南.pdf
另外,如果不知道从何下手开始学习呢,小编这边也有对每个微服务的核心知识点手绘了其对应的知识架构体系大纲,不过全是导出的xmind文件,全部的源文件也都在此!
loud alibaba,那对于整个微服务架构,如果想要进一步地向上提升自己,到底应该掌握哪些核心技能呢?
就个人而言,对于整个微服务架构,像RPC、Dubbo、Spring Boot、Spring Cloud Alibaba、Docker、kubernetes、Spring Cloud Netflix、Service Mesh等这些都是最最核心的知识,架构师必经之路!下图,是自绘的微服务架构路线体系大纲,如果有还不知道自己该掌握些啥技术的朋友,可根据小编手绘的大纲进行一个参考。
[外链图片转存中…(img-CklRKOuQ-1711126474493)]
如果觉得图片不够清晰,也可来找小编分享原件的xmind文档!
且除此份微服务体系大纲外,我也有整理与其每个专题核心知识点对应的最强学习笔记:
-
出神入化——SpringCloudAlibaba.pdf
-
SpringCloud微服务架构笔记(一).pdf
-
SpringCloud微服务架构笔记(二).pdf
-
SpringCloud微服务架构笔记(三).pdf
-
SpringCloud微服务架构笔记(四).pdf
-
Dubbo框架RPC实现原理.pdf
-
Dubbo最新全面深度解读.pdf
-
Spring Boot学习教程.pdf
-
SpringBoo核心宝典.pdf
-
第一本Docker书-完整版.pdf
-
使用SpringCloud和Docker实战微服务.pdf
-
K8S(kubernetes)学习指南.pdf
[外链图片转存中…(img-yFQRQE9q-1711126474494)]
另外,如果不知道从何下手开始学习呢,小编这边也有对每个微服务的核心知识点手绘了其对应的知识架构体系大纲,不过全是导出的xmind文件,全部的源文件也都在此!
[外链图片转存中…(img-NiCm2xA1-1711126474494)]