队列保证消息不丢失
1.生产者:使用trycatch捕获错误,不断重连,如果多次失败后发出警告和做好日志记录
2.存储消息:broker进行集群部署,有多副本机制,将消息写入所有broker,等所有broker写完后再相应给生产者
3.消费消息:当消费者真正执行完业务逻辑之后,再发送给broker消费成功
如何处理重复消息
1.重复消息出现的情况有两种:一生产者发消息,网络发生问题,broker响应时生产者没有收到,再发一次;二消费者消费消息时,consumer offset没有更新,消费者挂了;
2.处理方法:幂等处理重复消息,一版本控制;二数据库的约束例如唯一键;三记录关键的key
如何保证消息的有序性
- 全局有序:只能有一个生产者往topic发消息,并且一个topic只能有一个队列(分区),消费者也是单线程消费这个队列
- 部分有序:将 Topic 内部划分成需要的队列数,把消息通过特定的策略发往固定的队列中,然后每个队列对应一个单线程处理的消费者。这样即完成了部分有序的需求,又可以通过队列数量的并发来提高消息处理效率。
如果处理消息堆积
- 单条处理数据改成批量处理数据
- 增加 Topic 的队列数和消费者数量,注意队列数一定要增加,不然新增加的消费者是没东西消费的。一个Topic中,一个队列只会分配给一个消费者。
02 02