canal消耗内存_canal整体性能优化

通过对CanalEntry对象的序列化提前处理和增加lazyParseEntry参数,优化后吞吐量提升了35%,达到8~9万TPS。主要瓶颈在于构造网络传输时的多次数组拷贝。通过避免中间步骤的ByteString拷贝和直接构造protobuf数据格式,预期能进一步提升约10%的性能。
摘要由CSDN通过智能技术生成

第四步优化已经进行了一大半,大致的效果相比于完全未优化之前提升了35%的吞吐量,可以跑到8~9万的TPS (本次压测数据和之前的批量insert不同,选择了业务上随机的一个库进行跑,19MB的binlog,大概网络传输在35MB左右)

优化点:

CanalEntry对象的序列化提前在进入ringbuffer之前就完成,最后sessionHandler只做ByteString拷贝,有部分提升

SimpleCanalConnector增加了lazyParseEntry参数,支持lazy解析CanalEntry对象,减少整个get/ack串行操作的成本,最大化提升串行的吞吐量.

目前的profile分析来看,最大的瓶颈就在于构造网络传输时有多次数组拷贝。

现在的代码:

Packet.Builder packetBuilder = CanalPacket.Packet.newBuilder();

packetBuilder.setType(PacketType.MESSAGES);

Messages.Builder messageBuilder = CanalPacket.Messages.newBuilder();

messageBuilder.setBatchId(message.getId());

if (message.getId() != -1) {

if (message.isRaw()) {

// for performance

if (!CollectionUtils.isEmpty(message.getRawEntries())) {

messageBuilder.addAllMessag

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值