kettle 提交数据量_kettle大数据量读写mysql性能优化

本文介绍了如何通过调整Kettle中数据库连接设置来优化大数据量读写MySQL的性能,包括设置useCompression、rewriteBatchedStatements等参数。针对因批量插入导致的Prepared statement placeholders限制问题,提出了降低提交记录数或关闭useServerPrepStmts的解决方案。同时,文章提及性能提升后可能出现的数据丢失问题,分析了原因并提供了避免重复数据的建议。
摘要由CSDN通过智能技术生成

修改kettleDB连接设置

1. 增加批量写的速度:

useServerPrepStmts=false

rewriteBatchedStatements=true

useCompression=true

2. 增加读的速度:

useServerPrepStmts=true

cachePrepStmts=true

参数说明:

1)useCompression=true,压缩数据传输,优化客户端和MySQL服务器之间的通信性能。

2)rewriteBatchedStatements=true  ,开启批量写功能

将会使大批量单条插入语句:

INSERT INTO t (c1,c2) VALUES ('One',1);

INSERT INTO t (c1,c2) VALUES ('Two',2);

INSERT INTO t (c1,c2) VALUES ('Three',3);

改写成真正的批量插入语句:

INSERT INTO t (c1,c2) VALUES ('One',1),('Two',2),('Three',3);

3)useServerPrepStmts=false  关闭服务器端编译,sql语句在客户端编译好再发送给服务器端,发送语句如上。

如果为true,sql会采用占位符方式发送到服务器端,在服务器端再组装sql语句。

占位符方式:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值