Navicat导出百万级数据时,报错:2013 - Lost connection to MySQL server during query
网上一番搜索,修改mysql如下几处配置文件即可:
select @@sql_mode;
SET sql_mode=(SELECT REPLACE(@@sql_mode, 'ONLY_FULL_GROUP_BY', ''));
4194304 -- 2013 - Lost connection to MySQL server during query
select @@max_allowed_packet;
show global variables like 'max_allowed_packet';
-- SET max_allowed_packet = 524288000
SET GLOBAL max_allowed_packet = 524288000
最好修改配置文件my.cnf或my.ini,然后重启服务。
操作成功结果如下:
另一个VPN远端数据库(MySQL5.6.x)导出结果csv:
最近做数据处理时的一点感触:
1、网络IO对程序的影响真的很大,通过VPN插入更新数据比本机操作MySQL速度要慢数十倍;
如19114条数据,通过VPN网络操作DB用了164.2s,本地数据库操作使用了2.9s。(50+倍)
2、索引真的很重要,百万级别的操作速度可相差好几百倍;
创建索引前,查询一百多万条数据用了481.3s,创建增加索引用了12.7s,创建索引后用了0.9s。(500+倍)
PS:一些设置方法:
SELECT version();
SHOW engines;
SHOW variables like '%storage_engine%';
MySQL设置session,global变量的方法
SHOW VARIABLES LIKE '%auto_increment%';
-- SET GLOBAL auto_increment_offset = 1;
-- SET GLOBAL auto_increment_increment = 1;
-- -- 设置或修改系统日志有效期
SHOW VARIABLES LIKE '%expire_logs_days%';
-- SET GLOBAL expire_logs_days=8;
SHOW VARIABLES LIKE '%max_connections%'
-- SET GLOBAL max_connections = 2648;
如果要修改全局变量, 必须要显示指定"GLOBAL"或者"@@global.", 同时必须要有SUPER权限
set global wait_timeout=100;
set @@global.wait_timeout=100;
select @@global.wait_timeout
show global variables like 'wait_timeout';
其中show variables的话就等同于使用show session variables, 查询的是会话session变量, 只有使用show global variables查询的才是全局变量.
设置会话变量方法: 在命令行里通过SET来设置
set wait_timeout=10;
set session wait_timeout=10;
set @@wait_timeout=10;
set @@session.wait_timeout=10;
查看设置是否成功:
select @@wait_timeout;
select @@session.wait_timeout;
show variables like 'wait_timeout';
show session variables like 'wait_timeout';
将会话变量值设置为对应的全局变量值:
set @@session.wait_timeout=@@global.wait_timeout;
SHOW KEYS FROM user_csv_bak;
SHOW INDEX FROM user_csv_bak;