mysql中添加5万条记录,Mysql千万级别数据批量插入只需简单三步!

8eb45f1aa4e86e809d858c959cbd9e07.png

第一步:配置my.ini文件

文件中配置

bulk_insert_buffer_size=120M 或者更大

将insert语句的长度设为最大。

Max_allowed_packet=1M

Net_buffer_length=8k

保存

第二步:查看设置的参选有没有生效.

Mysql > SHOW VARIABLES;

533bbab41049ca31e47aa2284a417c47.png

bulk_insert_buffer_size默认是8M,我们要把它调成100M或百兆以上,也不要太大。下面看调整个好的,如下图:

a491b91e5c2c28647f560958e11ad257.png

第三步:完成设置后,批量插入数据时使用多条模式。

INSERT INTO table (field1,field2,field3) VALUES ('a',"b","c"), ('a',"b","c"),('a',"b","c");

将以上Mysql插入模式用php语言字符串拼接SQL方法如下,你也可转换Java,Python,Golang其它你用的最顺手的语言,将方法转换分享吧:/*** 多条数据同时转化成插入SQL语句* @ CreatBy:IT自由职业者* @param string $table 表名* @$arr_key是表字段名的key:$arr_key=array("field1","field2","field3")* @param array $arr是字段值 数组示例 arrat(("a","b","c"), ("bbc","bbb","caaa"),('add',"bppp","cggg"))* @return string*/function multArray2Insert($table,$arr_key, $arr, $split = '`') {$arrValues = array();if (empty($table) || !is_array($arr_key) || !is_array($arr)) {return false;}$sql = "INSERT INTO %s( %s ) values %s ";foreach ($arr as $k => $v) {$arrValues[$k] = "'".implode("','",array_values($v))."'";}$sql = sprintf($sql, $table, "{$split}" . implode("{$split} ,{$split}", $arr_key) . "{$split}", "(" . implode(") , (", array_values($arrValues)) . ")");return $sql;}

3ebf517b657ba6d7d6d816f07ba7602e.png

以上方法调试过无误的,头条没有代码格式编辑器,所以发代码图。这段代码的返回字符串结果是INSERT

INTO table (field1,field2,field3) VALUES ('a',"b","c"),

('a',"b","c"),('a',"b","c")

,做试验时用的普通配置的电脑是每秒1000条批量插入速度,千万条数据写的速度也非常快,新版本PHP语言数据处理能力很强大。如果你的电脑或服务器性能高,你可以调节$arr数组决定你插入多少条数据,灵活使用吧。原作者:IT自由职业者

原文链接:Mysql千万级别数据批量插入只需简单三步

原出处:360图书馆

c1b714bf6235d313edb343c0b46a843b.png

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值