最近的有个项目要有3G数据入库,一直困困惑我很长,一直找不出什么好方法,
网上长了很多但都不适合我程序啊, 因为需求不适合我,我找找。。都不适合我的这个,
想想。。。思思。。。现数据有2000W数据多了,但一直不稳改了好多次,
这个方法非常适合我,
1 插入临时表,主表有唯一键,插入失败所以要更新,
我粗略说一下我的两条主语句子 ,其他的都要更改配置,我不说了
这是插入临时表,插入失败就更新,这是批量插入更新,$inster 都是值,我是一次插入1W条,
1 、 $sql = "INSERT INTO $table_name(`domain` ,`url`, `referer` , `time` )VALUES ".$inster." ON DUPLICATE KEY UPDATE time=time+1";
要把这个临时表数据插入到主表里,主表数据过大,所以建临时表来先存放,然后直接插入到主表(拷贝到主表里,速度非常快)
2 、 insert into active_sk5url(`domain`, `url`, `referer`, `time`)
select `domain`, `url`, `referer`, `time` from import_sk5url
on duplicate key update `time` = active_sk5url.time+values(`time`)