JDBC写数据到文件中再Copy到postgresql中

经过测试，大概写入12万条数据2秒+左右。

代码如下：

package com.nsfocus.bsaips.main;
import com.alibaba.fastjson.JSONObject;
import com.nsfocus.bsaips.util.RemoteDBUtil;
import org.postgresql.copy.CopyManager;
import org.postgresql.core.BaseConnection;
import java.sql.*;
import java.util.ArrayList;
import java.io.*;
import java.util.List;
import java.util.UUID;

public class Test {
    public String writeFile(List<JSONObject> list){
        FileWriter out = null;
        String filePath = "/tmp/"+UUID.randomUUID();

        try{
            out = new FileWriter(new File(filePath));
            for(int i=0;i<list.size();i++){
                Object[] objs = list.get(i).values().toArray();
                for(int j=0;j<objs.length;j++){
                    if(objs[j] == null){
                        out.write("null");
                    }else{
                        out.write(String.valueOf(objs[j]));
                    }
                    if(j != objs.length - 1){
                        out.write(",");
                    }
                }
                if(i != list.size() - 1){
                    out.write("\n");
                }
            }
            out.flush();
        }catch(Exception ex){
            ex.printStackTrace();
        }finally{
            if(out != null){
                try {
                    out.close();
                } catch (IOException e) {
                    e.printStackTrace();
                }
            }
        }

        return filePath;
    }

    public void copyTest(String tablename,List<JSONObject> list){
        Connection conn = null;
        CopyManager copyManager = null;
        FileReader reader = null;

        try{
            long starttime = System.currentTimeMillis();
            String filePath = writeFile(list);

            conn = RemoteDBUtil.getInstance("ip",5432,"dbname","username","password").getConnection();
            copyManager = new CopyManager((BaseConnection)conn);
            reader = new FileReader(new File(filePath));
            copyManager.copyIn("copy "+tablename+" from stdin delimiter as ',' NULL as 'null'",reader);
            long endtime = System.currentTimeMillis();

            System.out.println(endtime-starttime);
        }catch(Exception ex){
            ex.printStackTrace();
        }finally{
            if(reader != null){
                try {
                    reader.close();
                } catch (IOException e) {
                    e.printStackTrace();
                }
            }
            if(conn != null){
                try {
                    conn.close();
                } catch (SQLException e) {
                    e.printStackTrace();
                }
            }
        }
    }

    public static void main(String[] args){
        List<JSONObject> list = new ArrayList<JSONObject>();
        for(int i=0;i<120000;i++){
            JSONObject jsonObject = new JSONObject();
            jsonObject.put("id",i);
            jsonObject.put("testname","aaaa");
            list.add(jsonObject);
        }

        new Test().copyTest("copytest", list);
    }
}

然后，请记住COPY完成后一定要删除文件。

删除文件的代码：

File file = new File(filePath);
if(file.exists()){
    file.delete();
}

另外，再记录一个小插曲：

居然有张表据说最多每次插入3000条数据（100*30），要不然时间就会变长而且磁盘IO很高。我的眼镜都快掉到地上摔碎了，一度怀疑自己进入了平行宇宙。

后来一看，表上有个主键约束，而写入的数据中是包含主键这个字段的，也就是每条写入的数据数据库都需要检测唯一性。而当时，表中的数据已经600w+条了。不用会怀疑入库速度为啥如此之慢了。

而主键字段本身使用UUID生成的（网卡+毫米级时间戳+随机数）绝对保证唯一的，所以根本不需要数据库来保证唯一性。把约束去掉，入库速度就坐上飞机了。