java读取txt文件入库_java读取txt文件批量入库

最近需要将四个txt文件将近两千万的的数据从txt中读出并进行相应的处理入到数据库中,在实际操作中发现PreparedStatement的批处理方法和非处理方法效率相差极大,批量提交其中一个八百万的文本不到五分钟就入库完毕,非批量提交的方法需要两个多小时,在选择批量处理的方法时,遇到了java.lang.OutOfMemoryError: Java heap space问题,刚开始以为myeclipse内存设置太小,修改后问题还是没有解决,最后发现是一次性向命令列表中添加数量过多的sql语句, 造成outOfMemory错误.故修改为每次提交后需调用clearBatch()方法进行清空。通过处理这个问题,感觉以后解决问题,不能太着急了,解决问题的思路决定了你所做的工作,前期花费一些时间选择一个最优的方法能够节省大量的时间。

参考代码如下:

import java.io.BufferedReader;

import java.io.File;

import java.io.FileInputStream;

import java.io.InputStreamReader;

import java.sql.Connection;

import java.sql.PreparedStatement;

import java.sql.ResultSet;

import java.sql.SQLException;

import fhs.dao.DataAccess;

public class CopyOfReadTxtUtilsYff {

public static void main(String arg[]) {

DataAccess da=null;<

  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值