sqlloader实现百万数据快速入库 java

在使用SQLLoader实现百万数据快速入库,需要完成以下步骤:

编写控制文件
控制文件是SQLLoader的配置文件,用于告诉SQLLoader如何处理数据。以下是一个简单的控制文件示例:

LOAD DATA
INFILE 'data.txt'
INTO TABLE mytable
FIELDS TERMINATED BY ',' 
TRAILING NULLCOLS
(
  field1,
  field2,
  field3
)

其中,LOAD DATA指令告诉SQLLoader需要处理的是数据文件。INFILE指令指定了数据文件的位置和名称。INTO TABLE指令指定了目标表的名称。FIELDS TERMINATED BY指定了数据字段之间的分隔符。TRAILING NULLCOLS表示如果数据文件中包含NULL值,则忽略它们。最后,列出了目标表中的字段列表。

编写数据文件
数据文件包含需要导入的数据,每行表示一条记录,字段之间用指定的分隔符分隔。以下是一个示例数据文件:

1,John,Doe
2,Jane,Smith
3,Bob,Johnson
4,Susan,Taylor

执行SQLLoader命令
在终端或命令行窗口中运行SQLLoader命令,指定控制文件的位置和名称,并提供数据库连接信息。以下是一个示例SQLLoader命令:

sqlldr userid=username/password control=loader.ctl log=loader.log

其中,userid指定了数据库用户名和密码,control指定了控制文件的位置和名称,log指定了日志文件的位置和名称。执行该命令后,SQLLoader将读取数据文件,按照控制文件的指定格式将数据插入到目标表中。

需要注意的是,在导入大量数据时,可能需要设置额外的参数来优化导入性能,例如设置并行度、调整内存缓冲区大小等。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
java代码中调用执行shell脚本,sqlldr导数与使用sqlplus在shell调用执行存储过程。 linux环境中有2个dba的用户:oracle、erm 还有1个web用户:erm 在linux环境中,这三个用户都可以直接在任意目录下执行该shell脚本,可是在java代码中调用shell脚本时,报了如下4个错误: 1、sqlldr: command not found 2、sqlplus: command not found 3、0750: You may need to set ORACLE_HOME to your Oracle software directory 4、Message 2100 not found; No message file for product=RDBMS, facility=ULMessage 2100 not found; No message file for product=RDBMS, facility=UL$ 检查了dba用户和web用户下关于oracle的所有环境变量发现没有问题 (/home/oracle/.profile 与 /home/erm/.profile 环境变量文件为隐藏文件需使用 ls -a 命令查看) 在网上查了一遍以后有如下几种处理办法: 1、没有oracle_home目录的执行权限,无法进入到bin目录,使用chmod 755 $oracle_home更改目录权限;使用chmod 755 $oracle_home/lib更改目录权限;对目录$oracle_home/rdbms/mesg目录赋予相应权限;当需要给非oracle用户配置使用sqlldr时,不单需要配置环境变量,还需要把相关目录的访问权限赋予该用户。【采用此法测试以后还是出现上面的错误】 2、用sh直接执行shell和在java直接执行shell是有区别的,要在shell文件内增加oracle的环境变量即. /home/oracle/.bash_profile 这句话,否则在执行sqlldr会报如下异常: Message 2100 not found; No message file for product=RDBMS...... facility=UL 【采用此法测试以后继续报错,但是这个方法有引导作用,继续往下看】 因为我在linux环境下执行shell脚本时sqlldr命令和sqlplus命令是正常执行的,没有任何问题,但是在java代码中调用脚本时却报错,所有排除了其他原因,只可能是环境变量的问题, 于是我把oracle的所有环境变量直接复制到shell脚本文件中,在java中调用了一下,然后所有问题迎刃而解! 具体代码参看文件内容
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值