数据库导入外部数据(EBS)

SQL*LoaderOracle数据库导入外部数据的一个工具.我们可以通过它从oracle client往Oracle database导入数据。它和DB2Load工具相似,但有更多的选择,它支持变化的加载模式,可选的加载及多表加载

如何使用 SQL*Loader 工具 
我们可以用Oraclesqlldr工具来导入数据。例如

sqlldr scott/tiger control=loader.ctl 
控制文件(loader.ctl) 将加载一个外部数据文件(含分隔符). loader.ctl如下

load data 
infile 'c:\data\mydata.csv' 
into table emp 
fields terminated by "," optionally enclosed by '"' 
( empno, empname, sal, deptno ) 

mydata.csv 如下
10001,"Scott Tiger", 1000, 40 
10002,"Frank Naude", 500, 20 
下面是一个指定记录长度的示例控制文件。"*" 代表数据文件与此文件同名,即在后面使用BEGINDATA段来标识数据。
 
load data 
infile * 
replace 
into table departments 
( dept position (02:05) char(4), 
deptname position (08:27) char(20) 

begindata 
COSC COMPUTER SCIENCE 
ENGL ENGLISH LITERATURE 
MATH MATHEMATICS 
POLY POLITICAL SCIENCE 
Unloader
这样的工具
 
Oracle 
没有提供将数据导出到一个文件的工具。但是,我们可以用SQL*Plusselect  format 数据来输出到一个文件:
 
set echo off newpage 0 space 0 pagesize 0 feed off head off trimspool on 
spool oradata.txt 
select col1 || ',' || col2 || ',' || col3 
from tab1 
where col2 = 'XYZ'; 
spool off 

另外,也可以使用使用 UTL_FILE PL/SQL 包处理
rem Remember to update initSID.ora, utl_file_dir='c:\oradata' parameter 
declare 
fp utl_file.file_type; 
begin 
fp := utl_file.fopen('c:\oradata','tab1.txt','w'); 
utl_file.putf(fp, '%s, %s\n', 'TextField', 55); 
utl_file.fclose(fp); 
end; 

当然你也可以使用第三方工具,如SQLWays ,TOAD for Quest等。 

加载可变长度或指定长度的记录 
如:
 
LOAD DATA 
INFILE * 
INTO TABLE load_delimited_data 
FIELDS TERMINATED BY "," OPTIONALLY ENCLOSED BY '"' 
TRAILING NULLCOLS 
( data1, 
data2 

BEGINDATA 
11111,AAAAAAAAAA 
22222,"A,B,C,D," 

下面是导入固定位置(固定长度)数据示例: 
LOAD DATA 
INFILE * 
INTO TABLE load_positional_data 
( data1 POSITION(1:5), 
data2 POSITION(6:15) 

BEGINDATA 
11111AAAAAAAAAA 
22222BBBBBBBBBB 

跳过数据行: 
可以用 "SKIP n" 关键字来指定导入时可以跳过多少行数据。如:
 
LOAD DATA 
INFILE * 
INTO TABLE load_positional_data 
SKIP 5 
( data1 POSITION(1:5), 
data2 POSITION(6:15) 

BEGINDATA 
11111AAAAAAAAAA 
22222BBBBBBBBBB 

导入数据时修改数据: 
在导入数据到数据库时,可以修改数据。注意,这仅适合于常规导入,并不适合 direct导入方式.如:
 
LOAD DATA 
INFILE * 
INTO TABLE modified_data 
( rec_no "my_db_sequence.nextval", 
region CONSTANT '31', 
time_loaded "to_char(SYSDATE, 'HH24:MI')", 
data1 POSITION(1:5) ":data1/100", 
data2 POSITION(6:15) "upper(:data2)", 
data3 POSITION(16:22)"to_date(:data3, 'YYMMDD')" 

BEGINDATA 
11111AAAAAAAAAA991201 
22222BBBBBBBBBB990112 

LOAD DATA 
INFILE 'mail_orders.txt' 
BADFILE 'bad_orders.txt' 
APPEND 
INTO TABLE mailing_list 
FIELDS TERMINATED BY "," 
( addr, 
city, 
state, 
zipcode, 
mailing_addr "decode(:mailing_addr, null, :addr, :mailing_addr)", 
mailing_city "decode(:mailing_city, null, :city, :mailing_city)", 
mailing_state 

将数据导入多个表: 

LOAD DATA 
INFILE * 
REPLACE 
INTO TABLE emp 
WHEN empno != ' ' 
( empno POSITION(1:4) INTEGER EXTERNAL, 
ename POSITION(6:15) CHAR, 
deptno POSITION(17:18) CHAR, 
mgr POSITION(20:23) INTEGER EXTERNAL 

INTO TABLE proj 
WHEN projno != ' ' 
( projno POSITION(25:27) INTEGER EXTERNAL, 
empno POSITION(1:4) INTEGER EXTERNAL 

导入选定的记录: 
如下例: (01) 代表第一个字符, (30:37) 代表3037之间的字符

LOAD DATA 
INFILE 'mydata.dat' BADFILE 'mydata.bad' DISCARDFILE 'mydata.dis' 
APPEND 
INTO TABLE my_selective_table 
WHEN (01) <>; 'H' and (01) <>; 'T' and (30:37) = '19991217' 

region CONSTANT '31', 
service_key POSITION(01:11) INTEGER EXTERNAL, 
call_b_no POSITION(12:29) CHAR 

导入时跳过某些字段: 
可用 POSTION(x:y) 来分隔数据Oracle8i中可以通过指定 FILLER 字段实现。FILLER 字段用来跳过、忽略导入数据文件中的字段.如:
 
LOAD DATA 
TRUNCATE INTO TABLE T1 
FIELDS TERMINATED BY ',' 
( field1, 
field2 FILLER, 
field3 

导入多行记录: 
可以使用下面两个选项之一来实现将多行数据导入为一个记录

CONCATENATE: - use when SQL*Loader should combine the same number of physical records together to form one logical record. 

CONTINUEIF - use if a condition indicates that multiple records should be treated as one. Eg. by having a '#' character in column 1. 

SQL*Loader 数据的提交: 
一般情况下是在导入数据文件数据后提交的。
 
也可以通过指定 ROWS= 参数来指定每次提交记录数。 

提高 SQL*Loader 的性能: 
1) 
一个简单而容易忽略的问题是,没有对导入的表使用任何索引和/或约束(主键)。如果这样做,甚至在使用ROWS=参数时,会很明显降低数据库导入性能。
 
2) 
可以添加 DIRECT=TRUE来提高导入数据的性能。当然,在很多情况下,不能使用此参数。
 
3) 
通过指定 UNRECOVERABLE选项,可以关闭数据库的日志。这个选项只能和 direct 一起使用。
 
4) 
可以同时运行多个导入任务

常规导入与direct导入方式的区别: 
常规导入可以通过使用 INSERT语句来导入数据。Direct导入可以跳过数据库的相关逻辑(DIRECT=TRUE),而直接将数据导入到数据文件中。 


----------------------------------
另外的例子----------------------------------------------------

首先编辑这几个文件:
in.txt         
参数文件
input.ctl     
控制文件
input.txt    
即要导入的数据文件(文件格式可以自定)

in.txt     参数文件,如下:
userid=system/****@oracle9_bytime      --
口令,密码,服务名(要用服务器名,用ip会出错)
control=c:\input.ctl                                    --
控制文件
log=input.log                                             --
日志
bad=input.bad                                           --
坏纪录文件
errors=30                                                  --
允许最大错误行数
skip=1                                                       --
跳过第一行
direct=true                                                --
用直接路径

input.ctl 为控制文件,内容如下:
load data
infile 'c:\input.txt'                                       --
要导入得数据
append into table system."dw"                 --
向表dw里追加
fields terminated by ','                               --
分隔符
(jzh char,lsgxbm char,xzh char,jgm char)

然后在命令行下执行命令:
c:\sqlldr parfile=c:\in.txt

(注意1:

in.txt中的所有注释要去掉,不然会出错

C:\>sqlldr parfile=c:\in.txt
LRM-00112: 参数 'control' 不允许有多个值
LRM-00113: 处理文件 'c:\in.txt' 时出错

)

(注意2:

csv文件的格式要正确,不然导入会错误,CSV文件其实是分割符为‘,’的文本文件。

将excel文件另存为csv文件时,需要选择save as type 为:

8754571_200906121345481.jpg

 

如果用默认的type,则文件保存为7777.csv.xls,再直接去掉.xls成为.csv文件的话,文件格式会不正确(可以用文本,txt方式打开,看数据是不是正确的被‘,’号隔开)

8754571_200906121343021.jpg

)

(注意3:

.ctl控制文件里的各个字段,一定要和数据文件.xls文件里的字段对应好。

)

(注意4:

对应date型的数据,时间字段的格式必须遵从会话环境的时间格式,否则不能插入。

查看当前会话的时间格式,可以使用以下的SQL语句:SQL> select sysdate from dual;

使用todate()或sysdate都没办法插入。

)

(尤其注意5:

用sqlload会插入数据是,sqlload不会校验数据是否违反约束,如PK,index等,也就是说会插入违反约束的数据,这时候,只能drop掉约束,删除非法的数据,再加上约束。

)

 

fj.png1.jpg

fj.png2.jpg

来自 “ ITPUB博客 ” ,链接:http://blog.itpub.net/8754571/viewspace-604499/,如需转载,请注明出处,否则将追究法律责任。

转载于:http://blog.itpub.net/8754571/viewspace-604499/

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值