通常,对于几千条甚至几万条记录的数据迁移而言,采取DML(数据操纵语言)的INSERT语句能够很好地将数据迁移到目标数据库中。然而,当数据迁移量过于庞大时,就不能使用INSERT语句了,因为执行INSERT,UPDATE以及DELETE语句的操作都会生成事务日志,事务日志的生成会减慢加载的速度,故需要针对数据采取批量加载操作。
下面通过kettle工具将文件weibo_user.csv中的数据批量加载到数据表weibo_user中,具体实现步骤如下:
weibo_user.csv数据展示:
一,创建转换
二,配置“表输入”控件
三,配置“表输出”控件
"主选项"选项卡
“数据库字段”选项卡
四,查看结果及表weibo_user的创建
结果
表weibo_user的创建
create table weibo_user(
user_id int(20),
user_name char(40),
gender char(10),
message varchar(400),
post_num int(6),
follower_num int(15)
);