通常,对于几千条甚至几万条记录的数据迁移而言,采取DML(数据操纵语言)的INSERT语句能够很好地将数据迁移到目标数据库中。然而,当数据迁移量过于庞大时,就不能使用INSERT语句了,因为执行INSERT,UPDATE以及DELETE语句的操作都会生成事务日志,事务日志的生成会减慢加载的速度,故需要针对数据采取批量加载操作。
下面通过kettle工具将文件weibo_user.csv中的数据批量加载到数据表weibo_user中,具体实现步骤如下:
一,创建转换
二,配置“表输入”控件
三,配置“表输出”控件
"主选项"选项卡
“数据库字段”选项卡