DataX 数据迁移

1、前期准备

    Linux系统
    Python(最好是2)
    Jdk 1.8以上

2、安装Python2

--更新软件包

sudo apt update

--安装python2
sudo apt install python2

--查看python版本
python2 --version

3、下载DataX

Linux下载DataX

wget http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz

解压

tar -zxvf datax.tar.gz

4、增加DataX Job(DataX数据迁移任务)

读取库:SQL Server

写入库:MongoDB

SqlServerToMongodb.json内容如下

{
	"job": {
		"setting": {
			"speed": {
				"channel": 5
			}
		},
		"content": [{
			"reader": {
				"name": "sqlserverreader",
				"parameter": {
					"username": "用户名",
					"password": "密码",
					"column": [
						"id",
						"version",
						"created",
						"modified",
						"code",
						"name"
					],
					"splitPk": "pk",
					"where": "",
					"connection": [{
						"table": ["EMPLOYEE"],
						"jdbcUrl": ["jdbc:sqlserver://127.0.0.1:1433;DatabaseName=TEST"]
					}]
				}
			},
			"writer": {
				"name": "mongodbwriter",
				"parameter": {
					"address": ["127.0.0.1:27017"],
					"userName": "datax",
					"userPassword": "datax",
					"dbName": "TEST",
					"collectionName": "employee",
					"column": [{
						"name": "id",
						"type": "string"
					}, {
						"name": "version",
						"type": "int"
					}, {

						"name": "created",
						"type": "date"
					}, {
						"name": "modified",
						"type": "date"
					}, {
						"name": "code",
						"type": "string"
					}, {
						"name": "name",
						"type": "string"
					}]
				}
			}
		}]
	}
}
字段名描述
channeldatax线程数(分几个线程执行)
其他参数查看下面参考资料

本文是SqlServerToMongodb的示例,其他查看github里面其他库的读写文档

参考资料:

GitHub - alibaba/DataX: DataX是阿里云DataWorks数据集成的开源版本。

https://github.com/alibaba/DataX/blob/master/sqlserverreader/doc/sqlserverreader.md

https://github.com/alibaba/DataX/blob/master/mongodbwriter/doc/mongodbwriter.md

5、启动任务

进入bin目录

执行命令(具体目录以自己放的位置为主):

python2 datax.py ../job/SqlServerToMongodb.json

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
对于将数据从MySQL迁移到Oracle,可以使用DataX工具来实现。DataX是一个开源的数据同步框架,可以用于不同数据之间的数据迁移。下面是具体的步骤: 1. 了解DataX:首先,你需要了解DataX的基本概念和使用方式。DataX是一个基于插件化的架构,可以支持不同的数据源和目标数据,包括MySQL和Oracle。 2. 下载和安装DataX:在进行数据迁移之前,你需要下载并安装DataX工具。你可以从DataX的官方网站或GitHub上获取最新的安装包。 3. 配置DataX作业:接下来,你需要创建一个DataX的作业配置文件,用于指定源数据和目标数据的连接信息、表名、字段映射等。在配置文件中,你需要指定源数据为MySQL,目标数据为Oracle,并提供相应的连接信息。 4. 执行DataX作业:配置完成后,你可以使用DataX命令行工具来执行该作业。DataX会根据配置文件中的信息,将数据从MySQL读取并写入到Oracle中。 需要注意的是,在执行DataX作业之前,你需要确保源数据和目标数据的连接正常,并且具有相应的权限。此外,如果源数据和目标数据的表结构不一致,你可能需要进行字段映射和转换,以确保数据能够正确地导入到目标数据中。 这是一个简单的示例,用于说明如何使用DataX数据从MySQL迁移到Oracle。具体的步骤和配置可能会因实际情况而有所不同,请根据你的具体需求和环境进行相应的调整和配置。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [DATAX 数据迁移 oracle-oracle](https://blog.csdn.net/weixin_42418589/article/details/126019261)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [使用datax数据从mysql迁移到oracle](https://blog.csdn.net/qq_38390669/article/details/109524637)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

时光下的旅途

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值