背景:一些客户反馈,增量同步数据到MaxCompute按照全天的数据做增量数据同步数据量太大,且不使用按天的增量同步数据,进行在MaxCompute上进行数据处理得出增量数据对于delete的相关数据不能做到很好的支持,在次给大家一个对增量数据同步的方案使用DTS做增量同步数据到MaxCompute,数据源为ECS上自建的mysql5.7。
一、为自建MySQL创建账号并设置
1.1登陆自建Mysql数据库
1.2创建mysql数据库中用于数据迁移/同步的账号
CREATE USER 'dtsmigration'@'%' IDENTIFIED BY 'Dts123456';
说明:
username:待创建的账号。
host:允许该账号登录的主机,如果允许该账号从任意主机登录数据库,可以使用百分号(%)。
password:账号的密码。
1.3对账号进行授权操作
GRANT privileges ON databasename.tablename TO 'username'@'host' WITH GRANT OPTION;
说明:
privileges:授予该账号的操作权限,如SELECT、INSERT、UPDATE等,如果要授予该账号所有权限,则使用ALL。
databasename:数据库名。如果要授予该账号具备所有数据库的操作权限,则使用星号(*)。
tablename:表名。如果要授予该账号具备所有表的操作权限,则使用星号(*)。
username:待授权的账号。
host:允许该账号登录的主机,如果允许该账号从任意主机登录,则使用百分号(%)。
WITH GRANT OPTION:授予该账号使用GRANT命令的权限,该参数为可选。
如果要给账户赋予所有数据库和表的权限,并容许从任意主机登陆数据库
GRANT ALL ON *.* TO 'dtsmigration'@'%';
1.4开启并设置自建Mysql数据库binlog
到指定目录下找到该文件