otter mysql教学视频_3.Otter快速上手

QuickStart

1.几点说明

有一点特别注意：目前canal支持mixed,row,statement多种日志协议的解析，但配合otter进行数据库同步，目前仅支持row协议的同步，使用时需要注意.

环境准备

操作系统

a. otter为纯java编写，windows/linux均可支持

b. jdk建议使用1.6.25以上的版本，稳定可靠，目前阿里巴巴使用基本为此版本

整个otter同步由几部分组成，需要预先进行安装，后续会有专门的篇幅展开介绍

manager

node

otter node依赖于zookeeper进行分布式调度，需要安装一个zookeeper节点或者集群.

重要：考虑异地机房的地域性，node机器会优先选择就近的zookeeper节点进行访问，比如国际站会在杭州和美国各部署node，针对美国的node会选择美国的zookeeper进行访问，提升读效率. ps. 不同机房的zookeeper集群组成一个物理大集群，只不过是根据地域不同划分为不同逻辑集群，所有地域的node机器对zookeeper进行写操作都会发到一个地域的zookeeper进行paoxs算法仲裁.

所以，manager启动完成后，需要首先定义不同机房的zookeeper机器集群。

比如：目前otter使用的zookeeper集群，在杭州会有3个机房，分别部署3+2+2台机器组成一个leader/follower集群，在美国一个机房部署2台机器，做为杭州机房zookeeper的observer(读镜像)，(observer模式特点：读请求在自己本地，写请求代理到leader/follower上投票处理，然后异步接收leader的写结果反馈. )

image

说明：添加了zookeeper集群后，会在添加node和canal时自动出现在可选列表里。 这也是添加node和canal的一个前提

2.环境安装

2.1 manager安装

Otter Manager QuickStart： Manager_Quickstart

2.2 node安装

Otter Node QuickStart : Node_Quickstart

2.3 网友分享

3. 操作演示

演示视频(5分钟教你配置一个同步任务)：请点击图片或者这里

搭建一个数据库同步任务，源数据库ip为：10.20.144.25，目标数据库ip为：10.20.144.29. 源数据库已开启binlog，并且binlog_format为ROW.

mysql> show variables like '%binlog_format%';

+---------------+-------+

| Variable_name | Value |

+---------------+-------+

| binlog_format | ROW |

+---------------+-------+

数据同步精确到一张表进行测试，测试的表名为test.example，简单包含两个子段，测试过程中才创建.

配置完成后，手动在源库插入数据，然后快速在目标库进行查看数据，验证数据是否同步成功.

视频中的演示文本：

CREATE TABLE `test`.`example` (

`id` int(11) NOT NULL AUTO_INCREMENT,

`name` varchar(32) COLLATE utf8_bin DEFAULT NULL ,

PRIMARY KEY (`ID`)

) ENGINE=InnoDB DEFAULT CHARSET=utf8;

insert into test.example(id,name) values(null,'hello');

-----

Otter QuickStart 如何配置一个任务

-----

操作步骤：

1. 添加数据库

a. 源库 jdbc:mysql://10.20.144.25:3306

b. 目标库 jdbc:mysql://10.20.144.29:3306

2. 添加canal

a. 提供数据库ip信息

3. 添加同步表信息

a. 源数据表 test.example

b. 目标数据表 test.example

4. 添加channel

5. 添加pipeline

a. 选择node节点

b. 选择canal

6. 添加同步映射规则

a. 定义源表和目标表的同步关系

7. 启动

8. 测试数据

Manager_Quickstart

KingZzz edited this page on 1 Feb · 9 revisions

1.环境准备

otter manager依赖于mysql进行配置信息的存储，所以需要预先安装mysql，并初始化otter manager的系统表结构

a. 安装mysql，这里不展开，网上一搜一大把

b. 初始化otter manager系统表：

下载：

wget https://raw.github.com/alibaba/otter/master/manager/deployer/src/main/resources/sql/otter-manager-schema.sql

载入：

source otter-manager-schema.sql

整个otter架构依赖了zookeeper进行多节点调度，所以需要预先安装zookeeper，不需要初始化节点，otter程序启动后会自检.

a. manager需要在otter.properties中指定一个就近的zookeeper集群机器

2.启动步骤

下载otter manager

直接下载 ，可访问：https://github.com/alibaba/otter/releases ，会列出所有历史的发布版本包下载方式，比如以x.y.z版本为例子：

wget https://github.com/alibaba/otter/releases/download/otter-x.y.z/manager.deployer-x.y.z.tar.gz

or

自己编译

git clone git@github.com:alibaba/otter.git

cd otter;

mvn clean install -Dmaven.test.skip -Denv=release

编译完成后，会在根目录下产生target/manager.deployer-$version.tar.gz

解压缩

mkdir /tmp/manager

tar zxvf manager.deployer-$version.tar.gz -C /tmp/manager

配置修改

## otter manager domain name #修改为正确访问ip，生成URL使用

otter.domainName = 127.0.0.1

## otter manager http port

otter.port = 8080

## jetty web config xml

otter.jetty = jetty.xml

otter manager database config ，修改为正确数据库信息

otter.database.driver.class.name = com.mysql.jdbc.Driver

otter.database.driver.url = jdbc:mysql://127.0.01:3306/ottermanager

otter.database.driver.username = root

otter.database.driver.password = hello

otter communication port

otter.communication.manager.port = 1099

otter communication pool size

otter.communication.pool.size = 10

default zookeeper address，修改为正确的地址，手动选择一个地域就近的zookeeper集群列表

otter.zookeeper.cluster.default = 127.0.0.1:2181

default zookeeper session timeout = 90s

otter.zookeeper.sessionTimeout = 90000

otter arbitrate connect manager config

otter.manager.address = ${otter.domainName}:${otter.communication.manager.port}

准备启动

sh startup.sh

查看日志

vi logs/manager.log

2013-08-14 13:19:45.911 [] WARN com.alibaba.otter.manager.deployer.JettyEmbedServer - ##Jetty Embed Server is startup!

2013-08-14 13:19:45.911 [] WARN com.alibaba.otter.manager.deployer.OtterManagerLauncher - ## the manager server is running now

出现类似日志，代表启动成功

验证

访问： http://127.0.0.1:8080/，出现otter的页面，即代表启动成功

image

访问：http://127.0.0.1:8080/login.htm，初始密码为：admin/admin，即可完成登录. 目前：匿名用户只有只读查看的权限，登录为管理员才可以有操作权限

关闭

sh stop.sh

Node_Quickstart

1.环境准备

otter node会受otter manager进行管理，所以需要预先安装otter manager，参见：Otter Manager Quickstart.

完成manager安装后，需要在manager页面为node定义配置信息，并生一个唯一id.

a. 首先访问manager页面的机器管理页面，点击添加机器按钮

image

几点说明：

机器名称：可以随意定义，方便自己记忆即可

机器ip：对应node节点将要部署的机器ip，如果有多ip时，可选择其中一个ip进行暴露. (此ip是整个集群通讯的入口，实际情况千万别使用127.0.0.1，否则多个机器的node节点会无法识别)

机器端口：对应node节点将要部署时启动的数据通讯端口，建议值：2088

下载端口：对应node节点将要部署时启动的数据下载端口，建议值：9090

外部ip ：对应node节点将要部署的机器ip，存在的一个外部ip，允许通讯的时候走公网处理。

zookeeper集群：为提升通讯效率，不同机房的机器可选择就近的zookeeper集群.

node这种设计，是为解决单机部署多实例而设计的，允许单机多node指定不同的端口

b. 机器添加完成后，跳转到机器列表页面，获取对应的机器序号nid

通过这两部操作，获取到了node节点对应的唯一标示，称之为node id，简称：nid. 记录该nid，后续启动nid时会使用

node节点进行跨机房传输时，会使用到HTTP多线程传输技术，目前主要依赖了aria2c做为其下载客户端，后续会推出java版本.

当前测试过多个HTTP多线程下载客户端，比如wget,curl,axel,oget,proz,aria2c，测试结果aria2c下载效率最快，基本可以压满网卡.

注意：下载完成或者编译完成后，将对应的aria2c包加入到PATH路径即可.

2.启动步骤

下载otter node

直接下载 ，可访问：https://github.com/alibaba/otter/releases ，会列出所有历史的发布版本包下载方式，比如以x.y.z版本为例子：

wget https://github.com/alibaba/otter/releases/download/otter-x.y.z/node.deployer-x.y.z.tar.gz

or自己编译:

git clone git@github.com:alibaba/otter.git

cd otter;

mvn clean install -Dmaven.test.skip -Denv=release

编译完成后，会在根目录下产生target/node.deployer-$version.tar.gz

解压缩

mkdir /tmp/node

tar zxvf node.deployer-$version.tar.gz -C /tmp/node

配置修改

a. nid配置 (将环境准备中添加机器后获取到的序号，保存到conf目录下的nid文件，比如我添加的机器对应序号为1)

echo 1 > conf/nid

b. otter.properties配置修改

# otter node root dir

otter.nodeHome = ${user.dir}/../node

## otter node dir

otter.htdocs.dir = ${otter.nodeHome}/htdocs

otter.download.dir = ${otter.nodeHome}/download

otter.extend.dir= ${otter.nodeHome}/extend

default zookeeper sesstion timeout = 90s

otter.zookeeper.sessionTimeout = 90000

otter communication pool size

otter.communication.pool.size = 10

otter arbitrate & node connect manager config ， 修改为正确的manager服务地址

otter.manager.address = 127.0.0.1:1099

准备启动

sh startup.sh

查看日志

如果manager页面的ip配置不正确，会出现类似错误：

打开日志： vi logs/node/node.log

Exception in thread "main" java.lang.IllegalArgumentException: node[1] ip[127.0.0.1] port[2088] , but your host ip[10.12.48.215] is not matched!

at com.alibaba.otter.node.etl.OtterController.checkNidVaild(OtterController.java:245)

at com.alibaba.otter.node.etl.OtterController.initNid(OtterController.java:230)

at com.alibaba.otter.node.etl.OtterController.start(OtterController.java:73)

at com.alibaba.otter.node.deployer.OtterLauncher.main(OtterLauncher.java:25)

此时修改ip为对应的host ip后，再次启动即可。

vi logs/node/node.log

2013-08-14 15:42:16.886 [main] INFO com.alibaba.otter.node.deployer.OtterLauncher - INFO ## the otter server is running now ......

看到如下日志，代表node启动完成.

验证

访问： http://127.0.0.1:8080/node_list.htm，查看对应的节点状态，如果变为了已启动，代表已经正常启动。(ps，如果是未启动，会是一个红色高亮)

image

关闭

sh stop.sh

关闭后，可查看下manager页面，检查下节点状态.