3.Otter快速上手

QuickStart

1.几点说明

otter依赖于canal提供数据库日志，针对mysql数据有一些要求，具体请查看： https://github.com/alibaba/canal/wiki/QuickStart

有一点特别注意：目前canal支持mixed,row,statement多种日志协议的解析，但配合otter进行数据库同步，目前仅支持row协议的同步，使用时需要注意.

环境准备

1. 操作系统

   a. otter为纯java编写，windows/linux均可支持

   b. jdk建议使用1.6.25以上的版本，稳定可靠，目前阿里巴巴使用基本为此版本

2. 整个otter同步由几部分组成，需要预先进行安装，后续会有专门的篇幅展开介绍

• manager
• node

3. otter node依赖于zookeeper进行分布式调度，需要安装一个zookeeper节点或者集群.

   重要：考虑异地机房的地域性，node机器会优先选择就近的zookeeper节点进行访问，比如国际站会在杭州和美国各部署node，针对美国的node会选择美国的zookeeper进行访问，提升读效率. ps. 不同机房的zookeeper集群组成一个物理大集群，只不过是根据地域不同划分为不同逻辑集群，所有地域的node机器对zookeeper进行写操作都会发到一个地域的zookeeper进行paoxs算法仲裁.

   所以，manager启动完成后，需要首先定义不同机房的zookeeper机器集群。

   比如：目前otter使用的zookeeper集群，在杭州会有3个机房，分别部署3+2+2台机器组成一个leader/follower集群，在美国一个机房部署2台机器，做为杭州机房zookeeper的observer(读镜像)，(observer模式特点：读请求在自己本地，写请求代理到leader/follower上投票处理，然后异步接收leader的写结果反馈. )

observer配置文档： http://zookeeper.apache.org/doc/trunk/zookeeperObservers.html

image

说明：添加了zookeeper集群后，会在添加node和canal时自动出现在可选列表里。 这也是添加node和canal的一个前提

2.环境安装

2.1 manager安装

Otter Manager QuickStart： Manager_Quickstart

2.2 node安装

Otter Node QuickStart : Node_Quickstart

2.3 网友分享

网友安装otter过程记录，供未接触java/mvn开发的运维人员使用 ：http://blog.sina.com.cn/s/articlelist_1869333262_0_1.html

3. 操作演示

演示视频(5分钟教你配置一个同步任务)：请点击图片或者这里

ScreenShot

演示说明：

1. 搭建一个数据库同步任务，源数据库ip为：10.20.144.25，目标数据库ip为：10.20.144.29. 源数据库已开启binlog，并且binlog_format为ROW.

mysql> show variables like '%binlog_format%';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| binlog_format | ROW   |
+---------------+-------+

2. 数据同步精确到一张表进行测试，测试的表名为test.example，简单包含两个子段，测试过程中才创建.

3. 配置完成后，手动在源库插入数据，然后快速在目标库进行查看数据，验证数据是否同步成功.

---

视频中的演示文本：

CREATE TABLE  `test`.`example` (
  `id` int(11)  NOT NULL AUTO_INCREMENT,
  `name` varchar(32) COLLATE utf8_bin DEFAULT NULL ,
   PRIMARY KEY (`ID`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

insert into test.example(id,name) values(null,'hello');

-----
Otter QuickStart 如何配置一个任务
-----
操作步骤：
1.  添加数据库
    a.  源库 jdbc:mysql://10.20.144.25:3306
    b.  目标库 jdbc:mysql://10.20.144.29:3306
2.  添加canal
    a.  提供数据库ip信息 
3.  添加同步表信息
    a.  源数据表 test.example
    b.  目标数据表 test.example
4.  添加channel
5.  添加pipeline
    a.  选择node节点
    b.  选择canal
6.  添加同步映射规则
    a.  定义源表和目标表的同步关系
7.  启动
8.  测试数据

Manager_Quickstart

KingZzz edited this page on 1 Feb · 9 revisions

1.环境准备

1. otter manager依赖于mysql进行配置信息的存储，所以需要预先安装mysql，并初始化otter manager的系统表结构

   a. 安装mysql，这里不展开，网上一搜一大把

   b. 初始化otter manager系统表：

下载：
wget https://raw.github.com/alibaba/otter/master/manager/deployer/src/main/resources/sql/otter-manager-schema.sql 
载入：
source otter-manager-schema.sql

2. 整个otter架构依赖了zookeeper进行多节点调度，所以需要预先安装zookeeper，不需要初始化节点，otter程序启动后会自检.

   a. manager需要在otter.properties中指定一个就近的zookeeper集群机器

2.启动步骤

1. 下载otter manager

直接下载 ，可访问：https://github.com/alibaba/otter/releases ，会列出所有历史的发布版本包下载方式，比如以x.y.z版本为例子：

wget https://github.com/alibaba/otter/releases/download/otter-x.y.z/manager.deployer-x.y.z.tar.gz

or
自己编译

git clone git@github.com:alibaba/otter.git
cd otter; 
mvn clean install -Dmaven.test.skip -Denv=release
编译完成后，会在根目录下产生target/manager.deployer-$version.tar.gz

2. 解压缩

mkdir /tmp/manager
tar zxvf manager.deployer-$version.tar.gz  -C /tmp/manager

3. 配置修改

## otter manager domain name #修改为正确访问ip，生成URL使用
otter.domainName = 127.0.0.1    
## otter manager http port
otter.port = 8080
## jetty web config xml
otter.jetty = jetty.xml

otter manager database config ，修改为正确数据库信息

otter.database.driver.class.name = com.mysql.jdbc.Driver
otter.database.driver.url = jdbc:mysql://127.0.01:3306/ottermanager
otter.database.driver.username = root
otter.database.driver.password = hello



otter communication port

otter.communication.manager.port = 1099



otter communication pool size

otter.communication.pool.size = 10



default zookeeper address，修改为正确的地址，手动选择一个地域就近的zookeeper集群列表

otter.zookeeper.cluster.default = 127.0.0.1:2181



default zookeeper session timeout = 90s

otter.zookeeper.sessionTimeout = 90000



otter arbitrate connect manager config

otter.manager.address = ${otter.domainName}:${otter.communication.manager.port}

4. 准备启动

sh startup.sh

5. 查看日志

vi logs/manager.log

2013-08-14 13:19:45.911 [] WARN  com.alibaba.otter.manager.deployer.JettyEmbedServer - ##Jetty Embed Server is startup!
2013-08-14 13:19:45.911 [] WARN  com.alibaba.otter.manager.deployer.OtterManagerLauncher - ## the manager server is running now

出现类似日志，代表启动成功

6. 验证

访问： http://127.0.0.1:8080/，出现otter的页面，即代表启动成功

image

访问： http://127.0.0.1:8080/login.htm，初始密码为：admin/admin，即可完成登录. 目前：匿名用户只有只读查看的权限，登录为管理员才可以有操作权限

7. 关闭

sh stop.sh

Node_Quickstart

1.环境准备

1. otter node会受otter manager进行管理，所以需要预先安装otter manager，参见：Otter Manager Quickstart.

2. 完成manager安装后，需要在manager页面为node定义配置信息，并生一个唯一id.

   a. 首先访问manager页面的机器管理页面，点击添加机器按钮

   

   image

几点说明：

1. 机器名称：可以随意定义，方便自己记忆即可

2. 机器ip：对应node节点将要部署的机器ip，如果有多ip时，可选择其中一个ip进行暴露. (此ip是整个集群通讯的入口，实际情况千万别使用127.0.0.1，否则多个机器的node节点会无法识别)

3. 机器端口：对应node节点将要部署时启动的数据通讯端口，建议值：2088

4. 下载端口：对应node节点将要部署时启动的数据下载端口，建议值：9090

5. 外部ip ：对应node节点将要部署的机器ip，存在的一个外部ip，允许通讯的时候走公网处理。

6. zookeeper集群：为提升通讯效率，不同机房的机器可选择就近的zookeeper集群.

7. node这种设计，是为解决单机部署多实例而设计的，允许单机多node指定不同的端口

   b. 机器添加完成后，跳转到机器列表页面，获取对应的机器序号nid

通过这两部操作，获取到了node节点对应的唯一标示，称之为node id，简称：nid. 记录该nid，后续启动nid时会使用

3. node节点进行跨机房传输时，会使用到HTTP多线程传输技术，目前主要依赖了aria2c做为其下载客户端，后续会推出java版本.

   a. aria2 官方首页： http://aria2.sourceforge.net/

   b. 下载页面： http://sourceforge.net/projects/aria2/files/stable/

当前测试过多个HTTP多线程下载客户端，比如wget,curl,axel,oget,proz,aria2c，测试结果aria2c下载效率最快，基本可以压满网卡.

注意：下载完成或者编译完成后，将对应的aria2c包加入到PATH路径即可.

2.启动步骤

1. 下载otter node

直接下载 ，可访问：https://github.com/alibaba/otter/releases ，会列出所有历史的发布版本包下载方式，比如以x.y.z版本为例子：

wget https://github.com/alibaba/otter/releases/download/otter-x.y.z/node.deployer-x.y.z.tar.gz
or自己编译:

git clone git@github.com:alibaba/otter.git  
cd otter;   
mvn clean install -Dmaven.test.skip -Denv=release  
编译完成后，会在根目录下产生target/node.deployer-$version.tar.gz

2. 解压缩

mkdir /tmp/node
tar zxvf node.deployer-$version.tar.gz  -C /tmp/node

3. 配置修改

a. nid配置 (将环境准备中添加机器后获取到的序号，保存到conf目录下的nid文件，比如我添加的机器对应序号为1)

echo 1 > conf/nid
    b. otter.properties配置修改

# otter node root dir
otter.nodeHome = ${user.dir}/../node 
## otter node dir
otter.htdocs.dir = ${otter.nodeHome}/htdocs
otter.download.dir = ${otter.nodeHome}/download
otter.extend.dir= ${otter.nodeHome}/extend

default zookeeper sesstion timeout = 90s

otter.zookeeper.sessionTimeout = 90000



otter communication pool size

otter.communication.pool.size = 10



otter arbitrate & node connect manager config ， 修改为正确的manager服务地址

otter.manager.address = 127.0.0.1:1099

4. 准备启动

sh startup.sh

5. 查看日志

如果manager页面的ip配置不正确，会出现类似错误：

打开日志： vi logs/node/node.log

Exception in thread "main" java.lang.IllegalArgumentException: node[1] ip[127.0.0.1] port[2088] , but your host ip[10.12.48.215] is not matched!
        at com.alibaba.otter.node.etl.OtterController.checkNidVaild(OtterController.java:245)
        at com.alibaba.otter.node.etl.OtterController.initNid(OtterController.java:230)
        at com.alibaba.otter.node.etl.OtterController.start(OtterController.java:73)
        at com.alibaba.otter.node.deployer.OtterLauncher.main(OtterLauncher.java:25)

此时修改ip为对应的host ip后，再次启动即可。

vi logs/node/node.log
2013-08-14 15:42:16.886 [main] INFO  com.alibaba.otter.node.deployer.OtterLauncher - INFO ## the otter server is running now ......
看到如下日志，代表node启动完成.

6. 验证

访问： http://127.0.0.1:8080/node_list.htm，查看对应的节点状态，如果变为了已启动，代表已经正常启动。(ps，如果是未启动，会是一个红色高亮)

image

7. 关闭

sh stop.sh

关闭后，可查看下manager页面，检查下节点状态.