3.Otter快速上手

QuickStart

1.几点说明

otter依赖于canal提供数据库日志,针对mysql数据有一些要求,具体请查看: https://github.com/alibaba/canal/wiki/QuickStart

有一点特别注意:目前canal支持mixed,row,statement多种日志协议的解析,但配合otter进行数据库同步,目前仅支持row协议的同步,使用时需要注意.

环境准备

  1. 操作系统

    a. otter为纯java编写,windows/linux均可支持

    b. jdk建议使用1.6.25以上的版本,稳定可靠,目前阿里巴巴使用基本为此版本

  2. 整个otter同步由几部分组成,需要预先进行安装,后续会有专门的篇幅展开介绍

  • manager
  • node
  1. otter node依赖于zookeeper进行分布式调度,需要安装一个zookeeper节点或者集群.

    重要:考虑异地机房的地域性,node机器会优先选择就近的zookeeper节点进行访问,比如国际站会在杭州和美国各部署node,针对美国的node会选择美国的zookeeper进行访问,提升读效率. ps. 不同机房的zookeeper集群组成一个物理大集群,只不过是根据地域不同划分为不同逻辑集群,所有地域的node机器对zookeeper进行写操作都会发到一个地域的zookeeper进行paoxs算法仲裁.

    所以,manager启动完成后,需要首先定义不同机房的zookeeper机器集群。

    比如:目前otter使用的zookeeper集群,在杭州会有3个机房,分别部署3+2+2台机器组成一个leader/follower集群,在美国一个机房部署2台机器,做为杭州机房zookeeper的observer(读镜像),(observer模式特点:读请求在自己本地,写请求代理到leader/follower上投票处理,然后异步接收leader的写结果反馈. )

observer配置文档: http://zookeeper.apache.org/doc/trunk/zookeeperObservers.html

image

说明:添加了zookeeper集群后,会在添加node和canal时自动出现在可选列表里。 这也是添加node和canal的一个前提

2.环境安装

2.1 manager安装

Otter Manager QuickStart: Manager_Quickstart

2.2 node安装

Otter Node QuickStart : Node_Quickstart

2.3 网友分享

网友安装otter过程记录,供未接触java/mvn开发的运维人员使用 :http://blog.sina.com.cn/s/articlelist_1869333262_0_1.html

3. 操作演示

演示视频(5分钟教你配置一个同步任务):请点击图片或者这里


演示说明:
  1. 搭建一个数据库同步任务,源数据库ip为:10.20.144.25,目标数据库ip为:10.20.144.29. 源数据库已开启binlog,并且binlog_format为ROW.
mysql> show variables like '%binlog_format%';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| binlog_format | ROW   |
+---------------+-------+
  1. 数据同步精确到一张表进行测试,测试的表名为test.example,简单包含两个子段,测试过程中才创建.

  2. 配置完成后,手动在源库插入数据,然后快速在目标库进行查看数据,验证数据是否同步成功.


视频中的演示文本:

CREATE TABLE  `test`.`example` (
  `id` int(11)  NOT NULL AUTO_INCREMENT,
  `name` varchar(32) COLLATE utf8_bin DEFAULT NULL ,
   PRIMARY KEY (`ID`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

insert into test.example(id,name) values(null,'hello');

-----
Otter QuickStart 如何配置一个任务
-----
操作步骤:
1.  添加数据库
    a.  源库 jdbc:mysql://10.20.144.25:3306
    b.  目标库 jdbc:mysql://10.20.144.29:3306
2.  添加canal
    a.  提供数据库ip信息 
3.  添加同步表信息
    a.  源数据表 test.example
    b.  目标数据表 test.example
4.  添加channel
5.  添加pipeline
    a.  选择node节点
    b.  选择canal
6.  添加同步映射规则
    a.  定义源表和目标表的同步关系
7.  启动
8.  测试数据

Manager_Quickstart

KingZzz edited this page on 1 Feb · 9 revisions

1.环境准备

  1. otter manager依赖于mysql进行配置信息的存储,所以需要预先安装mysql,并初始化otter manager的系统表结构

    a. 安装mysql,这里不展开,网上一搜一大把

    b. 初始化otter manager系统表:

下载:
wget https://raw.github.com/alibaba/otter/master/manager/deployer/src/main/resources/sql/otter-manager-schema.sql 
载入:
source otter-manager-schema.sql
  1. 整个otter架构依赖了zookeeper进行多节点调度,所以需要预先安装zookeeper,不需要初始化节点,otter程序启动后会自检.

    a. manager需要在otter.properties中指定一个就近的zookeeper集群机器

2.启动步骤

  1. 下载otter manager

直接下载 ,可访问:https://github.com/alibaba/otter/releases ,会列出所有历史的发布版本包下载方式,比如以x.y.z版本为例子:

wget https://github.com/alibaba/otter/releases/download/otter-x.y.z/manager.deployer-x.y.z.tar.gz

or
自己编译

git clone git@github.com:alibaba/otter.git
cd otter; 
mvn clean install -Dmaven.test.skip -Denv=release
编译完成后,会在根目录下产生target/manager.deployer-$version.tar.gz
  1. 解压缩
mkdir /tmp/manager
tar zxvf manager.deployer-$version.tar.gz  -C /tmp/manager
  1. 配置修改
## otter manager domain name #修改为正确访问ip,生成URL使用
otter.domainName = 127.0.0.1    
## otter manager http port
otter.port = 8080
## jetty web config xml
otter.jetty = jetty.xml

otter manager database config ,修改为正确数据库信息

otter.database.driver.class.name = com.mysql.jdbc.Driver
otter.database.driver.url = jdbc:mysql://127.0.01:3306/ottermanager
otter.database.driver.username = root
otter.database.driver.password = hello



otter communication port

otter.communication.manager.port = 1099



otter communication pool size

otter.communication.pool.size = 10



default zookeeper address,修改为正确的地址,手动选择一个地域就近的zookeeper集群列表

otter.zookeeper.cluster.default = 127.0.0.1:2181



default zookeeper session timeout = 90s

otter.zookeeper.sessionTimeout = 90000



otter arbitrate connect manager config

otter.manager.address = ${otter.domainName}:${otter.communication.manager.port}
  1. 准备启动
sh startup.sh
  1. 查看日志
vi logs/manager.log

2013-08-14 13:19:45.911 [] WARN  com.alibaba.otter.manager.deployer.JettyEmbedServer - ##Jetty Embed Server is startup!
2013-08-14 13:19:45.911 [] WARN  com.alibaba.otter.manager.deployer.OtterManagerLauncher - ## the manager server is running now

出现类似日志,代表启动成功

  1. 验证

访问: http://127.0.0.1:8080/,出现otter的页面,即代表启动成功

image

访问: http://127.0.0.1:8080/login.htm,初始密码为:admin/admin,即可完成登录. 目前:匿名用户只有只读查看的权限,登录为管理员才可以有操作权限
  1. 关闭
sh stop.sh

Node_Quickstart

1.环境准备

  1. otter node会受otter manager进行管理,所以需要预先安装otter manager,参见:Otter Manager Quickstart.

  2. 完成manager安装后,需要在manager页面为node定义配置信息,并生一个唯一id.

    a. 首先访问manager页面的机器管理页面,点击添加机器按钮

    image

几点说明:

  1. 机器名称:可以随意定义,方便自己记忆即可

  2. 机器ip:对应node节点将要部署的机器ip,如果有多ip时,可选择其中一个ip进行暴露. (此ip是整个集群通讯的入口,实际情况千万别使用127.0.0.1,否则多个机器的node节点会无法识别)

  3. 机器端口:对应node节点将要部署时启动的数据通讯端口,建议值:2088

  4. 下载端口:对应node节点将要部署时启动的数据下载端口,建议值:9090

  5. 外部ip :对应node节点将要部署的机器ip,存在的一个外部ip,允许通讯的时候走公网处理。

  6. zookeeper集群:为提升通讯效率,不同机房的机器可选择就近的zookeeper集群.

  7. node这种设计,是为解决单机部署多实例而设计的,允许单机多node指定不同的端口

    b. 机器添加完成后,跳转到机器列表页面,获取对应的机器序号nid

通过这两部操作,获取到了node节点对应的唯一标示,称之为node id,简称:nid. 记录该nid,后续启动nid时会使用

  1. node节点进行跨机房传输时,会使用到HTTP多线程传输技术,目前主要依赖了aria2c做为其下载客户端,后续会推出java版本.

    a. aria2 官方首页: http://aria2.sourceforge.net/

    b. 下载页面: http://sourceforge.net/projects/aria2/files/stable/

当前测试过多个HTTP多线程下载客户端,比如wget,curl,axel,oget,proz,aria2c,测试结果aria2c下载效率最快,基本可以压满网卡.

注意:下载完成或者编译完成后,将对应的aria2c包加入到PATH路径即可.

2.启动步骤

  1. 下载otter node
直接下载 ,可访问:https://github.com/alibaba/otter/releases ,会列出所有历史的发布版本包下载方式,比如以x.y.z版本为例子:

wget https://github.com/alibaba/otter/releases/download/otter-x.y.z/node.deployer-x.y.z.tar.gz
or自己编译:

git clone git@github.com:alibaba/otter.git  
cd otter;   
mvn clean install -Dmaven.test.skip -Denv=release  
编译完成后,会在根目录下产生target/node.deployer-$version.tar.gz
  1. 解压缩
mkdir /tmp/node
tar zxvf node.deployer-$version.tar.gz  -C /tmp/node
  1. 配置修改
a. nid配置 (将环境准备中添加机器后获取到的序号,保存到conf目录下的nid文件,比如我添加的机器对应序号为1)

echo 1 > conf/nid
    b. otter.properties配置修改

# otter node root dir
otter.nodeHome = ${user.dir}/../node 
## otter node dir
otter.htdocs.dir = ${otter.nodeHome}/htdocs
otter.download.dir = ${otter.nodeHome}/download
otter.extend.dir= ${otter.nodeHome}/extend

default zookeeper sesstion timeout = 90s

otter.zookeeper.sessionTimeout = 90000



otter communication pool size

otter.communication.pool.size = 10



otter arbitrate & node connect manager config , 修改为正确的manager服务地址

otter.manager.address = 127.0.0.1:1099
  1. 准备启动
sh startup.sh
  1. 查看日志

如果manager页面的ip配置不正确,会出现类似错误:

打开日志: vi logs/node/node.log

Exception in thread "main" java.lang.IllegalArgumentException: node[1] ip[127.0.0.1] port[2088] , but your host ip[10.12.48.215] is not matched!
        at com.alibaba.otter.node.etl.OtterController.checkNidVaild(OtterController.java:245)
        at com.alibaba.otter.node.etl.OtterController.initNid(OtterController.java:230)
        at com.alibaba.otter.node.etl.OtterController.start(OtterController.java:73)
        at com.alibaba.otter.node.deployer.OtterLauncher.main(OtterLauncher.java:25)

此时修改ip为对应的host ip后,再次启动即可。

vi logs/node/node.log
2013-08-14 15:42:16.886 [main] INFO  com.alibaba.otter.node.deployer.OtterLauncher - INFO ## the otter server is running now ......
看到如下日志,代表node启动完成.
  1. 验证

访问: http://127.0.0.1:8080/node_list.htm,查看对应的节点状态,如果变为了已启动,代表已经正常启动。(ps,如果是未启动,会是一个红色高亮)

image
  1. 关闭
sh stop.sh

关闭后,可查看下manager页面,检查下节点状态.

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值