阿里 otter搭建过程整理

1 环境说明:

       本机ip 192.168.8.3

       虚拟机1 ip 192.168.8.5

       虚拟机2 ip 192.168.8.6

       虚拟机采取桥接模式

       虚拟机系统为CentOS 2.6.32-279.el6.i686

       java版本 1.6.0-24

       mysql版本 5.1.61-log

2 虚拟机8.5搭建otter

2.0配置固定ip和修改host

              2.0.1 虚拟机8.5 ip为192.168.8.5

                       vi /etc/syscnfig/network-script/ifcfg-eth0

        DEVICE="eth0"

        BOOTPROTO="static"

        IPADDR="192.168.8.5"

        NETMASK="255.255.255.0"

        HWADDR="00:0C......."

        NM_CONTROLLED="YES"

        ONBOOT="yes"

        .........

              2.0.2 修改host

                     vi /etc/hosts

         192.168.8.5 localhost.localdomain

 

     2.1 关闭防火墙

              root用户 service iptables stop

     2.2 安装mysql

              2.2.1 用户为 root,密码为hello

              2.2.2 修改mysql的配置文件

                     vi /etc/my.cnf

     [mysqld]

    log-bin=mysql-bin

binlog-frmat=ROW

server-id=1

datadir=/vat/lib/mysql/data

socket=/var/lib/mysql/mysql.sock

user=mysql

symbolic-links=0

default-character-set=utf8

其中,log-bin为打开mysql的binlog二进制日志

       binlog-format为列模式

       server-id需要保证不同的数据库的id不相同,具有唯一性

       datadir为数据存储的文件夹,没有的话需要进行创建

       default-character-set=utf8,为设置mysql的默认字符集为utf-8

              2.2.2 初始化otter数据库,初始化sql为文件夹中的 otter-manager-schema.sql

2.2.3 搭建双A模式,需要初始化数据库retl,初始化sql为文件夹中的otter-manager-retl.sql。

2.2.4 新建个测试库 test,新建一张测试表test

create table test(id int(11),name varchar(32));

     2.3 安装jdk,并配置环境变量,otter推荐使用1.6.5,说是稳定

     2.4 安装 aria2(node需要aria2c的支持)

              2.4.1 下载压缩包

              2.4.2 tar –zxvf aria2-1.17.1.tar.gz

              2.4.3 mv aria2-1.17.1 aria2

              2.4.4 mv aria2 /usr/local

              2.4.5 cd /usr/local/aria2

              2.4.6 ./configure

              2.4.7 make

              2.4.8 make install

     2.5 安装node

              2.5.1 下载压缩包

              2.5.2 mkdir node

              2.5.3 mv node.deployer-4.2.11.tar.gz ./node

              2.5.4 tar –zxvf node.deployer-4.2.11.tar.gz

              2.5.5 mv node.deployer-4.2.11.tar.gz ../

              2.5.6 mv ../node /usr/local

              2.5.7 cd /usr/local/node

              2.5.8 manager安装成功之后,在机器管理/node管理中添加上本机的node之后,可以看到这个node对应的序号

 

上图中 8.5虚拟机的node序号为1,8.6虚拟机的node序号为2

              2.5.9 进入node的conf文件夹

              2.5.10 echo 1 > nid

      

 

             

              node的日志在 logs/node/node.log

     2.6 安装zookeeper

              2.6.1 下载压缩包

              2.6.2 tar –zxvf zookeeper-3.4.5-cdh4.3.0.tar.gz

              2.6.3 mv zookeeper-3.4.5-cdh4.3.0 zookeeper

              2.6.4 cd ./zookeeper /usr/local

              2.6.5 cd /usr/local/zookeeper/conf

              2.6.6 cp zoo_sample.cfg zoo.cfg

              2.6.7 vi zoo.cfg

 

文件中 clientPort为zookeeper的端口号

              2.6.8 cd ../bin

              zookeeper启动的时候打印日志到bin目录下的zookeeper.out,如果不习惯,可以修改为打印到log日志,修改步骤如下

              a 修改conf/log4j.properties

zookeeper.root.logger=INFO, CONSOLE 

改成  

zookeeper.root.logger=INFO,ROLLINGFILE 

b 修改bin/zkEvn.sh文件,

 

if [ "x${ZOO_LOG4J_PROP}" = "x" ] 

then 

    ZOO_LOG4J_PROP="INFO,CONSOLE" 

fi 

改成

if [ "x${ZOO_LOG4J_PROP}" = "x" ] 

then 

    ZOO_LOG4J_PROP="INFO,ROLLINGFILE" 

fi 

c 这样再启动zkSever.sh start的时候 就会生成log4j.properties配置的中设定的zookeeper.log文件。

              2.6.9 启动zookeeper

              ./zkServer.sh start

              停止命令为 ./zkServer.sh stop

     2.7 安装manager(需要zookeeper的支持)

       2.7.1 下载manager.deployer-4.2.11.tar.gz

       2.7.2 mkdir manager

       2.7.3 mv manager.deployer-4.2.11.tar.gz ./manager

       2.7.4 cd ./manager

2.7.5 tar –zxvf manager.deployer-4.2.11.tar.gz

       2.7.6 mv manager.deployer-4.2.11.tar.gz ../

       2.7.7 cd ../

       2.7.8 mv ./manager /usr/local

       2.7.9 cd /usr/local/manager/conf

       2.7.10 vi otter.properties

      

       a otter.domaniName 可以写本机hostname,但是要修改/etc/hosts,保证hostname映射为本机的固定ip

       b otter.port 为manager管理端的端口,即web工程的端口

       c otter.database.driver.url为mysql地址和数据库实例,写本机ip而不是127.0.0.1,写127.0.0.1,8.6虚拟机访问不到

       d otter.database.driver.username为数据库的用户名

       e otter.database.driver.password 为数据库的密码

       f otter.communication.manager.port为manager的服务端口

       g otter.zookeeper.cluster.default为zookeeper的地址,包括本机ip和端口,这个端口就是zookeeper的conf中的zoo.cfg中的clientPort

2.7.11 启动manager

              ./bin/startup.sh

       如果文件夹中有otter.pid文件,说明manage已经启动或者上次没有关闭,先执行一次 ./stop.sh ,就可以启动起来了

       manager的日志在 logs/manager.log

 

3 虚拟机8.6安装数据库和node

       3.0 设置固定ip和修改hosts

 

  

 

 

       3.1 安装mysql

              配置/etc/my.cnf

 

注意server-id号和虚拟机8.5的mysql的server-id不同

 

       3.2 安装node

       3.3 配置固定ip

4 操作步骤

4.1 192.168.8.5虚拟机

           4.1.1 关闭防火墙

                     service iptables stop

 

           4.1.2 root开启mysql数据库

 

可以通过以下操作本地登陆mysql数据库

 

           4.1.3 开启zookeeper

   root用户

  cd /usr/local/zookeeper/bin

./zkServer.sh start

 

./zkServer.sh stop

            4.1.4 开启manager

 cd /usr/local/manager/bin

./startup.sh

              可以通过 tail –f ../logs/manager.log 通过日志查看查看开启状态

 

           4.1.5 开启node

 cd /usr/local/node/bin

./startip.sh

通过以下操作查看node开启状态

 

4.2 192.168.8.6 虚拟机

           4.2.1 root用户关闭防火墙

 service iptables stop

           4.2.2 启动mysql数据库

 service mysqld start

              使用以下命令本地连接数据库查看

 mysql -y root -phello

 

           4.2.3 启动node

 

4.3 otter配置(虚拟机192.168.8.5中进行操作)

           4.3.1 登陆 http://192.168.8.5:8080/login.htm

              用户名:admin

              密码:    admin

 

           4.3.2 配置zookeeper管理    (机器管理/zookeeper管理)

zookeeper集群填写的是你启动zookeeper的机器的ip地址,端口号为zookeeper/conf/配置的clientPort

 

           4.3.3 配置node

 机器端口 2088

下载端口 9090

 

配置完成后,会在列表中显示,如果node节点已经正常启动,列表中对应node的状态为已启动

 

            4.3.4 配置数据源(配置管理/数据源配置)

 

如果数据库url配置对了,用户名密码正确,数据库默认编码为utf8,则能成功验证数据库

 

 

           4.3.5 配置表

 

schema name为数据库名称

table name为表名称,如果要做全库的同步,可以用 .* 表示

 

添加完的表在下图中列表中

 

           4.3.6 配置canal(配置管理/canal配置)

 

填写 canal名称,数据库地址,账户,密码,位点信息,其中,位点信息格式复制例子,journalName 、position 和 timestamp可以通过对应数据库的执行相应sql取得

 select unix_timestamp(now());

show mastr status;

 

           4.3.7 配置同步管理

 基于当前日志变更

列记录模式

 

            4.3.8 配置Pipeline(点击配置好的Channel名称进入)

 

Pipeline名称可以随便取

select机器和load机器选项选择同一个node节点,采取就近原则,8.5的虚拟机向8.6同步数据库,选择8.5节点,8.6虚拟机向8.5同步数据库选择8.6节点

选择Canal,8.5向8.6同步,选择5>>>6(double) Canal;8.6向8.5同步,选择6>>>5(double)

 

            4.3.9 配置关系映射表

 

源数据表和目标数据表选择,选择的是数据表配置的某个项。

 

 

4.3.10 调整设置

 

双A互备,就是两个单向的同步

其中,一个设置为主站点,另一个设置为非主站点

在高级设置中,一个设置为支持ddl同步,一个设置为不支持ddl同步,原因是一个Channel中只能有一个ddl,要不会冲突

 

配置完之后,点击Channel管理,选择对应的Channel,点击启动

 

运行状态变成运行。

配置完成

5 验证效果

     5.1  虚拟机8.5中插入一条记录

 

 

 

8.6虚拟机mysql

 

 

测试反向8.6向8.5同步

 

 

8.5 mysql

 

5.2 现在验证出效果    :

       5.2.1无论channel是否运行,点击推送,都可以同步两个数据库的数据

       5.2.2 channel配置的两个数据库,一个数据库停止,channel会挂起,点击推送后恢复正常运行

阅读更多
换一批

没有更多推荐了,返回首页