这篇文字以搭建discuz论坛展开,但是,本意不是这个,这个实验,我采用了NFS的文件系统,DNS服务,php的fpm模式,两个web服务,最后还有一个MariaDB的数据库,采用分离式的LAMP平台,实现数据共享。


拓扑图如下:

实验的宗旨:
      我们以任意的客户端发送请求,通过DNS服务器做轮询的负载均衡,分别会访问不同的web主机,后端,我将NFS服务器分别挂载至两台web服务器和php的服务器,php服务器和web服务器之间通过fpm的形式交互,同时,后端的数据可以为这个拓扑中的任意主机使用。

实验流程:

1、搭建web服务器(两台web服务器的配置一致)

安装apr的软件包

[root@localhost src]# tar jxf apr-1.5.0.tar.bz2 
[root@localhost src]# cd apr-1.5.0
[root@localhost apr-1.5.0]# ./configure –prefix=/usr/local/apr
[root@localhost src]# make && make install

安装apr-util软件包

[root@localhost src]# tar jxf apr-util-1.5.3.tar.bz2 
[root@localhost src]# cd apr-util-1.5.3
[root@localhost apr-util-1.5.3]# ./configure  - -prefix=/usr/local/apr-util  - -with-apr=/usr/local/apr/

安装httpd软件

先解决关于pcre的问题,安装pcre的开发包

[root@localhost ~]# yum install pcre-devel
[root@localhost src]# tar jxf httpd-2.4.9.tar.bz2 
[root@localhost src]# cd httpd-2.4.9
[root@localhost httpd-2.4.9]# ./configure  --prefix=/usr/local/apache  --sysconfdir=/etc/httpd2 
--enable-so  --enable-ssl  --enable-cgi  --enable-rewrite  --with-zlib  --with-pcre  
--with-apr=/usr/local/apr  --with-apr-util=/usr/local/apr-util/  --enable-modules=most 
 --enable-mpms-shared=all  --enable-mpm=event
[root@localhost httpd-2.4.9]#make && make install

把httpd服务的命令加入系统的环境变量中

[root@localhost ~]# vim /etc/profile.d/httpd.sh
export  PATH=/usr/local/apache/bin:$PATH
[root@localhost ~]# source /etc/profile.d/httpd.sh


2、MariaDB数据库服务器搭建

解压二进制包于指定位置:

[root@localhost src]# tar zxf mariadb-5.5.36-linux-x86_64.tar.gz -C /usr/local/

为MariaDB添加用户和组,为系统用户

[root@localhost src]# groupadd -r mysql
[root@localhost src]# useradd -g mysql -r mysql

将另一块磁盘作为数据存放位置,且做逻辑卷挂载

[root@localhost src]# fdisk -l /dev/sdb
Disk /dev/sdb: 21.5 GB, 21474836480 bytes
255 heads, 63 sectors/track, 2610 cylinders
Units = cylinders of 16065 * 512 = 8225280 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disk identifier: 0xa295ba74
 
   Device Boot      Start         End      Blocks   Id  System
/dev/sdb1               1        2610    20964793+  8e  Linux LVM

查看新建的磁盘是否被dm服务占用

[root@localhost src]# dmsetup status
sdb1: 0 41929587 linear

解除占用

[root@localhost src]# dmsetup remove sdb1

创建物理卷

[root@localhost src]# pvcreate /dev/sdb1
  dev_is_mpath: failed to get device for 8:17
  Physical volume "/dev/sdb1" successfully created

创建卷组

[root@localhost src]# vgcreate myvg /dev/sdb1
  Volume group "myvg" successfully created

创建逻辑卷

[root@localhost src]# lvcreate -L 15G -n mylv myvg
  Logical volume "mylv" created

可以用lvs或lvdisplay命令查看

格式化分区

[root@localhost src]# mke2fs -t ext4 -b 1024 -m 3 -L mysql /dev/myvg/mylv

让逻辑卷能自动挂载在/MySQL目录下

[root@localhost src]# mkdir /MySQL
[root@localhost src]# vim /etc/fstab 
LABEL=mysql             /MySQL                  ext4    defaults        0 0
[root@localhost src]# mount -a

可以使用mount命令直接检测是否已经挂载成功


创建软链接

[root@localhost src]# cd /usr/local/
[root@localhost local]# ln -sv mariadb-5.5.36-linux-x86_64/ mysql
`mysql' -> `mariadb-5.5.36-linux-x86_64/'

为MariaDB提供配置文件和启动脚本

[root@localhost local]# cd mysql/support-files/
[root@localhost support-files]# mkdir /etc/mysql
[root@localhost support-files]# cp my-large.cnf /etc/mysql/my.cnf
 
[root@localhost support-files]# cp mysql.server /etc/rc.d/init.d/mysqld
[root@localhost support-files]# chkconfig –add mysqld
[root@localhost support-files]# chkconfig –list mysqld
mysqld          0:off 1:off 2:on 3:on 4:on 5:on 6:off

编辑配置文件,初始化MariaDB服务器

[root@localhost support-files]# mkdir /MySQL/data
[root@localhost support-files]# vim /etc/mysql/my.cnf 
datadir = /MySQL/data
[root@localhost mysql]# pwd
/usr/local/mysql
[root@localhost mysql]# ./scripts/mysql_install_db –user=mysql –datadir=/MySQL/data/

将MariaDB的命令加入到环境变量中

[root@localhost mysql]# vim /etc/profile.d/mysql.sh
export  PATH=/usr/local/msyql/bin:$PATH

重读配置文件

[root@localhost mysql]# source /etc/profile.d/mysql.sh

启动MariaDB数据库服务

[root@localhost mysql]# service mysqld start
Starting MySQL….                                         [  OK  ]

可以登录了

[root@localhost mysql]# mysql
Welcome to the MariaDB monitor.  Commands end with ; or \g.
Your MariaDB connection id is 2
Server version: 5.5.36-MariaDB-log MariaDB Server
 
Copyright (c) 2000, 2014, Oracle, Monty Program Ab and others.
 
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.
 
MariaDB [(none)]>


3、以fpm的形式安装php服务器

解决依赖包

[root@localhost ~]# yum install libxml2-devel
[root@localhost ~]# yum install bzip2-devel

编译安装php服务器

[root@localhost src]# tar jxf php-5.4.26.tar.bz2 
[root@localhost src]# cd php-5.4.26
[root@localhost php-5.4.26]# ./configure  --prefix=/usr/local/php  --with-mysql=mysqlnd 
 --with-mysqli=mysqlnd  --with-openssl  --enable-mbstring  - -with-freetype-dir 
 --with-jpeg-dir  --with-png-dir  --with-zlib  --with-libxml-dir  --enable-xml  
 --enable-sockets  --enable-fpm  --with-mcrypt  --with-config-file-path=/etc/  
 --with-config-file-scan-dir=/etc/php.d   --with-bz2  --enable-maintainer-zts
[root@localhost php-5.4.26]#make && make install

注意,由于apache采用的是event模式,所以,php在编译时,要加- -enable-maintainer-zts

提供配置文件

[root@localhost php-5.4.26]# cp php.ini-production /etc/php.ini

提供 SysV init脚本,并将其添加至服务列表

[root@localhost php-5.4.26]# cp sapi/fpm/init.d.php-fpm /etc/rc.d/init.d/php-fpm
[root@localhost php-5.4.26]# chmod a+x /etc/rc.d/init.d/php-fpm 
[root@localhost php-5.4.26]# chkconfig –add php-fpm

为php-fpm服务提供配置文件

[root@localhost php]# cd /usr/local/php/etc/
[root@localhost etc]# cp php-fpm.conf.default php-fpm.conf

更改php-fpm的配置文件,如下所示

pid = /usr/local/php/var/run/php-fpm.pid
listen = 0.0.0.0:9000        #让其监听所有,如果考虑安全,可以采用iptables
pm.max_children = 30
pm.start_servers = 5
pm.min_spare_servers = 3
pm.max_spare_servers = 8


4、创建NFS共享服务器,提供discuz论坛软件

查看是否已经安装nfs的软件

[root@localhost ~]# rpm -qa | grep nfs-utils
nfs-utils-lib-1.1.5-6.el6.x86_64
nfs-utils-1.2.3-39.el6.x86_64

启动服务:

[root@localhost ~]# service nfs start

将另外一块准备好的磁盘做成逻辑卷:

[root@localhost ~]# fdisk /dev/sdb #且要格式成LVM格式
[root@localhost ~]# pvcreate /dev/sdb1
[root@localhost ~]# vgcreate myvg /dev/sdb1
[root@localhost ~]# lvcreate -L 16G -n mylv myvg

格式化逻辑卷,并挂在到/share目录,支持开机自动挂载

[root@localhost ~]# mke2fs -t ext4 -b 2048 -m 3 -L share /dev/myvg/mylv
[root@localhost ~]# mkdir /share
[root@localhost ~]# vim /etc/fstab
LABEL=share             /share                  ext4    defaults        0 0
[root@localhost ~]# mount -a #挂载之,可以用mount查看

编辑nfs的配置选项,使/share被共享

[root@localhost ~]# vim /etc/exports
/share          192.168.77.0/24(rw,no_root_squash,no_all_squash,insecure)

注意:网段地址一定不能写错,以下是被我写成192.168.77.0所报的错

[root@localhost ~]# mount -t nfs 192.168.77.144:/share  /web/
mount.nfs: access denied by server while mounting 192.168.77.144:/share

下载discuz软件,放置在共享目录下,并且解压

[root@localhost share]# pwd
/share
[root@localhost share]# unzip Discuz_X2.5_SC_GBK.zip

查看目录的文件

[root@localhost ~]# ls /share/
Discuz_X2.5_SC_GBK.zip  lost+found  readme  upload  utility


5、把nfs共享的目录分别共享给两台web服务器和php服务器

web1:

[root@localhost ~]# mkdir /web/
[root@localhost ~]# mount -t nfs 192.168.77.144:/share  /web/
[root@localhost ~]# ls /web/
Discuz_X2.5_SC_GBK.zip  lost+found  readme  upload  utility

web2:

[root@localhost ~]# mkdir /web/
[root@localhost ~]# mount -t nfs 192.168.77.144:/share  /web/
[root@localhost ~]# ls /web/
Discuz_X2.5_SC_GBK.zip  lost+found  readme  upload  utility

php服务器:

[root@localhost ~]# mkdir /web/
[root@localhost ~]# mount -t nfs 192.168.77.144:/share  /web/
[root@localhost ~]# ls /web/
Discuz_X2.5_SC_GBK.zip  lost+found  readme  upload  utility


6、在MariaDB数据库服务器里新建一个库,授权给discuz这个用户

MariaDB [(none)]> CREATE DATABASE discuz;
MariaDB [(none)]> GRANT ALL ON discuz.* TO discuz@'192.168.77.%' IDENTIFIED BY 'discuz';
MariaDB [(none)]> FLUSH PRIVILEGES;


7、配置httpd服务器,以httpd1为例,两个一致

编辑配置文件,开启虚拟主机,与php-fpm进行交互,关闭正向解析

添加内容如下所示

 

启用两个模块,支持虚拟主机、fcgi

Include /etc/httpd2/extra/httpd-vhosts.conf
LoadModule proxy_module modules/mod_proxy.so
LoadModule proxy_fcgi_module modules/mod_proxy_fcgi.so

添加,解析php的功能

AddType application/x-httpd-php .php
AddType application/x-httpd-php-source .phps

默认作为主页的,添加index.php

DirectoryIndex index.html index.php

然后配置虚拟主机的配置文件

[root@localhost ~]# vim /etc/httpd2/extra/httpd-vhosts.conf 
<VirtualHost *:80>
    DocumentRoot "/web"
    ServerName discuz.365lsy.com
    ProxyRequests Off
    ProxyPassMatch ^/(.*\.php)$ fcgi://192.168.77.143:9000/web/$1
        <Directory "/web">
        Options none
        AllowOverride none
        Require all granted
</Directory>
</VirtualHost>


8、实验检测及效果展示

启动httpd服务器,然后再启动php-fpm服务器

[root@localhost etc]# service php-fpm start

在浏览器先输入ip地址测试

http://192.168.77.152/upload
点击“我同意”,继续安装,报以下错误:

这是没有权限引起的,然后,在/web/upload目录下,改变这些目录、文件的权限

[root@localhost upload]# chmod -R a+w data/
[root@localhost upload]# chmod -R a+w uc_server/
[root@localhost upload]# chmod -R a+w config/
[root@localhost upload]# chmod -R a+w uc_client/data/cache/

以上步骤在NFS服务器上直接操作

刷新后重试


点击安装全新的discuz,填入数据库信息,上面已经新建表,授权用户

安装完成

最后用浏览器访问web服务器

如果只输入ip地址的话,浏览器会弹出"It Works"的字样,这是因为识别index.html作为主页了

解决方法:我们可以把/usr/local/apache/htdocs下面的index.html删除

上面我们输的时候,加了upload这个目录名,如果要直接输入ip地址,更改配置文件如下:

[root@localhost ~]# vim /etc/httpd2/extra/httpd-vhosts.conf 
<VirtualHost *:80>
    DocumentRoot "/web/upload"
    ServerName discuz.365lsy.com
    ProxyRequests Off
    ProxyPassMatch ^/(.*\.php)$ fcgi://192.168.77.143:9000/web/upload/$1
        <Directory "/web/upload">
        Options none
        AllowOverride none
        Require all granted
</Directory>
</VirtualHost>

然后,分别访问两个web服务器,查看discuz安装后的是否一致



注意:两个web服务器的配置必须要一致,我们可以编译好一个配置文件,然后scp拷贝过去

下面,我们在web2上新建用户,并且发表帖子,然后到web1服务上,查看数据是否同步,是否一致
在web2上注册用户

发表帖子

在web1上登录刚刚注册的用户

查看在web2上发表的帖子

可以看出,数据是同步的,是一致的
 

9、搭建DNS服务器,将discuz.365lsy.com分别指向这两台web


配置主文件,如下所示

[root@localhost ~]# vim /etc/named.conf
options {
        directory       "/var/named";
        recursion yes;
};
logging {
        channel default_debug {
                file "data/named.run";
                severity dynamic;
        };
}; 
zone "." IN {
        type hint;
        file "named.ca";
}; 
include "/etc/named.rfc1912.zones";

编辑辅助配置文件

[root@localhost ~]# vim /etc/named.rfc1912.zones

添加此项

zone "365lsy.com" IN {
        type master;
        file "365lsy.com.zone";
};

添加域配置文件

[root@localhost ~]# vim /etc/named.rfc1912.zones 
$TTL    3600
$ORIGIN  365lsy.com.
@       IN      SOA     ns.365lsy.com.  admin.365lsy.com. (
        2014081601
        2H
        10M
        5D
        10H
)
        IN      NS      ns
ns      IN      A       192.168.77.133
discuz  IN      A       192.168.77.152
discuz  IN      A       192.168.77.154

启动服务:

[root@localhost ~]# service named start


测试,将一台windows客户端连进这个网络,更改DNS地址,指向我们上面配置的DNS服务器

我们可以用nslookup命令查看一下

然后,在一台linux下测验:

[root@localhost ~]# vim /etc/resolv.conf
nameserver 192.168.77.133

可以看出,DNS服务器为本机做了轮询,每次访问为不同的IP地址

[root@localhost ~]# dig -t A discuz.365lsy.com
 
; <<>> DiG 9.8.2rc1-RedHat-9.8.2-0.17.rc1.el6_4.6 <<>> -t A discuz.365lsy.com
;; global options: +cmd
;; Got answer:
;; ->>HEADER<<- opcode: QUERY, status: NOERROR, id: 41508
;; flags: qr aa rd ra; QUERY: 1, ANSWER: 2, AUTHORITY: 1, ADDITIONAL: 1
 
;; QUESTION SECTION:
;discuz.365lsy.com. IN A
 
;; ANSWER SECTION:
discuz.365lsy.com. 3600 IN A 192.168.77.154
discuz.365lsy.com. 3600 IN A 192.168.77.152
 
;; AUTHORITY SECTION:
365lsy.com. 3600 IN NS ns.365lsy.com.
 
;; ADDITIONAL SECTION:
ns.365lsy.com. 3600 IN A 192.168.77.133
 
;; Query time: 2 msec
;; SERVER: 192.168.77.133#53(192.168.77.133)
;; WHEN: Mon Aug 11 20:30:11 2014
;; MSG SIZE  rcvd: 100
[root@localhost ~]# dig -t A discuz.365lsy.com
 
; <<>> DiG 9.8.2rc1-RedHat-9.8.2-0.17.rc1.el6_4.6 <<>> -t A discuz.365lsy.com
;; global options: +cmd
;; Got answer:
;; ->>HEADER<<- opcode: QUERY, status: NOERROR, id: 7580
;; flags: qr aa rd ra; QUERY: 1, ANSWER: 2, AUTHORITY: 1, ADDITIONAL: 1
 
;; QUESTION SECTION:
;discuz.365lsy.com. IN A
 
;; ANSWER SECTION:
discuz.365lsy.com. 3600 IN A 192.168.77.152
discuz.365lsy.com. 3600 IN A 192.168.77.154
 
;; AUTHORITY SECTION:
365lsy.com. 3600 IN NS ns.365lsy.com.
 
;; ADDITIONAL SECTION:
ns.365lsy.com. 3600 IN A 192.168.77.133
 
;; Query time: 2 msec
;; SERVER: 192.168.77.133#53(192.168.77.133)
;; WHEN: Mon Aug 11 20:30:23 2014
;; MSG SIZE  rcvd: 100

可以看出,我们的windows客户端已经解析出两个web的地址,访问时,会轮询访问
linux客户端上,结果更加明显,返回的结果:
第一次是
discuz.365lsy.com. 3600 IN A 192.168.77.154
第二次是
discuz.365lsy.com. 3600 IN A 192.168.77.152
是轮询的不同结果,整个流程,在DNS服务器的作用下,就有了负载均衡的作用

实验总结:
    这个实验,在做的时候,都是比较容易的,但是,实验本身存在缺陷,对于大并发的访问情况下,它的MariaDB数据库服务器和NFS服务器就会成为整个架构的瓶颈,特别是NFS服务器,如果中间网络故障,就会使整个架构崩溃,另一种就是NFS是基于RPC的服务,多请求时,会发起多个系统调用的函数,可能会被阻塞,导致网站的整体性能。