百万级并发mysql架构

服务器环境

  

1.1 操作系统要求

  

操作系统环境

  

建议Centos 7.x 64位

  

1.2 系统环境要求

  

mysql-5.1.52(glibc23)(以上)

  

apache2.2.0(以上)

  

Amoeba for Mysql 1.3.1-BETA(以上)

  

memcached-1.4.5(以上)

  

Keepalived-1.1.20(以上)

  

Lvs-1.2.1(以上)

  

服务器架构

  

下图展示了***.com的结构:

  

我们的架构包括:Web服务器 中间件服务器 Db服务器 缓存服务器 文件服务器 监控服务器 备份服务器 测试服务器

架构图

  


  
  

  

2.1 Web服务器

  

Web 服务器主要分为 前端负载均衡服务器和后端realserver服务器。

  

2.1.1 负载均衡服务器

  

负载均衡服务器有两种方案:Lvs+KeepalivedHaproxy+Keepalived

  

Haproxy提供高可用性、负载均衡 以及基于TCP和HTTP应用的代理软件,配置简单,管理方便,有web管理界面,较Lvs来说性能一般。

  

Keepalived提供故障转移功能,保证前段web无故障运行。此配置需要两台服务器。

  

Lvs集群采用IP负载均衡技术和基于内容请求分发技术, 性能好,接近硬件设备的网络吞吐和连接负载能力。管理不是太方便,配置相对复杂。Keepalived提供故障转移功能,保证前段web无故障运行。此配置需要两台服务器。

  

建议前期使用Lvs+Keepalived的配置作为前端负载服务器,采用dr模式,性能很好。以后可按需将部分应用切成Haproxy,由于基本不需更改后端web服务器,所以切换非常容易。

  

2.1.2 Realserver 服务器

  

后端realserver 可以选用Apache或者Nginx

  

利用前端Lvs或者Haproxy将请求转到Apache上,处理Php等动态文件,作为主web服务器。相同功能下的各台web服务器之间通过Rsync进行程序代码同步。采用Lvs或者Haproxy架构,扩展性很好,前期2-4台web服务器,以后按照负载情况可随时上新服务器。

  

处理静态文件时可以采用Nginx。相同功能下的各台web服务器之间通过Rsync进行程序代码同步。

  

2.2 Db服务器

  

Db 服务器分为数据库中间件和Mysql 数据库。

  

2.2.1 中间件服务器

  

中间件采用开源软件Amoeba实现分布式数据库数据切分,降低客户端与db的连接数,负载均衡。可以按照需求实现主从读写分离,数据库垂直  水平切分。初期一台中间件即可,以后随着负载的提高,增加多台中间件,在多台中轮询,保证中间件的高可用和高性能。

  

2.2.2 Mysql服务器

  

Db采用Mysql在通常情况下,数据查询请求可以快速处理,数据库每秒种可以处理几百次查询;但是某些情况下查询会变慢或者阻塞。由于一些数据表频繁被写入,而且频繁读取,因此一旦有两三个写操作导致数据表锁死超过3秒钟,上千条读指令就被阻塞,读写阻塞是导致数据连接过多的最主要原因。

  

因此大规模应用主从方式,按需实现两主多从方式。

  

第一个主数据库主要负责写操作,第二个主数据库作为线上热备,当第一台主数据库出问题及时切换成第二台,如果从数据库压力过大,主数据库也可加入读操作。

  

多台从数据库负责读操作,并专门拿出一台作为线下备份数据库,每日凌晨2-3点进行数据库备份,保证数据安全。

  

随着数据量的增加,数据库会遇到瓶颈,主库的写压力越来越大在主从的基础上按需进行数据库拆分,也就是将数据存放到不同的数据库服务器中,一般可以按两个纬度来拆分数据

  

垂直拆分:是指按功能模块拆分,比如可以将用户相关表和图片相关表存放在不同的数据库中,这种方式多个数据库之间的表结构不同。

  

水平拆分:而水平拆分是将同一个表的数据进行分块保存到不同的数据库中,这些数据库中的表结构完全相同。

  

2.3 缓存服务器

  

采用Memcached作为缓存,如何分担减少数据库的压力是整个架构的重中之重,通过Memcached在内存中缓存数据和对象来减少读取数据库的次数,从而提动态、数据库驱动网站的速度。并且监管每日的数据清理和定时优化,每天凌晨2-3点利用Cron进行定时清理和优化。

  

2.4 文件服务器

  

前期考虑用nfs来做文件系统,web服务器直接挂载nfs分区,后期遇到性能瓶颈的时候可以考虑使用分布式文件系统。MogileFS是分布式文件存储系统,可支持文件自动备份的功能,提供高可用性和高可扩展性。

  

2.5 监控服务器

  

监控报警系统使用cacti nagios ganglia三个强大的开源软件搭建。

  

  Cacti 历史数据功能很强大,可监控主机状态 主机网络流量 mysql状态 memcached状态 web服务器连接数状态等等,可以帮助我们最快的发现出问题的时间和地方。

  

  Ganglia 监控服务器即时状态,ganglia对于当前状态的收集最准确及时。可以实时了解服务器流量  load

  

  Nagios 监控指定主机和服务,比如apache mysql ftp smtp dns等等,监控服务器硬件状态,比如raid状态 cpu温度磁盘剩余容量等等,当监控项目出现问题,以报警方式通知。

  

2.6 备份服务器

  

数据库备份:每日凌晨2-3点,在线下从库上执行备份,然后通过scp 的方式拷贝到备份服务器上。

  

程序代码备份:每日凌晨2-3点,Rsync 同步到备份服务器上。

  

网站数据备份:每日凌晨2-3点,Rsync 同步到备份服务器上。

  

服务器安全

  

3.1 登陆安全

  

登陆分为公司内登陆 公司外登陆

  

公司内登陆:采用公钥+私钥的方式登陆服务器,屏蔽密码登陆。

  

公司以外的地方不能直接连接服务器,需先拨公司vpn,然后采用公钥+私钥的方式登陆服务器,屏蔽密码登陆。

  

3.2 账号管理及权限

  

软件安装中添加的用户,都设置为:/sbin/nologin,不能登陆系统。其他登陆账号均为一般权限用户,只能使用sudo方式运行命令,如果需要更多命令,申请后添加。

  

部署新服务器

  

部署新服务器按照不同的分类,做不同的部署,不过总的步骤一般如下:

  

拷贝相应软件和安装脚本

  

执行安装脚本

  

重启后检查各功能是否正常

  

根据不同用处做单独设置

  

再次重启,安装完毕,上线

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值