百万用户量的系统架构方案实例

最新推荐文章于 2024-06-25 07:03:23 发布
最新推荐文章于 2024-06-25 07:03:23 发布
阅读量4.3k 收藏 3
点赞数 1
分类专栏： 系统架构 文章标签： 系统架构
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_28109171/article/details/81271283
版权
本文详细介绍了构建能支撑百万用户量的系统架构过程，涵盖了从安装redis集群、zookeeper、ActiveMQ、nginx、nfs，到初始化和配置mysql服务器、web服务器及转码服务器等关键步骤。通过具体的机器分配、软件安装、配置和权限设置，展示了完整的系统搭建流程。
摘要由CSDN通过智能技术生成

1.准备工作

先创建zhy用户
命令：

切换到root用户
root账号拥有root权限
密码：De@2016er
su root
sudo adduser zhy
添加密码：
sudo passwd zhy
zhy密码：
mine1058!firemen

2.安装软件

（1）安装redis集群

机器分配

10.162.27.141
10.162.27.142
10.162.27.143

拷贝文件到zhy文件夹

scp -r ./software/ zhy@10.162.27.141:/home/zhy/
scp -r ./software/ zhy@10.162.27.142:/home/zhy/
scp -r ./software/ zhy@10.162.27.143:/home/zhy/

按照文档安装

解压

tar xzvf redis-3.2.11.tar.gz

编译

cd redis-3.2.11
make

安装

cd /home/zhy
mkdir -p apps/redis/bin
mkdir -p apps/redis/data
mkdir -p apps/redis/conf

拷贝程序到相应目录

cp -vf /home/zhy/software/redis-3.2.11/src/redis-server ~/apps/redis/bin
cp -vf /home/zhy/software/redis-3.2.11/src/redis-cli ~/apps/redis/bin

配置master服务器

在141上新建master的配置文件
cd /home/zhy/apps/redis/conf
vi redis.conf
拷贝master的配置，并保存
启动master
/home/zhy/apps/redis/conf/redis.conf

配置slave服务器

在142，143上新建slave的配置文件
cd /home/zhy/apps/redis/conf
vi redis.conf
拷贝slave的配置，并保存

启动

/home/zhy/apps/redis/bin/redis-server /home/zhy/apps/redis/conf/redis.conf

配置开机启动

mkdir ~/bin
zhy 用户执行：
cat >> ~/bin/sys_init_startup.sh << EOF
/home/zhy/apps/redis/bin/redis-server /home/zhy/apps/redis/conf/redis.conf
EOF
chmod 750 ~/bin/sys_init_startup.sh
以 root 用户登录，编辑 /etc/rc.local 文件，添加如下行：
su - zhy -c “/home/zhy/bin/sys_init_startup.sh”

关闭防火墙

sudo systemctl stop firewalld.service
sudo systemctl disable firewalld.service

测试集群

登录master机器
/home/zhy/apps/redis/bin/redis-cli -c -p 6380 -a cacheManager1
set name chenpy
get name
登录slave机器
/home/zhy/apps/redis/bin/redis-cli -c -p 6380 -a cacheManager1
get name
发现内容已经同步过来
redis端口改为了6380

（2）安装zookeeper

同样新建用户zhy

机器分配

10.162.27.144
10.162.27.145
10.162.27.146

拷贝安装包

把安装包拷贝到 144的 software文件夹
拷贝完成后用scp 分别拷贝到3台机器的 /home/zhy/software 中
scp -r ./software/ zhy@10.162.27.144:/home/zhy/
scp -r ./software/ zhy@10.162.27.145:/home/zhy/
scp -r ./software/ zhy@10.162.27.146:/home/zhy/

安装zookeeper

创建目录 apps
cd /home/zhy/
mkdir -p apps
cd apps
tar xzvf /home/zhy/software/zookeeper-3.4.11.tar.gz
cd zookeeper-3.4.11

修改 ZooKeeper 配置文件

cp -vf conf/zoo_sample.cfg conf/zoo.cfg
mkdir -p logs
mkdir -p data

替换文本

sed -i ‘s#dataDir=/tmp/zookeeper#dataDir=/home/zhy/apps/zookeeper-3.4.11/data#g’ conf/zoo.cfg

配置文件中添加配置

cat >> conf/zoo.cfg << EOF
dataLogDir=/home/zhy/apps/zookeeper-3.4.11/logs
three servers of this cluster
server.1=10.162.27.144:2888:3888
server.2=10.162.27.145:2888:3888
server.3=10.162.27.146:2888:3888
EOF

添加服务的id

在 10.162.27.144 服务器上执行
touch data/myid
echo 1 > data/myid
在 10.162.27.145 服务器上执行
touch data/myid
echo 2 > data/myid
在 10.162.27.146 服务器上执行
touch data/myid
echo 3 > data/myid

关闭防火墙

sudo systemctl stop firewalld.service
sudo systemctl disable firewalld.service

启动服务器

/home/zhy/apps/zookeeper-3.4.11/bin/zkServer.sh start

配置自动启动

cat >> ~/bin/sys_init_startup.sh << EOF
/home/zhy/apps/zookeeper-3.4.11//bin/zkServer.sh start
EOF

添加执行权限

chmod 750 ~/bin/sys_init_startup.sh
以 root 用户登录，编辑 /etc/rc.local 文件，添加如下行：
su - zhy -c “/home/zhy/bin/sys_init_startup.sh”

（3）安装 ActiveMQ

同样新建用户zhy

机器分配：

10.162.27.147
10.162.27.148
10.162.27.149

把安装包拷贝到 147的 software文件夹

拷贝完成后用scp 分别拷贝到3台机器的 /home/zhy/software 中
scp -r ./software/ zhy@10.162.27.147:/home/zhy/
scp -r ./software/ zhy@10.162.27.148:/home/zhy/
scp -r ./software/ zhy@10.162.27.149:/home/zhy/

安装mq

解压安装 ActiveMQ
以zhy用户登录执行：
cd ~/apps
tar xzvf /home/zhy/software/apache-activemq-5.15.2-bin.tar.gz

编辑 ActiveMQ 配置文件

cd ~/apps/apache-activemq-5.15.2
vim conf/activemq.xml
将



修改为

卸载本身的jdk

因为activemq-5.15需要jdk1.8 所以需要安装jdk1.8
sudo rpm -e –nodeps java-1.7.0-openjdk-headless-1.7.0.91-2.6.2.3.el7.x86_64
sudo rpm -e –nodeps java-1.7.0-openjdk-1.7.0.91-2.6.2.3.el7.x86_64
sudo rpm -e –nodeps java-1.7.0-openjdk-devel-1.7.0.91-2.6.2.3.el7.x86_64

按照文档安装

tar xzvf jdk-8u131-linux-x64.tar.gz
然后把jdk复制到apps里面
cp -r /home/zhy/software/jdk1.8.0_131/ /home/zhy/apps/
mv /home/zhy/apps/jdk1.8.0_131/ /home/zhy/apps/jdk1.8.0

修改环境变量

cat >> ~/.bash_profile << EOF
export JAVA_HOME=/home/zhy/apps/jdk1.8.0
export PATH=$PATH:$JAVA_HOME/bin
EOF
source ~/.bash_profile

关闭防火墙

sudo systemctl stop firewalld.service
sudo systemctl disable firewalld.service

启动

/home/zhy/apps/apache-activemq-5.15.2/bin/activemq start

配置开机启动

cat >> ~/bin/sys_init_startup.sh << EOF
/home/zhy/apps/apache-activemq-5.15.2/bin/activemq start
EOF

添加执行权限

chmod 750 ~/bin/sys_init_startup.sh
以 root 用户登录，编辑 /etc/rc.local 文件，添加如下行：
su - zhy -c “/home/zhy/bin/sys_init_startup.sh”

（4）安装 nginx

使用账号的安装账号是zhy

安装nginx

tar xzvf nginx-1.12.2.tar.gz
tar xzvf openssl-1.1.0g.tar.gz
unzip pcre-8.41.zip
tar xzvf zlib-1.2.11.tar.gz
mkdir -p /home/zhy/apps
cd nginx-1.12.2

配置

./configure –prefix=/home/zhy/apps/nginx \
–user=zhy –group=zhy \
–with-http_stub_status_module \
–with-http_ssl_module \
–with-stream \
–with-http_stub_status_module \
–with-http_flv_module \
–with-http_mp4_module \
–with-http_secure_link_module \
–with-pcre-jit \
–with-http_realip_module \
–with-http_v2_module \
–with-pcre=../pcre-8.41 \
–with-openssl=../openssl-1.1.0g \
–with-zlib=../zlib-1.2.11

安装

make && make install

端口绑定权限修改：

sudo setcap cap_net_bind_service=+ep /home/zhy/apps/nginx/sbin/nginx

配置nginx环境变量

cat >> ~/.bash_profile << EOF
export NGINX_HOME=/home/zhy/apps/nginx
export PATH=$PATH:$NGINX_HOME/sbin
EOF

配置nginx

cat >> ~/bin/sys_init_startup.sh << EOF
/home/zhy/apps/nginx/sbin/nginx
EOF
chmod 750 ~/bin/sys_init_startup.sh

创建项目的nginx文件

修改 nginx 配置文件
zhy 用户登录执行：
cd ~/apps/nginx/conf
mkdir conf.d
vi nginx.conf
将 “#gzip on;” 所在的行改为如下内容：
gzip on;
include conf.d/*.conf;
编辑 conf.d/elearn.zjrb.com.conf 文件。
cd ~/apps/nginx/conf/conf.d
vi wsxy.chinaunicom.cn.conf

配置nginx配置文件

upstream zhy-spark {
hash $cookie_uid consistent;

    server 10.162.27.150:8091;
server 10.162.27.150:8092;
}

server {
    listen 80;
    server_name "uat.campus.chinaunicom.cn";

    userid          on;
    userid_name     uid;
    userid_domain   uat.campus.chinaunicom.cn;
    userid_path     /;

    location / {
            index   index.html;
            root    "/home/zhy/web-root/learner-web";
            try_files $uri $uri/ /index.html =404;
    }

    location /learner {
            index   index.html;
            alias   "/home/zhy/web-root/learner-web";
            try_files $uri $uri/ /index.html =404;
    }

    location /consoleui/showcase {
            index   index.html;
            alias   "/home/zhy/web-root/showcase";
            try_files $uri $uri/ /index.html =404;
    }


    location /lmsapi {
            alias   "/home/zhy/web-root/lmsapi";
    }

    location /console {
            index   index.html;
            alias   "/home/zhy/web-root/console-web";
            try_files $uri $uri/ /index.html =404;
    }

    location /content {
            index   index.html;
            alias   "/nfs_share/content-root";
            try_files $uri $uri/ /index.html =404;
    }

    location /api {
            proxy_pass  http://zhy-spark;

            #Proxy Settings
            proxy_redirect     off;
            #proxy_buffering    off;
            proxy_set_header   Host             $host;
            proxy_set_header   X-Real-IP        $remote_addr;
            proxy_set_header   X-Forwarded-For  $proxy_add_x_forwarded_for;
            proxy_next_upstream error timeout invalid_header http_502 http_503 http_504;
            proxy_max_temp_file_size 0;
            proxy_connect_timeout      90;
            proxy_send_timeout         90;
            proxy_read_timeout         90;
            proxy_buffer_size          4k;
            proxy_buffers              4 32k;
            proxy_busy_buffers_size    64k;
            proxy_temp_file_write_size 64k;
            client_max_body_size    1000m;
    }
}

nginx自动启动

su - zhy -c “/home/zhy/bin/sys_init_startup.sh”

开启端口

sudo firewall-cmd –zone=public –add-port=80/tcp –permanent

命令含义：

–zone #作用域
–add-port=80/tcp #添加端口，格式为：端口/通讯协议
–permanent #永久生效，没有此参数重启后失效

项目部署

node –max_old_space_size=4096 ./node_modules/@angular/cli/bin/ng build -prod -bh /learner/

部署前端工程

unzip -o /home/zhy/web-root/learner-web.zip -d /home/zhy/web-root/learner-web
unzip -o /home/zhy/web-root/console-web.zip -d /home/zhy/web-root/console-web

配置免密

ssh-keygen -t rsa

（5）安装nfs

[服务器端nfs]

安装nfs

sudo yum install rpcbind nfs-utils -y

创建/data/content

mkdir /data
mkdir /data/content
把共享的目录变为 nfsnobody用户和用户组
chown -R nfsnobody:nfsnobody /data
为目录增加权限
chmod 777 /data -R

最低0.47元/天 解锁文章
陈婿猿
关注
专栏目录
支撑日活百万用户的高并发系统，应该如何设计其数据库架构？
石杉的架构笔记
08-18 1475
这篇文章，我们来聊一下对于一个支撑日活百万用户的高并系统，他的数据库架构应该如何设计？分库分表？ 本文会从一个大的角度来梳理一下思路。
xx信息管理系统技术架构方案（微服务架构）
最新发布
知识的灯塔，梦想的航船
08-18 997
xx信息管理系统技术架构方案（微服务架构）
百万级到千万级用户服务器网络架构图_主主负载
11-28
百万级到千万级用户服务器,该架构图可以无限扩展,满足对高并发和千万级架构需求
为大量用户服务的服务端网络架构设计
yysdsyl的专栏
03-26 1214
为大量用户服务的服务端网络架构设计(负载均衡相关)由来：因为打算自己开发一个类似于即时通讯的服务端，为了以后的发展，需要先规划好框架，其中最主要的客户端连接服务端的方案。因为随着客户的增多（比如说100万），客户的同时上下线（比如说1万），对系统都将是一个很大的压力。而且还要考虑服务器的负载均衡。思路：通过学习MSN面对用户数量不断增大时所不断改进的后台负载方案（google "亿万用户网站MyS
深入解析账户和会员系统的整体架构设计：从基础到高级实现
qq_33665793的博客
06-25 1267
**数据持久层（Persistence）**：负责数据的存储和读取，包括用户信息、权限设置、会员等级等。- **双因素认证（2FA）**：增加额外的安全验证步骤，如短信验证码、Authenticator 应用等。- **业务逻辑层（Logic）**：包含账户和会员系统的核心逻辑，如用户认证、权限校验、会员等级计算等。- **JWT（JSON Web Token）**：用于用户身份的认证和授权，避免会话管理的复杂性。- **RBAC（基于角色的访问控制）**：通过定义角色和权限关系，简化权限管理。
设计一个支持百万用户的系统
寒冰屋的专栏
05-15 398
设计一个支持数百万用户的系统是非常有挑战性的, 这是一个需要不断调整和优化的过程, 接下来的内容中, 我将构建一个系统, 从单个用户开始，到最后支持数百万的用户。
在线百万用户量下的系统架构
iteye_9230的博客
02-03 886
题记 本文是从PPT中整理而来,细节问题没有描述的太清楚,有问题可以直接与我联系,或者是以后会整理出相对比较完善的文档. [size=large][color=olive]一.要解决的问题和方案的选择.[/color][/size] 一般而言,我们希望达到的目标是这样的: [quote] 一个高并发的系统 一个稳定的系统 一个高扩展性的...
支撑百万并发的数据库架构如何设计？
01-27
然而，随着公司成长，用户数激增到2000万，日活跃用户达到100万，单表新增数据量每天50万条，每秒请求数量上万，原有的架构将面临严峻挑战。 首先，大量数据会导致查询性能下降，特别是复杂的SQL查询，因为单表数据...
主流数据库体系架构及方案必备指南-浪潮内部资料
02-28
本文将深入探讨五种主流数据库的体系架构及常见方案，包括Oracle、K-DB、DB2、Sybase和MySQL。 首先，我们来看Oracle数据库。Oracle是全球广泛使用的数据库管理系统，其基本架构分为几个关键部分：存储结构、内存...
大型互联网架构设计实例分析.pdf
06-09
互联网产品往往需要在短时间内应对巨大的用户量增长，这就要求架构设计能够支持快速扩展和灵活调整，比如在"给飞行中的飞机换引擎"，即在不影响服务的情况下进行升级和维护。 在互联网产品的基础技术平台和架构设计...
直播系统微服务架构方案.zip
01-16
直播系统微服务架构方案是一种将复杂大型应用分解为一系列小型、独立、可部署的服务的架构设计，这种设计能够提高系统的可扩展性、可靠性和可维护性。在直播行业中，面对高并发、实时互动以及个性化需求，微服务架构...
系统设计实例（一）百万级别用户系统
qq_42767993的博客
03-20 1015
有状态Web层的问题在于同一客户端的每个请求必须路由到同一台服务器，我们将状态（例如用户会话数据）从Web层中移出,做法是将会话数据存储在持久性存储中，如关系型数据库或NoSQL数据库。用户的HTTP请求可以发送到任何Web服务器，这些服务器从共享数据存储中获取状态数据。它们从 CDN 获取以获得更好的性能。负载均衡器会将传入的流量均匀分配给在负载均衡集合中定义的Web服务器，用户直接连接负载均衡器的公共IP。在正常运行时，用户会根据地理位置通过geoDNS路由到最近的数据中心，其中在美国东部的流量占。
浅谈支撑百万级的架构设计
小浩子的博客
06-06 6484
先看图，总览一下： 上图的架构是这几个月来开发的总结，照一列一列来看，从右到左 先看右边两列，可归为一类，这一部分可以叫做依赖，作为公共部分。在设计架构之时，要先考虑每一个组件的应用框架，把这些框架的基本部分写好，封装成依赖包，给业务系统调用。这些基础的部分包括以下： 缓存：redis redis的地址、端口、线程配置从配置文件读取，把redis的连接释放都做成工具，只提供使用接口 日志：推荐...
【百万级并发服务器架构的设计】
Java程序员廖志伟
06-05 828
为了防止这两种情况的发生，可以使用布隆过滤器来过滤掉一定不会存在的数据，或者设置数据的过期时间，使得缓存中的数据不会同时失效。因此，你可能还需要考虑使用一些其他的技术，比如缓存、数据库分区等，来优化系统的性能。: 在某些场景下，可以使用异步I/O技术，例如Java的CompletableFuture或者C++的async/await等，以提高系统的响应速度。: Java中的NIO库（如Java 7的NIO.2或Java 8的NIO.3）提供了非阻塞IO的支持，可以帮助实现高并发的服务器架构。
百万级高并发技术整体架构
xcbeyond|疯狂源自梦想，技术成就辉煌
05-13 3274
高并发是由于应用系统(如：移动APP或网站等）即页面浏览量或点击量大，单台服务器无法承载大量访问所带来的压力，因此会采用服务器硬件集群技术，用N台服务器进...
百万级qps系统的实现
u014274324的专栏
03-14 4025
常规的缓存系统的设计 缓存系统大概分为2种： 1：数据量不大，拉取全量的数据，缓存在本地。 2：数据量很大，根据二八定理，只拉取活跃的数据缓存在本地。 下面我主要说下第一种方案，我们的系统主要是第一种方案，如果有时间会说下第二种。 缓存中心的设计： 1：缓存中心采用一主多从的架构 2：主节点检测到数据的更新，会扫描库里全部的数据，更新到缓存里 3：数据库做了读写分离，扫描的也只是从库 4：为了避免太大的数据库压力，只有主节点拉取数据库的数据 5：从节点只拉取主节点的缓存数据，不再
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值