如何搭建千万级别用户的应用系统

翻译 2016年01月20日 16:05:56

基本情况

l AWS覆盖全世界12个国家区域

1. 每个区域都对应着世界上的一个物理位置,每个位置都有弹性计算云提供多个可用区域(Availability Zones),这些区域包含北美、南美、欧洲、中东、非洲、亚太等地区。

2. 每个可用区域(AZ)实质上是单个数据中心,尽管它可由多个数据中心构造。

3. 每个可用区域都拥有很强的隔离性,他们各自拥有独立的电源和网络。

4. 可用区域之间只能通过低延迟网络互相连接,它们可以相距515英里,但网络的速度相当快以至于你的应用程序像在同一个数据中心。

5. 每个区域至少有2个可用区域,可用区域总共有32个。

6. 借助若干可用区域即可构建一个高可用的架构供你的应用使用。

7. 在即将到来的2016年将会增加至少9个可用区域和4个区域。

 

l AWS在世界上拥有53个边缘位置

1. 这些边缘位置被用于Amazon的内容分发网络CDNRoute53CloudFront以及AmazonDNS管理服务器。

2. 边缘位置使用户可以在世界的任何角落低延迟地访问网页。

l 构建块服务

1. AWS已经使用多个可用区域构架了大量服务供使用,这些服务内部拥有高可用性和容错性。以下是可供使用的服务列表

2. 你可以在你的应用中直接使用这些服务,它们是收费的,但使用它们你可以不必自己考虑高可用性。

3. 每个可用区域都提供很多服务,包括CloudFront, Route 53, S3, DynamoDB, 弹性负载均衡, EFS, Lambda, SQS, SNS, SES, SWF

4. 即使这些服务只存在于一个单一的可用区域,通过使用这些服务任然可以构建一个高可用架构。

一个用户

l 在这种情况下,你是作为仅有的用户,你仅仅只想让web应用跑起来。

l 你的架构看起来像下面几点:

 

1. 运行在单独的实例上,可能是t2.micro型。实例类型包括了CPU、内存、存储和网络的不同组合,通过选择这些不同实例类型组成一个适合你的web应用的资源。

2. 在单独的实例上运行整个web栈,例如web应用程序、数据库以及各种管理系统等。

3. 使用AmazonRoute53作为DNS服务。

4. 在此实例上添加一个的弹性IP

5. 在一段时间内运行的良好。

纵向扩展

l 你需要一个更大的容器放置你的应用,最简单的扩展方法是选择一个更大的实例类型,例如c4.8xlarge或者m3.2xlarge

l 这种方法称为纵向扩展。

l 需要做的仅仅是选择一个新型实例取代原来的实例,应用跑起来即可以更加强大。

l 提供多种不同的硬件配置混搭选择,可以选择一个244G内存的系统(2TBRAM即将到来),也可以选择40CPU内核的系统,可以组成I/0密集型实例、CPU密集型实例以及高存储型实例。

l Amazon的一些服务使用可配置的IOPS选项来保证性能,你可以使用小一点的实例去跑你的应用,对于需要扩展的服务独立使用Amazon的可扩展服务,例如DynamoDB

l 纵向扩展有一个很大的问题:它不具备failover功能,同时也不具备冗余性。就像把所有鸡蛋都放在同一个篮子里,一旦实例发生故障你的web也会宕掉。

l 一个单独的实例最终能做到的也就这些,想要更加强大需要其他的措施。

10+用户

l 将单个主机分为多个主机

1. Web应用使用一台主机。

2. 数据库使用一台主机,你可以在上面跑任意数据库,只要负责数据库的管理。

3. 将主机分离成多个主机可以让web应用和数据库各自独立对自己进行扩展,例如在某种情况下可能你需要的数据库比web应用更大的规模。

l 或者你可以不自己搭建数据库转而使用Amazon的数据库服务

1. 你是一个DBA吗?你真的想要担心数据备份的问题吗?担心高可用?担心数据库补丁?担心操作系统?

2. 使用Amazon数据库服务有一大优势,你只要简单一点击即可完成多可用区域的数据库的安装,而且你不必担心这些可用区域之间的数据备份或其他类似的事情,这些数据库具备高可用性高可靠性。

l 正如你所想,Amazon有几种类型的完全托管数据库服务供出售:

1. Amazon RDS(Relational Database Service),可供选择的数据库类型相当多,包括Microsoft SQL Server, Oracle, MySQL, PostgreSQL, MariaDB, Amazon Aurora.

2. Amazon DynamoDB,一个NoSQL数据库。

3. Amazon Redshift,一个PB级的数据仓库系统。

l 更多Amazon 特性

1. 拥有自动扩展存储到64TB的能力,你不再需要限定你的数据存储。

2. 多大15个读副本。

3. 持续增量备份到S3

4. 多达6路备份到3个可用区域,有助于处理故障。

5. MySQL兼容。

l 用SQL数据库取代NoSQL数据库

1. 建议使用SQL数据库。

2. SQL数据库相关技术完善。

3. 存在大量开源源码、社区、支持团队、书籍和工具。

4. 千万用户级别系统的还不足以拖垮SQL数据库,除非你的数据非常巨大。

5. 具有清晰的扩展模式。

l 什么时候你才需要使用NoSQL数据库

1. 如果你一年需要存储超过5TB的数据,或者你有一个令人难以置信的数据密集任务。

2. 你的应用具有超低延迟需求。

3. 你的应用需要一个非常高的吞吐量,需要在数据的读写I/O上进行优化。

4. 你的应用没有任何关系型数据。

100+用户

l 在web层进行主机分离。

l 使用Amazon RDS存储数据,它把数据库的所有工作都揽下了。

l 上面两点做好即可。

 

1000+用户

l 现在你构建的应用存在可用性问题,你的web应用将会宕掉如果你web服务的主机宕掉了。

l 你需要在另外一个可用区域上搭建另外一个web实例,由于可用区域之间拥有毫秒级别的低延迟,他们看起来就像互相挨着。

l 同样,你需要在另外一个可用区域上搭建一个RDS数据库slave,组成主备数据库,一旦主数据库发生故障你的web应用将会自动切换到slave备数据库。由于你的应用总是使用相同的端,failover不会带给应用任何改变。

l 在两个可用区域中分布着两个web主机实例,使用弹性负载均衡器(ELB)将用户访问分流到两个web主机实例。

l 弹性负载均衡器(ELB

1. ELB是一个高可用的负载均衡器,它存在于所有的可用区域中,对于你的应用来说它是一个DNS服务,只需要把他放到Route53即可,它就会在你的web主机实例中进行负载分发。

2. ELB有健康检查机制,这个机制保证流量不会分发到宕掉的主机上。

3. 不用采取任何措施即可完成扩展,当它发现额外流量时它将在后台通过横向和纵向扩展,随着你的应用不断扩展,它也会自动不断扩展,而且这些都是系统自动完成的,你不必对ELB做任何管理。

10000100000用户

l 前面例子中说到ELB后面挂载两个web主机实例,而实际上你可以在ELB后面挂载上千个主机实例,这就叫横向扩展。

l 添加更多的读副本到数据库中,或者添加到RDS中,但需要保持副本的同步。

l 通过转移一些流量到web层服务器减轻web应用的压力,例如从你的web应用中将静态内容抽离出来放到Amazon S3Amazon CloudFront上,CloudFrontAmazonCDN,它会将你的静态内容保存在全世界的53个边缘地区,通过这些措施提高性能和效率。

l Amazon S3是一个对象仓库。

1. 它不像EBS,它不是搭载在EC2实例上的存储设备,它是一个对象存储而不是块存储。

2. 对于静态内容如JavaScriptcss、图片、视频等存放在Amazon S3上再合适不过,这些内容没必要放到EC2实例上。

3. 高耐用性,119的可靠性。

4. 无限制的可扩展,只要你想可以往里面扔尽可能多的数据,用户在S3上存储了PB级别的数据。

5. 支持最大5TB的对象存储。

6. 支持加密,你可以使用Amazon的加密,或者你自己的加密,又或者第三方的加密服务。

l Amazon CloudFront对你的内容提供缓存

1. 它将内容缓存在边缘地区以便供你的用户低延迟访问。

2. 如果没有CDN,将导致你的用户更高延迟地访问你的内容,你的服务器也会因为处理web层的请求而处于更高的负载。

3. 例如有个客户需要应对60Gbps的访问流量,CloudFront将一切都处理了,web层甚至都不知道有这么大的访问流量存在。

l 你还可以通过转移session状态减轻你的web层的负载

1. 将session状态保存到ElastiCacheDynamoDB

2. 这个方法也让你的系统在未来可以自动扩展。

l 你也可以将数据库的一些数据缓存在ElastiCache减轻应用负载

1. 数据库没有必要处理所有获取数据的请求,缓存服务可以处理这些请求从而让宝贵的数据库资源处理更加重要的操作。

l Amazon DynamoDB——全托管的NoSQL数据库

1. 根据你自己想要的吞吐量,定制你想要的读写性能。

2. 支持高性能。

3. 具备分布式和容错性,它部署在多个可用区域中。

4. 它以kv结构存储,且支持JSON格式。

5. 支持最大400k大的文件。

l Amazon Elasticache ——全托管的MemcachedRedis

1. 维护管理一个memcached集群并不会让你赚更多的钱,所以让Amazon来做。

2. Elasticache集群会自动帮你扩展,它是一个具备自我修复特性的基础设施,如果某些节点宕掉了其它的新节点即会自动启动。

l 你也可以转移动态内容到CloudFront减轻负载

1. 众所周知CloudFront能处理静态内容,例如文件,但除此之外它还还能处理某些动态内容,这个话题不再进行深入的探讨,可以看看这个链接

自动扩展

l 对于黑色星期五,假如你不用做任何扩展就足够处理这些峰值流量,那么你是在浪费钱。如果需求和计算能力相匹配自然是最好的,而这由自动扩展帮你实现,它会自动调整计算集群的大小。

l 作为用户,你可以决定集群的最小实例数和最大实例数,通过实例池中设置最小和最大实例数即可。

l 云监控是一种嵌入应用的管理服务

1. 云监控的事件触发扩展。

2. 你准备扩展CPU的数量吗?你准备优化延迟吗?准备扩展带宽吗?

3. 你也可以自定义一些指标到云监控上,如果你想要指定应用针对某些指标自动扩展,只需将这些指标放到云监控上,告诉根据云监控根据这些指标分别扩展哪些资源。

500000+用户

l 前面的配置可以自动扩展群组添加到web层,在两个可用区域里自动扩展群组,也可以在三个可用区域里扩展,在不同可用区域中的多实例模式不经可以确保可扩展性,同时也保证了可用性。

l 论题中的案例每个可用区域只有3web层实例,其实它可以扩展成上千个实例,而你可以设置实例池中最小实例数为10最大实例数为1000

l ElastiCache用于承担数据库中热点数据的读负载。

l DynamoDB用于Session数据的负载。

l 你需要增加监控、指标以及日志。

1. 主机级别指标,查看自动扩展的集群中的某一CPU参数,快速定位到问题的位置。

2. 整体级别指标,查看弹性负载均衡的指标判断整个实例集群的整体性能。

3. 日志分析,使用CloudWatch日志查看应用有什么问题,可以使用CloudTrail对这些日志进行分析管理。

4. 外部站点监控,使用第三方服务例如New RelicPingdom监控作为终端用户看到了什么情况。

l 你需要知道你的用户的反馈,他们是不是访问延迟很慢,他们在访问你的web应用时是不是出现了错误。

l 从你的系统结构中尽可能多地排出性能指标,这有助于自动扩展的决策,你可不希望你的系统CPU使用率才20%

自动化运维

l 随着基础设施越来越大,它扩展到了上千个实例,我们有读副本,我们有水平横线扩展,对于这些我们需要一些自动化运维措施去对他们进行管理,我们可不希望对着每个实例一个一个单独地管理。

l 自动化运维工具分为两个层级

1. DIY层,包括Amazon EC2AWS CloudFormation

2. 更高层次的服务,包括AWS Elastic BeanstalkAWS OpsWorks

l AWS Elastic Beanstalk,为你的应用自动管理基础设施,很方便。

l AWS OpsWorks,应用程序管理服务,用于部署和操作不同形态规模的应用程序,它还能做到持续集成。

l AWS CloudFormation

1. 提供了最大的灵活性,它提供了你的应用栈的模板,它可以构建你的整个应用栈,或者仅仅是应用栈中的某个组件。

2. 如果你要更新你的应用栈你只要更新CloudFormation模板,它将更新你的整个应用。

3. 它拥有大量的控制,但缺乏便利性。

l AWS CodeDeploy,部署你的程序到整个EC2实例集群

1. 可以部署一到上千个实例。

2. Code Deploy可以指向一个自动扩展配置。

3. 可连同ChefPuppet一起使用。

解耦基础设施

l 使用SOA/微服务,从你的应用抽离出不同服务,就像前面你将web层与数据库层分离出来那样,再分别创建这些服务。

l 这些独立出来的服务就可以根据自己需要扩展,它给你系统的扩展带来了灵活性,同时也保证了高可用性。

l SOAAmazon搭建架构关键的组成部分。

l 松耦合解放了你

1. 你可以对某些服务单独地扩展和让它失效。

2. 如果一个工作节点从SQS拉取数据失败,没有没关系?没有,只要重启另外一个工作节点即可,所有操作都有可能发生故障,所以一定要搭建一个可以处理故障的架构,提供failover功能。

3. 将所有模块设置成黑盒。

4. 把交互设计成松耦合方式。

5. 优先考虑内置了冗余性和可扩展性的服务,而不是靠自己构建实现。

不要重复发明轮子

l 只需把你区别于已有任务的部分作为你的业务逻辑。

l Amazon的很多服务本身具备容错能力,因为他们跨多个可用区域,例如:队列、邮件、转码、搜索、数据库、监控、性能指标采集、日志处理、计算等服务,没有必要自己搭建。

l SQS:队列服务

1. Amazon提供的第一个服务。

2. 它是跨可用区域的所以拥有容错性。

3. 它具备可扩展性、安全性、简单性。

4. 队列可以帮助你的基础设施上的不同组件之间传递消息。

5. 以图片管理系统为例,图片收集系统和图片处理系统是两个不同的系统,他们各自都可以独立地扩展,他们之间具备松耦合特性,摄取照片然后扔进队列里面,图片处理系统可以拉取队列里面的图片再对其进行其他处理。

l AWS Lambda,用于代码部署和服务管理。

1. 提供解耦你的应用程序的工具。

2. 在前面图片系统的例子中,Lambda可以响应S3的事件,就像S3中某文件被增加时Lambda相关函数会被自动触发去处理一些逻辑。

3. 已经在EC2上集成,供应用扩展。

百万级别用户

l 当用户数量达到百万级别时,这就要求前面提到的所有方案都要综合考虑。

1. 扩展多为可用区域。

2. 在所有层之间使用弹性负载均衡,不仅在web层使用,而且还要在应用层、数据层以及应用包含的其他所有层都必须使用弹性负载均衡。

3. 自动伸缩能力。

4. 面向服务的架构体系。

5. 巧妙使用S3CloudFront部署一部分内容。

6. 在数据库前面引入缓存。

7. 将涉及状态的对象移除出Web层。

l 使用Amazon SES发送邮件。

l 使用CloudWatch监控。

 

千万级别用户

l 当我们的系统变得越来越大,我们会在数据层遇到一些问题,你可能会遇到竞争写主库的数据库问题,这也就意味着你最多只能发送这么多写流量到一台服务器上。

l 你如何解决此问题?

1. Federation,根据你的应用功能把数据库分成多个库。

2. Sharding,分表分片,使用多个服务器分片。

3. 把部分数据迁移到其他类型的数据库上,例如NoSQLgraph等。

l Federation——根据应用功能切分成多个库

1. 例如,创建一个论坛数据库、一个用户数据库、一个产品数据库,你可能之前就是一个数据库包含这所有类型的数据,所以现在要将他们拆分开。

2. 按照功能分离出来的数据库可以各自独立进行扩展。

3. 缺点:不能做跨数据库查询。

l Sharding——将数据分割到多主机上

1. 应用层变得更加复杂,扩展能力更强。

2. 例如,对于用户数据库,三分之一的用户被发送到一个分片上,三分之一发到另一个分片上,最后三分之一发到第三个分片。

l 将数据迁移到其他类型的数据库上

1. 考虑NoSQL数据库。

2. 如果你的数据不要求复杂的join操作,比如说排行榜,日志数据,临时数据,热表,元数据/查找表等等,满足这些情况可以考虑迁移到NoSQL数据库上。

3. 这意味着他们可以各自单独扩展。

11000000用户

l 扩展是一个迭代的过程,当你的系统变得越来越大,你总有更多的事情需要你解决。

l 调整你的应用架构。

l 更多的SOA特性和功能。

l 从多可用区域到多区域。

l 自定义解决方案去解决你的特定问题,当用户量到达十亿级别时自定义解决方案是必要的。

l 深入分析你的整个应用栈。

回顾

l 使用多可用区域的基础设施提升可靠性。

l 使用自带扩展能力的服务,比如ELBS3SQSSNSDynamoDB等等。

l 每一层级都建立冗余,可扩展性和冗余性不是两个分开单独的概念,经常需要同时考虑两者。

l 刚开始使用传统关系型数据库。

l 在你的基础设施的里面和外面都考虑缓冲数据。

l 在你的基础设施中使用自动化工具。

l 确保你的应用有良好的指标采样、系统监控、日志记录,确保收集你的用户访问你的应用过程中产生的问题。

l 将各个层分拆成独立的SOA服务,让这些服务能保持最大的独立性,可以各自进行扩展,及时发生故障也不波及其他。

l 一旦做了足够的准备及可使用自动扩展功能。

l 不重复发明轮子,尽量使用托管服务而不是自己构建,除非非要不可。

必要的情况下转向NoSQL数据库。






========广告时间========鄙人的新书《Tomcat内核设计剖析》已经在京东销售了,有需要的朋友可以到 https://item.jd.com/12185360.html 进行预定。感谢各位朋友。[为什么写《Tomcat内核设计剖析》](http://blog.csdn.net/wangyangzhizhou/article/details/74080321)=========================欢迎关注:![这里写图片描述](http://img.blog.csdn.net/20170509102539658?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvd2FuZ3lhbmd6aGl6aG91/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)


========广告时间========鄙人的新书《Tomcat内核设计剖析》已经在京东销售了,有需要的朋友可以到 https://item.jd.com/12185360.html 进行预定。感谢各位朋友。[为什么写《Tomcat内核设计剖析》](http://blog.csdn.net/wangyangzhizhou/article/details/74080321)=========================欢迎关注:![这里写图片描述](http://img.blog.csdn.net/20170509102539658?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvd2FuZ3lhbmd6aGl6aG91/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)

相关文章推荐

Microsoft Office 2016 for Mac (15.39)破解激活工具与安装源

2017年10月15日更新本博客,激活工具同样适用于Office 15.39版本。我此前在国外网站上找到一个App,下载之后运行,直接点击一个黑色开锁的标识按钮,输入系统密码后即可破解激活。

[置顶]超简单的激活Microsoft Office 2016 for Mac 方法

1.简介: 2016年9月14日更新本博客,激活工具同样适用于Office 15.25(160817)版本。我此前在国外网站上找到一个App,下载之后运行,直接点击一个黑色开锁的标识按钮,输入系统密...

[置顶]将博客搬至CSDN

敬爱的读者,为了适应CSDN,接触更多的开发者 本人要将博客搬至CSDN了。感谢大家的关注。 同时,本人还是会在博客园发表新的文章的  感谢大家

如何搭建千万级别用户的应用系统

基本情况 l AWS覆盖全世界12个国家区域 1. 每个区域都对应着世界上的一个物理位置,每个位置都有弹性计算云提供多个可用区域(Availability Zones),这些区域包含北...

通过分布式设计及文件级数据缓存打造千万级别WEB应用

http://os.51cto.com/art/201203/321067.htm2011年京东商城碰到了严重的流量相关的性能瓶颈,51CTO也做了专门的报道,我有幸在6年前主持开发过日流量千万级别的...

用户文件资料存取(千万级别用户资料文件夹简单保存)

如何用文件夹保存千万级别用户资料. 问题: 要保存一千万个用户资料 , 是不是要建立一千万个文件夹 , 每次查找用户资料都要遍历一千万个文件 ? 错 , 通过对文件夹分类 , 达到遍历最多...

java千万级别数据处理.doc

  • 2012-09-05 13:56
  • 104KB
  • 下载

Linux系统下的启动流程&运行级别&用户管理

Linux系统命令之系统启动流程 【计算机加载BIOS】   该过程中最重要的一步就是对自身硬件的健康检查,这种通电之后的自检过程叫做“加电自检”,简称POST。 【系统引导】   BIOS默认会...

实战低成本服务器搭建千万级数据采集系统

上一篇文章《社会化海量数据采集框架搭建》提到如何搭建一个社会化采集系统架构,讲架构一般都比较虚,这一篇讲一下如何实战用低成本服务器做到日流水千万级数据的分布式采集系统。 有这样一个采集系统的需求...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)