并发总结

并发处理需要软件做到怎样的支撑才能做到并发处理，可靠性上

1、避错和容错。
2、避错主要是指提前做一些措施，避免系统在运行中出现错误。
3、容错则是指系统在运行中部分组件出现错误，仍然不失效，可以继续运行；或者当数据、文件损坏或丢失后，系统可以自动将这些数据恢复到以前的状态，使系统能够继续正常运行。
4、测试就是最常用的一种避错技术。而容错则一般使用冗余来实现。

大量用户使用系统，需要怎么样的支撑才能支持大规模的访问

1、页面静态化：CDN，Nginx，http://blog.csdn.net/king_a_123/article/details/52785516
2、分布式：多台服务器。

HA：高可用性，通常有两个或两个以上的节点，当一个节点出现故障，会由另一个节点处理请求。

3、硬件层面优化
4、单独建立图片服务器
5、数据库集群和库表散列：数据读写分离，不同的数据类型、热度放在不同数据库里
6、缓存，memcache，Squid，redis，消息队列
7、镜像，CDN：解决不同网络接入商和不同区域用户的差异
8、冗余（可靠性），设计多个负载均衡服务器
9、负载均衡
10、应用层面：多线程，中间件优化（tomcat：①线程池优化；②启动占用内存优化；③日志输出优化；④HTTP压缩优化；⑤配置文件优化。）

什么是负载均衡

高性能集群：将单个重负载的请求分散到多个节点进行处理，最后再将处理结果进行汇总
高可用集群：提高冗余单元，避免单点故障
负载均衡集群：将大量的并发请求分担到多个处理节点。由于单个处理节点的故障不影响整个系统，负载均衡集群同时也实现了高可用性。

服务器负载均衡有三大基本Feature：负载均衡算法，健康检查和会话保持。
采用不同的机制建立映射关系，可以形成不同的负载均衡技术，常见的包括：
1、DNS轮询
2、CDN
3、IP负载均衡

硬件设备的主要产品是F5-BIG-IP-GTM（简称F5)，软件产品主要有LVS、HAProxy、NginX。其中LVS、HAProxy可以工作在4-7层，NginX工作在7层。

负载均衡的故障处理
负载均衡的单点故障：做双机热备份，使用keepalived检查server器状态。
参考：http://blog.csdn.net/lein_wang/article/details/78369957