http://blog.csdn.net/lfhfut/article/details/1128759
不错的博客,服务器开发的重点
http://www.cnblogs.com/my_life/articles/5389009.html
在ACE的sample中,对数据包的处理都是在接收到数据后立即进行,而在实际的网络应用中,由于某些逻辑处理可能会占用比较长的时间,因此有可能会阻塞网络数据包的接收,导致对方发送数据失败。
解决的方法是将网络IO与逻辑处理相分离,分别在独立的线程中运行,使用消息队列来进行数据缓冲。这样即使某个数据包的处理时间过长,也不会影响到IO线程的数据接收。
当然,如果逻辑处理的效率一直低于IO,问题将会越来越严重,此时可以通过为消息队列设置高水位来阻塞IO线程的数据接收,或者使用线程池的方式进行并发的逻辑处理,提高逻辑处理的效率。
【线程池:如何保证同一个客户端的消息的顺序处理? 把不同的client hash到不同的逻辑线程上,今后来自该客户端的所有的消息都由该逻辑线程来处理,这就保证了顺序】
网络IO与逻辑处理分离的实现比较简单,从ACE_Task分别派生两个线程,一个作为网络IO,一个作为逻辑处理。从ACE_Task派生的对象自动拥有了ACE_Message_Queue消息队列,网络IO线程其实不需要消息队列,可以从ACE_Task_Base派生。
IO线程接收到的数据都放到逻辑线程的消息队列中,当然,头部要加上一个标识,用于指出是哪个客户端发来的数据包。
在逻辑线程中使用一个映射表来保存每个Socket Handler到其处理器的对应。逻辑线程从消息队列中取出数据包后,根据其头部的标识找出对应的处理器来处理该消息。
一个可能的网络线程类申明为:
class RealmNetwork_Thread : public ACE_Task_Base
{
public:
RealmNetwork_Thread();
virtual ~RealmNetwork_Thread();
virtual int svc();
int open();
int close();
private:
bool running_;
ACE_Proactor * proactor_;
};
逻辑处理线程类申明为:
class RealmLogic_Thread : public ACE_Task<ACE_MT_SYNCH>
{
public:
RealmLogic_Thread();
virtual ~RealmLogic_Thread();
virtual int svc();
int open();
int close();
private:
bool running_;
typedef std::map<unsigned int, Realm_Client_Service *> ClientServiceMap;
ClientServiceMap client_service_map_;
};
网络IO线程的实现使用 创建一个可正常结束的Proactor服务器 中的方法,只是在handle_read_stream()中收到完整的数据包后要使用putq()方法将该数据包发送到逻辑线程的消息队列中,另外在连接建立和连接关闭时也要通知逻辑线程,以进行相应的映射建立和删除操作。
逻辑线程的实现就是循环地从消息队列中取数据包并执行相应的处理即可。
一个应用的实例见 WOW用户认证的方式-SRP 中的服务器。
=========================================================
http://blog.csdn.net/blade2001/article/details/4370823
双缓冲消息队列-减少锁竞争
在网络应用服务器端, 为了性能和防止阻塞, 经常会把逻辑处理和I/O处理分离:
I/O网络线程处理I/O事件: 数据包的接收和发送, 连接的建立和维护等.
逻辑线程要对收到的数据包进行逻辑处理.
通常网络线程和逻辑线程之间是通过数据包队列来交换信息, 简单来说就是一个生产者-消费者模式.
这个队列是多个线程在共享访问必须加锁, 意味着每次访问都要加锁。如何更好的如何减少锁竞争次数呢 ?
方案一 双缓冲消息队列:
两个队列,一个给逻辑线程读,一个给IO线程用来写,当逻辑线程读完队列后会将自己的队列与IO线程的队列相调换。
IO线程每次写队列时都要加锁,逻辑线程在调换队列时也需要加锁,但逻辑线程在读队列时是不需要加锁的.
队列缓冲区的大小要根据数据量的大小进行调整的,如果缓冲区很小,就能更及时的处理数据,但吞吐量以及出现资源竞争的几率大多了。
可以给缓冲队列设置最大上限,超过上限的数量之后,将包丢弃不插入队列。
另外,双缓冲的实现也有不同策略的,
一是读操作优先,就是生产者只要发现空闲缓冲,马上swap,
二是写线程只有在当前的缓冲区写满了,才进行swap操作。
三是上层逻辑按照帧率来处理,每一帧的时候将双层缓冲队列调换一下,取一个队列来处理即可.
方案二 提供一个队列容器:
提供一个队列容器,里面有多个队列,每个队列都可固定存放一定数量的消息。网络IO线程要给逻辑线程投递消息时,会从队列容器中取一个空队列来使用,
直到将该队列填满后再放回容器中换另一个空队列。而逻辑线程取消息时是从队列容器中取一个有消息的队列来读取,处理完后清空队列再放回到容器中。
这样便使得只有在对队列容器进行操作时才需要加锁,而IO线程和逻辑线程在操作自己当前使用的队列时都不需要加锁,所以锁竞争的机会大大减少了。
这里为每个队列设了个最大消息数,看来好像是打算只有当IO线程写满队列时才会将其放回到容器中换另一个队列。那这样有时也会出现IO线程未写满一
个队列,而逻辑线程又没有数据可处理的情况,特别是当数据量很少时可能会很容易出现
[这个可以通过设置超时来处理, 如果当前时间-向队列放入第一个包的时间> 50 ms, 就将其放回到容器中换另一个队列]。
方案3: Netty或muduo的方式,每个客户端维护自己的发送接收队列 ------------------我添加的
通常我们逻辑服务器会以场景来划分线程,不同线程执行不同场景.一个线程可以执行多个场景.因为玩家属于场景,我们会把玩家数据,包括其缓冲池丢给场景 去处理.
Ref link: http://groups.google.com/group/dev4server/browse_thread/thread/4655f8ab1248347a?hl=zh-CN
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 |
|
===========================================================
http://www.cnblogs.com/my_life/articles/5340365.html
http://yaocoder.blog.51cto.com/2668309/1374280 很好的博客,可按部就班的学习(已变成下面的网址.)
https://blog.51cto.com/yaocoder
https://blog.csdn.net/u012730075/article/details/39481271
===============================
http://www.10tiao.com/html/335/201411/201788569/1.html
http://justdo2008.iteye.com/blog/1936795
http://www.cnblogs.com/tianzhiliang/archive/2010/10/28/1863684.html Socket服务器整体架构概述
https://my.oschina.net/u/1859679/blog/1438724 王者荣耀架构
https://it.zuocheng.net/tier-architecture-summary-zh
http://www.cnblogs.com/meibenjin/p/3604389.html