xiaofei_chain-CSDN博客

原创记一种分布式超大规模数据的实时快速排序算法

引言对数据进行处理的同学，经常会遇到排序需求，无论是内存数据还是磁盘数据。对于单点的数据，我们的处理比较简单，比如：select field_a from table_b order by field_a limit 100, 10;db.collection_b.find().sort({"field_a":1}).skip(100).limit(10);存储服务的处理流程一般可抽象如下：信

2018-01-03 16:38:48 1366

原创高性能大模块分布式生成ID

假设工作节点数为N，系统每秒处理并发为Concurrent, 全局分配器的请求频次F，每次分配ID片长度为P, 全局分配器个数为M，则有下列公式：F=Concurrent/(N*P*M) 假设每秒并发数为100万（1秒产生100万个ID，1秒新增100万个用户，实际不可能），有5个工作节点，全局分配器个数为4，每次申请ID片为10000。F=1000,000 / (5 * 10000*4) ＝5

2017-12-13 13:54:54 594 1

原创简单设计并开发一个移动通信程序

网络越来越好，手机之间的互动已经是常态，王者荣耀、微信实时视频等，已经将多屏互动推到各到各种应用场景。为了让大家能清楚地了解多屏互动，我将结合实例对移动设备实时通信进行研究，并系统性地呈现一些解决方案。最开始，我尝试给大家展示如何建立一个最简单的点对点通信。万事开头难，先假定一下需求：局域网内通信。写一个你看我画的程序。纯客户端（一开始，我不打算让服务器参与）。下面对需求进行

2017-12-06 21:17:15 1471 2

原创我对分布式计算框架的理解与设计

谢谢大家来看这篇文章，我想花点时间分享一下我对分布式计算的理解。分布式服务有很多，比如hbase, hadoop, spark等，我所要讲述的重点不是这些服务的原理，而是用更浅显的话讲述更深刻的设计。如何把多个的机器组合起来完成一件简单的计算任务，所以这方面的架构设计更多的关注服务器间的关系。下面我们来设计一个框架，以进行简单的分布式计算。我们假设计算目标有三类： 1.分布计算能力

2017-12-06 12:07:22 2254

原创 nginx 反向代理-负载均衡

nginx 反向代理-负载均衡前一篇文章讲了反向代理的中转作用实现了把一个复杂的网络地址用简单的地址替换。实现了fastcgi, php的前端代理功能。其实,反向代理作用远不止这些，下面我们仍以nginx为例：按照之前的配置： location /music/{ proxy_pass http://music.baidu.com/; }结果：浏览

2016-08-21 10:42:43 1081

原创 nginx proxy_pass 反向代理的用法

反向代理简单来说就是代理服务器。nginx 对反向代理的支持应该是所有http服务器中最容易的。其配置方法如下：

2016-08-20 12:42:47 20360

原创 nginx 如何使用rewrite

上一篇我们已经会安装nginx了，但是还不支持重定向。要支持重定向得在nginx编译时安装pcre库。pcre全称是Perl Compatible Regular Expressions,是来处理正则表达式的。我们去官网下载： http://www.pcre.org/我在linux直接下载并解压： cd /home/xiaofei/src wget ftp://ftp.csx.c

2016-08-17 17:43:26 3394

原创 nginx在linux上从安装到使用

nginx在linux上从安装到使用如果你没听过nginx,那一定不是http后台开发人员。相对于年代久远的apache,nginx显得小巧而强大。nginx使用的是单线程多进程模式，事件模型采用多路复用，对于反向代理类似的处理更用一筹。从官网上下载 http://nginx.org/download/nginx-1.11.3.tar.gz 解压： tar -xzvf nginx-1.1

2016-08-17 10:43:07 652

首先，jemalloc是干什么的？我们看看作者自己的介绍：>jemalloc is a general purpose malloc(3) implementation that emphasizes fragmentation avoidance and scalable concurrency support意思是说jemalloc干了malloc干的活，而且干得好一些，主要体现在避免内存碎片与并

2016-08-15 23:29:36 40336 2

原创 redis在linux上从安装到使用

redis 是目前比较流行的key-value数据存储系统，数据会存在内存中，与memcached不同的是会周期性的将数据落地到磁盘中。redis的安装过程：从redis官网下载3.2.3：http://download.redis.io/releases/redis-3.2.3.tar.gz解压出来的目录如下：

2016-08-15 13:54:02 1841 1

原创实时游戏对战引擎MatchVS，我的对战旅程

MatchVS对战引擎终于面世了，其对战效果简直屌爆了，有视频为证！2016年是中国电竞元年，所以让我们继续加油！

2016-01-28 12:13:13 3723

原创今天是你的生日----微传

怀着火热的心情，巨大的压力，推出第一款应用，这是我们这些屌丝程序员逆袭高富帅的战役。我们没有过硬的后台，几乎没有大腿可抱，一路走来，我们是靠激情和鸡血前进的。从今天开始，将不断推出微传系列研发文章，欢迎大家吐槽和建议。

2014-08-26 16:23:57 1343

原创手机间快速传输---微传

爬了一天的山，下山后和小伙伴分手时交换一下照片；朋友婚礼上，把拍的照片分享一下。。。。在这种时候是不是会想，能不能少耗点流量，最好别耗流量！能不能再快点，小菊花别他妈一直转啊转啊转！

2014-08-25 17:05:16 3074 7

原创水果忍者激战版的开发心得

去年8月份一开始接到任务，是要做一个手机间实时通信的桥梁，大家都知道国外的视频通话早已成熟，国内这坑爹的网速实在是坑爹（这高昂的费用既使能用也不敢用），在网速坑爹的时候想搞实时通信，在国内还是首义。到了10月分的时候第一个DEMO已经成型:http://v.youku.com/v_show/id_XNjQzNTUwMTU2.html最终产品：水果忍者激战版http://dl.uu.cc/p2p/（在android 手机浏览器上输入后点击下载就OK)

2014-05-02 10:14:23 2164

原创统计学里的哲学

如果你有两个桶A和B，A装的是红色的颜料，B的是蓝色的颜料。你从蓝色B里舀一杯，倒入红色A中，再从红色A里舀一杯倒入蓝色B中。最后A,B两个桶中红蓝颜料的比例哪个更高

2014-03-13 13:31:07 2461 2

原创关于13年手游的总结和14年的分析

现在的网络科技发展很快，3G没兴几年，又到4G了，WIFI更是遍布大江南北，手机游戏已经不限于单机版了，还记得当年IPHONE刚兴起的时候，人人都玩tom猫，愤怒的小鸟这些单机游戏，时过境迁，还有谁还会为这些游戏而兴奋。

2014-01-15 13:42:14 2639 1

原创手机实时传输的问题集锦

PC上建立实时传输通道相对容易，比如IM几本看不到延时，跨机PC间延时可以小到几十毫秒，用户感受不到。wifi,3G下建立实时传输相对较难，A给B发一段语音或者文字需要一定的延时才能收到，当网络情况较好比如wifi下，用IM工具也可以建立实时传输的通道。为了好看清问题，我将实时传输分成了两类：1.不间断的传输2.可间断的传输对于第1类，实现起来相对容易，3G情况下网络给力的时候

2013-12-29 21:02:42 1924

原创 P2P之我见，关于打洞的学问-------服务器架构

当用户A点击匹配的时候，服务端收到用户匹配请求，首先查询有无其他用户在进行匹配，如果没有就将A放进匹配池，如果有假设是B，就在AB间建立连接，同时返回AB。AB得到对方的信息后，依据服务器返回的连接类型进行连接操作。如果是打洞则进告诉打洞逻辑，否则进行中转逻辑。

2013-12-06 14:05:47 3573 1

原创 P2P之我见，关于打洞的学问-------打洞

既然P2P可以直接在客户端间建立连接，为啥像电驴，QQ这样的P2P软件还要登录呢。打个比方，假设有两个用户，A,B,相关信息如下：

2013-11-19 11:33:16 5117 2

原创 P2P之我见，关于打洞的学问-------开篇

P2P全称是 peer to peer,国内有被翻译成点对点协议，顾名思议，即客户端与客户端直连。但是，问题是只有极少数情况下，客户端之间才能直连。为什么呢，现在大家的PC大部分是“躲”在路由后面，路由设备保护大家，免受黑客的攻击。试想一下，如果别人可以任意直连你的电脑，经常上传重口味艳照的你岂不是整天生活在恐惧之中。

2013-11-17 22:21:26 3597 3

原创浅谈服务器的两种架构

今天和人电话聊了很长的技术问题，人家是成都卧龙工作室的，技术应该是很行的，但是在几个问题上我们的见解不一。一个单线程能不能形成几万的并发。这个问题首先就是个错误的提法，换个说法：nginx是不是就可以达到几万的并发。两个问题犯的是相同的错误。所有的并发都是针对业务处理的，业务简单点，像对于一些静态网页的处理，或者是无IO的事务，单线程和nginx都是可以达到几万的并发的。可是这

2013-06-09 19:16:00 3716 6

原创搭建一个流媒体服务器--引子

在家休息一段时间了，中间有小公司老板邀请，也有企鹅的几个事业部的邀请，说实话要是放在以前应该都挺有兴趣，不过现在看的淡了。和企鹅几个HR聊过，人家总是自我感觉良好，以为薪水高一点就可以搞定原则了，其实在南山住的人有哪个不知道那个半夜12点还开着灯的公司，那个号称不夜城的公司。签企鹅说不定就是在出卖健康，出卖生命，只是过程看起来比较华丽。现在互联网公司都有一个迹象，加班都朝着无底线的方向走。

2013-06-08 15:18:17 3966 4

原创 hashmap 设计

先来看看泛型的数据队列。自然界中的数据关系多分为两种，拿人类来看，一类是靠人与人之间的关系来互相关联，我称为关系型，另一种是靠屁股相互关联，我称为位置型。对于关系型，一个富豪家族，女屌丝想成为其中成员很简单，与其中一个老头建立夫妻关系就加入了这个家族，被虐待了后想脱离它也很简单，解除夫妻关系就完事了。再看看位置型，比如厕所里有20个坑，上面都贴上数字，有人报告第17个坑堵了，找起来会很

2013-06-03 13:54:24 4008 8

原创 rbtree 设计

什么是树？大街上到处都是，大伙别说没看过，除非你在沙漠中。树大致可以分为根，茎，枝，叶。大树枝会套小树枝，树枝上都有叶子。西方人有个圣诞节，圣诞来了，圣庭老人在树上的每个枝丫上都挂了礼物，礼物上都写上一个小朋友的名字，让小朋友去树上摘。问题来了，现在有两颗树，A

2013-06-02 22:22:01 3312 3

原创高并发服务器的设计--缓存的设计

为什么需要缓存呢？很简单的道理，拿QQ做个比方，每天有几亿用户登录、查询个人信息，且这些信息基本不会变化，如果你是架构师，你会选择全部从数据库中查询么，估计会被笑的。一些业务要求大量且高速查询的，数据库必然会成为瓶颈，虽然可以通过横向扩容的方式优化，但这不是最优方案，其实服务器优化没有一个放之四海而皆准的最优方案，业务不同，最优方案也不同。举个例子，腾讯有十几亿用户，就光登录就是个头疼

2013-05-30 11:52:52 9753 13

原创程序员也有风骚的青春

看完致青春，颇有感慨。人家的青春可以拍成电影，咱的青春只能留做回忆了。开发之路开始是很苦很累的，想当年刚刚创业的时候全靠家里支出，刚来深圳一个月才挣三千块。刚毕业我去的是二线公司，有些同学毕业去了华为腾讯，压力比我还大，我挣得少点，可是从来不用加班，我也明白了挣得多是要付出代价的。方向是在毕业前就要选择好的，因为它将一直伴随我们的青春，是程序员青春的伴侣。之前带的一个同事，搞过

2013-05-28 13:23:26 3790 10

原创高并发服务器的设计--架构与瓶颈的设计

做架构设计，难免有时候被人问及系统的瓶颈在哪，那首先来了解下什么是瓶颈？打个形象的比方,人的嘴巴可以吞下一整个面包，但是却咽不下去，因为食管不给力，它比较细，所以嘴巴能吞下的食物大小要受到食管的粗细限制。城市内部每天会产生几十万件跨城快递，可是跨城的交通不给力，只允许走小型卡车，一卡车一次就能装几千件，一天下来也不一定能投送的完。人在一定时间内能咽下多少食物，货运公司在一天运送多少货物

2013-05-27 20:48:57 10363 8

原创高并发服务器的设计--内存池的设计

不同的业务，设计也不尽相同，但至少都一些共同的追求，比如性能。做服务器开发很多年了，有时候被人问到，服务器性能是什么呢？各种服务器间拼得是什么呢？简单的回答就是QPS，并发数，但有时候想想也许也不对。QPS与并发数是针对同样的业务而言的，业务不同，相同的服务器能承受的压力也会不同。性能，也许可以打个俗点的比方：服务器就是一艘船，性能就是船的容量，开的速度，行得是否稳当。该用

2013-05-26 13:05:15 21764 14

原创高并发服务器的设计--连接池的设计

高并发服务器需要有一些池的设计，如内存池，连接池，数据库连接池。池（pool)的设计主要考虑到一些资源的频繁申请和释放，尤其是在高并发的服务器中，几万甚至几十万并发每秒，设计人员不得不去考虑这些。比如数据库连接池（sql pool)，是通过TCP来通信的，属于IO类，有一定的延时，在高并发系统中频繁的创建会严重影响系统性能。内存( mem )的分配是要涉及锁( mutex )的，有锁就

2013-05-24 11:44:04 7633 12

原创高并发服务器的设计--fastcgi的设计

服务器开发中不何或缺的要使用fastcgi,其使用方法如下：while( FCGI_Accept() >= 0 ){ printf( "Content-type: text/plain \r\n" "Content-Length: %d\r\n" "Connection: close\r\n\r

2013-05-23 10:17:51 5857

原创大并发服务器内存转换的灵活运用,memcpy的思考

在很多的网络开发中，经常会碰到一些内存转换，如下面的场景：#define PACKAGE_PARSE_ERROR -1#define PACKAGE_PARSE_OK 0int parse_package( int* a, int* b, int* c, int* d, char* buf, int buf_len ){ if( !buf || buf_len <

2013-05-22 11:42:18 4530 7

原创大并发服务器之阵痛1---传输响应模式

如果你在淘宝上买过衣服，你会发现，模特的图片一张张的加载起来实在是有点慢。有时候体验简直很糟糕。我们来分析下传输生命线：这是ald.taobao.com 域名下的三次请求，我们发现是按顺序的请求响应，不禁要问，为什么三个请求不同时进行呢，能不能重叠呢。现在市面上各类服务器如nginx, apache对HTTP的传输响应目前都只有一种，即：请求----响应----请求----

2013-05-19 16:01:07 3199 2

原创搭建一个后台服务器--服务端代码（异步，大并发）

#include #include #include #include #include #include #ifndef WIN32#include #include #include #include #include #include #else#include #define close( f ) closesocket( f )#endifstruc

2013-03-31 20:05:04 5407 10

原创搭建一个后台服务器--服务端（异步，大并发）

上篇的阻塞模式下服务器的并发只有几K，而真正的server 像nginx, apache, yumeiz 轻轻松松处理几万个并发完全不在话下，因此大并发的场合下是不能用阻塞的。1W的并发是一个分隔点，如果单进程模型下能达到的话，说明至少在服务器这块你已经很厉害了。服务器开发就像一门气功，能不能搞出大并发，容错性处理得怎么样，就是你有没有内功，内功有多深。异步模式是专门为大并发

2013-03-31 18:31:42 7368 6

原创搭建一个后台服务器--服务端（阻塞）

为什么要在标题后面加个“阻塞”呢，因为系统为了增大并发，减小等待（阻塞），建立了另一种事件模式，后文将介绍，这里只介绍阻塞的模型。阻塞服务器要干的事大致可以分为以下几步：1.创建服务端监听连接2.产生用户连接3.接收用户请求4.发送返回给用户敲码过程如下：设置监听地址与端口： addr_server.sin_family = AF_INET; add

2013-03-31 17:52:41 3795 2

原创搭建一个后台服务器--客户端

上篇规定的协议请求部分：request:username/password, 约定username与password 各占32个字节（联同末位0)可以将客户端的逻辑设计成：1.将username,password 封装进buffer2.连接服务端3.发送buffer4.接收二进制的系统当前时间 5.显示时间代码如下：服务

2013-03-31 14:08:51 4789 1

原创搭建一个后台服务器--引子

最近去了几家公司面试，有一些大公司（比如企鹅）的考核内容真心弱智，考的都是些算法，尼玛，拿一个刚毕业的学生来做说不定也可以过的，看来本来就不是在招搞服务器的，举个例子，企鹅多个部门都曾出的一道题：如何知道集合A,B中的相关性。意思就是哪些元素在A,B之中都有，哪些元素在A,B中不都出现。其实解法很简单，学过算法的完全可以做到。我们知道集合具有互异性，就是集合中的元素只能出现一次，可以建一

2013-03-31 11:42:55 3905 4

原创服务器技术的发展方向

技术永远是服务于产品的，产品则是服务于大环境的，在目前的大环境下，大部分服务器找载着以下几类服务：小站，以asp/jsp/php最具代表型.门户网站，如 qq新闻/163视频网站，如youku/kankan电商网站，如淘宝娱乐软件后台，如微信，微博我们看看区别小站永远离不开虚拟机，国内那些坑爹的空间提供商哪会给你整台服务器。后面几种才运行于独立的服务器。

2013-03-25 15:37:46 3770 5

原创大并发服务器不得不说的技术--connect 异步

前面我们谈的大多是服务端与客户端的技术，服务器开发其实有时还会涉及到跨服务器的访问，比如腾讯的拍拍服务器需要知道登录的会员信息，就需要访问会员服务器。跨务器访问会涉及到很多的技术，比如访问权限控制，数据同步等，这里主要来学习一下传输层。为了更容易理解，我们将访问端服务器称为客户端，被访问端服务器称为服务端。客户端发起一个连接的过程：socket_fd = socket( A

2013-03-21 04:05:48 3672 5

原创大并发服务器不得不说的技术--http 缓存

前面所说技术订都是服务器端一个人在努力，有时候也需要客户端配合。一个链接请求过程大致可以分成几个阶段如果客户端发送同样的请求，且结果都一样，我们是不是可以缓冲一下呢?是不是可以减少几步呢? 的确可以，一般来说以下几种方法：1.我们先试着在服务端进行缓冲，我们试着将一个已经返回的长链接发送内容不作释放，下次请求时直接返回刚才发送的内容，这个不适用于频繁访问，适

2013-03-20 16:10:04 3466

服务器端代码（异步，大并发）

服务端代码（阻塞）

客户端代码

空空如也