负载报服务器无响应,nodejs HTTP服务器无法在高负载下处理大量响应

现在所有字符串首先转换为Buffer实例。这会在每次请求之后对垃圾收集器进行大量负载清理。运行你的应用程序--prof和检查v8.log文件tools/*-tick-processor，你可能会看到。

正在做一些工作来纠正这种情况，因此字符串直接写入内存，然后在请求完成时清理完毕。已经在f5e13ae中实现了文件系统写入，但尚未用于其他情况(比听起来更难实现)。

也将字符串转换为缓冲区是非常昂贵的。特别是对于utf8字符串(这是默认值)。在哪里可以，肯定会预先缓存字符串作为缓冲区并使用它。下面是一个示例脚本：

var http = require('http');

var str = 'a';

for (var i = 0; i < 60000; i++)

str += 'a';

//str = new Buffer(str, 'binary');

http.createServer(function(req, res) {

res.writeHead(200, {'Content-Type': 'text/plain',

'Access-Control-Allow-Origin': '*'});

res.end(str);

}).listen(8011, '127.0.0.1');

，这里是从运行wrk 'http://127.0.0.1:8011/'对服务器首先通过str为一个字符串，然后作为一个持久缓冲区结果：

Running 10s test @ http://127.0.0.1:8011/

2 threads and 10 connections

Thread Stats Avg Stdev Max +/- Stdev

Latency 0.00us 0.00us 0.00us -nan%

Req/Sec 0.00 0.00 0.00 -nan%

8625 requests in 10.00s, 495.01MB read

Requests/sec: 862.44

Transfer/sec: 49.50MB

Running 10s test @ http://127.0.0.1:8011/

2 threads and 10 connections

Thread Stats Avg Stdev Max +/- Stdev

Latency 624.07us 100.77us 4.45ms 99.17%

Req/Sec 7.98k 729.82 9.00k 57.59%

158711 requests in 10.00s, 8.90GB read

Requests/sec: 15871.44

Transfer/sec: 0.89GB

至少，如果你知道您传递的字符串只包含ascii字符，然后用res.end(new Buffer(str, 'binary'))替换res.end(str)。这将使用更快的v8::String::WriteOneByte方法。以下是使用该更改的结果：

Running 10s test @ http://127.0.0.1:8011/

2 threads and 10 connections

Thread Stats Avg Stdev Max +/- Stdev

Latency 827.55us 540.57us 7.03ms 97.38%

Req/Sec 6.06k 1.11k 8.00k 85.93%

121425 requests in 10.00s, 6.81GB read

Requests/sec: 12142.62

Transfer/sec: 696.89MB