node mysql同步_什么!?nodejs 实现同步网络请求?

node.js 以异步方式、事件队列为标准,基本每一套与网络、IO 相关的 API 都会设计成异步的。

如,一段很平常的请求代码,用 node.js 只能用异步方式。

const https = require('https');

https.get("https://nodejs.org/api/https.html", res => res.pipe(process.stdout))

异步方式不会阻塞进程,充分利用 CPU。

但是,对于一些一次性的脚本、批处理,我们希望使用同步的方式。因为以上情形,对于效率要求不是十分迫切,更多的是需要清晰的代码结构,简明的代码逻辑。浏览器在未加载完图片数据的时候,浏览器是不知道其大小的所以,默认大小都是 0,除非通过 style 设置了大小

之后的某个时候,图片加载完成,浏览器得到图片大小,文章就会有跳动的感觉,阅读体验不佳解决该问题,将 markdown 文本中的 ![](src) 和 src 中的 src 匹配出来,如果是本地文件则读文件,得到图片大小;或者发送请求,得到图片数据进而得到图片大小,最后进行字符串 替换/插入,成为如下的 HTML 格式文本。

url

在这种情况下,同步的网络请求比异步的请求会更加合适,代码更加清晰,逻辑更简单,而且对代码效率要求不高。如下,便是简化后的同步请求,文本替换的代码。

content.replace(/!\[(.*)\]\((.*?[^\\])\)/g, (matched, alt, src) => {

// get image data from src synchronously

const data = getData(src);

const size = sizeOf(data);

return `${alt}`

})

如果使用的是异步,则不能在第二个参数中直接 return 替换后的文本了,就需要更加复杂的代码逻辑(如标记文本的位置和长度,待请求结束后,进行替换)。

那么具体应该如何实现 node.js 的同步请求呢?

谷歌 "sync request in nodejs"

搜索结果中出来一个 sync-request, npm install 后果然能够同步网络请求,这顿时勾起了我的兴趣:在一个官方没有提供同步请求 api 的情况下,该第三方包是怎么实现请求的同步的呢?

阅读源码之后才发现作者十分巧妙的将异步问题转化成了同步问题,分析如下。

sync-request

在 readme 中,作者有这样一段话:How is this possible?

Internally, this uses a separate worker process that is run using childProcess.spawnSync.

The worker then makes the actual request using then-request so this has almost exactly the same API as that.

This can also be used in a web browser via browserify because xhr has built in support for synchronous execution. Note that this is not recommended as it will be blocking.

简言之作者实际上发送请求是用的 then-request,对官方的异步 API 用 Promise 进行封装,所以其是异步请求方式。

异步转化同步方式,主要是借助了 childProcess.spawnSync 方法,创建同步进程。

阅读源码之后,基本的流程如下:

首先需要 nc 指令的作用,以及标准输入输出如何传递字节数组。

man page 中对 nc 的介绍为:nc -- arbitrary TCP and UDP connections and listens

usage: nc [hostname] [port[s]]

就是一个底层的系统调用,用于建立 TCP/UDP 连接或者监听某端口的,由于是系统调用,所以速度更快,效率更高。

标准输入输出如何传递字节数组,就需要将字节数组转化成字符串,然后在处理之前转化成字节数组,默认 nodejs 实现是将 Buffer 序列化为 {"type":"Buffer","data":[1,2,3,4,5]},分成2个字段表示,但是这样是不能够反序列化回来的。

则需要重写 JSON 序列化的方法,主要是对 Buffer 的处理。

function stringify (o) {

if(o && Buffer.isBuffer(o)) // hex, ascii 都是可以的

return JSON.stringify(':base64:' + o.toString('base64'));

if ('string' === typeof o) {

// 避免将 buffer 误认为 string

return JSON.stringify(/^:/.test(o) ? ':' + o : o)

}

// 其他维持原样

}

function parse (o) {

return JSON.parse(s, function (key, value) {

if('string' === typeof value) {

if(/^:base64:/.test(value))

return new Buffer(value.substring(8), 'hex')

else // string

return /^:/.test(value) ? value.substring(1) : value

}

return value

})

}

理解了以上之后,再来具体看看代码find-port.js 得到一个空闲的端口返回,基本原理如下(仅为部分代码)

module.exports = function () {

return new Promise(function (resolve, reject) {

var server = net.createServer();

server.unref();

server.on('error', reject);

// port = 0, 绑定可用的端口

server.listen(0, function () {

var port = server.address().port;

server.close(function () {

resolve(port);

});

});

});

};legacy-work.js 使用标准输入输出作为参数的来源和返回的出口,处理网络请求 (then-request)

const concat = require('concat-stream');

const request = require('then-request');

const JSON = require('./json-buffer');

function respond(data) {

process.stdout.write(JSON.stringify(data), function() {

process.exit(0);

});

}

process.stdin.pipe(concat(function (stdin) {

var req = JSON.parse(stdin.toString());

request(req.method, req.url, req.options).done(function (response) {

respond({success: true, response: response});

}, function (err) {

respond({success: false, error: { message: err.message }});

});

}));nc-server.js

启动一个 TCP 服务端,为 nc 指令通信

const net = require('net');

const concat = require('concat-stream');

const request = require('then-request');

const JSON = require('./json-buffer');

const server = net.createServer({allowHalfOpen: true}, c => {

function respond(data) {

c.end(JSON.stringify(data));

}

c.pipe(concat(function (stdin) {

try {

const req = JSON.parse(stdin.toString());

request(req.method, req.url, req.options).done(function (response) {

respond({success: true, response: response});

}, function (err) {

respond({success: false, error: { message: err.message }});

});

} catch (ex) {

respond({success: false, error: { message: ex.message }});

}

}));

});

server.listen(+process.argv[2]);

其中 { allowHalfOpen: true } 不可少,因为在执行 spawnSync('nc', ["127.0.0.1", nPort], {input: request}) 时,input 是 JSON 序列话后的字符串,输入后就到 EOF 了,相当于在 Shell 中 Ctrl+D 控制键,nc 客户端套接字就关闭了,只有允许半开套接字,客户端才能收到服务器的数据。如下图:对应为客户端的 FIN_WAIT_2 ~ TIME_WAIT 周期之间,服务器依旧可以发送数据。

以上,便是对部分源码的解析

所以,最终的请求还是通过 then-request 来实现的,但是对于 then-request 并不支持 multipart/formdata,因此 sync-request 也是不支持的。 于是本人在 fork 之后,配合 form-data提了 pr,希望作者能够早日 merge 吧。

最后想说:原来还可以这样实现同步!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值