大文件断点续传

本文详细介绍了大文件断点续传的实现,包括使用multer的修改、前端处理、服务端策略和优化。针对文件重复上传、断点续传、并发上传等问题,提出了解决方案,并涉及web worker的使用以提高性能。还提供了优化后的封装方法和流程图、时序图以辅助理解。
摘要由CSDN通过智能技术生成

win10 node: v8.2.1 npm: v5.3.0 multer: v1.3.0

使用

1.由于对multer v1.3.0做了修改,所以不可以通过npm install multer这种形式,需要使用到修改过multer包去覆盖原来的。
2.对于文件上传的接口,比如/upload,需要携带参数targetFileName和start。

  • targetFileName: 服务端生成目标文件的名字。targetFileName可在seg-worker.js中导出。seg-worker是一个web worker。var w1 = new Worker('seg-worker.js'); w1.postMessage({file: file})
  • start: 写入到这个文件中的位置。

3.如果是分段上传,需要在multer.diskStorage中添加一个字段seg。

multer.diskStorage({
  destination: cb,
  filename: cb,
  seg: true
})

同时需要修改源码。见下文update4

在multerv1.3.0版本中,通过multer.memoryStoragemulter.diskStorage來配置文件的destinationfilename。具体怎么写入的这些细节multer内部做了封装。下面是实现过程。完整流程图在最下方。

update1

同一个用户可能会重复上传看似相同实则不同的文件。比如两个文件,文件名一样、大小一样、相关时间都一样。但是内容不一样。这样服务器会判断出两个文件是一样的,禁止用户重复上传。

解决这个问题是在前端使用一个spark-md5的库。该库会根据文件内容计算出文件的md5。

update2

因为是大文件,要做分段上传,并且还可以续传。比如,对于一个2g的大文件,如果上传到中途因为断网需要从头开始上传,这是很麻烦的事情。断

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值