前言:
前端如何将大文件上传到后台服务器,如何避免因为特殊情况导致文件上传失败而不至于重新上传。
序言
断点续传: 在下载或上传时,将下载或上传任务(一个文件或一个压缩包)人为的划分为几个部分,每一个部分采用一个线程进行上传或下载,如果碰到网络故障,可以从已经上传或下载的部分开始继续上传下载未完成的部分,而没有必要从头开始上传下载。
一、webuploader.js实现断点续传
webuploader是由百度团队开发的一个简单的以h5为主,flash为辅的现代文件上传组件,采用大文件分片并发上传,极大的提高了文件上传效率。
功能:1、分片、并发;2、预览、压缩;3、多途径添加文件;4、h5 & flash 5、md5秒传;6、易扩展、可拆分。
1、样例
该样例支持文件多选、单独上传、全部上传、删除、暂停以及进度管理。
2、代码
html5代码
<head>
<link rel="stylesheet" type="text/css"
href="https://cdnjs.cloudflare.com/ajax/libs/webuploader/0.1.1/webuploader.css">
<link rel="stylesheet" type="text/css"
href="https://cdn.jsdelivr.net/npm/bootstrap@3.3.7/dist/css/bootstrap.min.css">
<script src="/static/js/jquery-2.0.3.min.js"></script>
<script src="/static/js/webuploader.js"></script>
<script src="/static/js/bootstrap.min.js"></script>
</head>
<div id="uploader" class="container">
<!--用来存放文件信息-->
<div id="thelist" class="row">
<div class="panel panel-primary">
<div class="panel-heading">文件上传</div>
<table class="table table-striped table-bordered" id="uploadTable">
<thead>
<tr>
<th>序号</th>
<th>文件名称</th>
<th>文件大小</th>
<th>上传状态</th>
<th>上传进度</th>
<th style="width:15%;">操作</th>
</tr>
</thead>
<tbody></tbody>
</table>
<div class="panel-footer">
<div id="picker">选择文件</div>
<button id="btn" class="btn btn-default">开始上传</button>
</div>
</div>
</div>
</div>
script代码
<script type="text/javascript">
var fileMd5;
var fileSuffix;
var $list = $("#thelist table>tbody");
var state = 'pending';//初始按钮状态
var $btn = $("#btn");
var count = 0;
//监听分块上传过程中的三个时间点
WebUploader.Uploader.register({
"before-send-file": "beforeSendFile",
"before-send": "beforeSend",
"after-send-file": "afterSendFile",
}, {
//时间点1:所有分块进行上传之前调用此函数
beforeSendFile: function (file) {
var deferred = WebUploader.Deferred();
//1、计算文件的唯一标记,用于断点续传
(new WebUploader.Uploader()).md5File(file, 0, 1024)
.progress(function (percentage) {
$('#' + file.id).find("td.state").text("正在读取文件信息...");
}).then(function (val) {
fileMd5 = val;
$('#' + file.id).find("td.state").text("成功获取文件信息...");
//获取文件信息后进入下一步
deferred.resolve();
});
return deferred.promise();
},
//时间点2:如果有分块上传,则每个分块上传之前调用此函数
beforeSend: function (block) {
var deferred = WebUploader.Deferred();
$.ajax({
type: "POST",
url: "{% url 'checkChunk'%}",
data: {
//文件唯一标记
fileMd5: fileMd5,
//当前分块下标
chunk: block.chunk,
//当前分块大小
chunkSize: block.end - block.start
},
dataType: "json",
success: function (response) {
if (response.ifExist) {
//分块存在,跳过
deferred.reject();
} else {
//分块不存在或不完整,重新发送该分块内容
deferred.resolve();
}
}
});
this.owner.options.formData.fileMd5 = fileMd5;
deferred.resolve();
return deferred.promise();
},
//时间点3:所有分块上传成功后调用此函数
afterSendFile: function (file) {
//如果分块上传成功,则通知后台合并分块
$.ajax({
type: "POST",
url: "{% url 'mergeChunks'%}",
data: {
fileId: file.id,
fileMd5: fileMd5,
fileSuffix: fileSuffix,
fileName: file.name,
},
success: function (response) {
console.log(response.fileName + " 上传成功")
$('#del' + file.id).hide();
}
});
}
});
var uploader = WebUploader
.create({
// swf文件路径
swf: '/static/js/Uploader.swf',
// 文件接收服务端。
server: "/PV/projects/upload/",
// 选择文件的按钮。可选。
// 内部根据当前运行是创建,可能是input元素,也可能是flash.
pick: {
id: '#picker',
multiple: true
},
// 不压缩image, 默认如果是jpeg,文件上传前会压缩一把再上传!
resize: true,
auto: false,
//开启分片上传
chunked: true,
chunkSize: 10 * 1024 * 1024,
accept: {
extensions: "txt,jpg,jpeg,bmp,png,zip,rar,war,pdf,cebx,doc,docx,ppt,pptx,xls,xlsx,iso,flv,mp4",
mimeTypes: '.txt,.jpg,.jpeg,.bmp,.png,.zip,.rar,.war,.pdf,.cebx,.doc,.docx,.ppt,.pptx,.xls,.xlsx,.iso,.flv,.mp4'
}
});
// 当有文件被添加进队列的时候
uploader.on('fileQueued', function (file) {
//保存文件扩展名
fileSuffix = file.ext;
fileName = file.source['name'];
var fileSize = file.size;
var fileSizeStr = "";
fileSizeStr = WebUploader.Base.formatSize(fileSize);
count++;
$list.append(
'<tr id="' + file.id + '" class="item" flag=0>' +
'<td class="index">' + count + '</td>' +
'<td class="info">' + file.name + '</td>' +
'<td class="size">' + fileSizeStr + '</td>' +
'<td class="state">等待上传...</td>' +
'<td class="percentage"></td>' +
'<td class="operate"><button name="upload" id="del' + file.id + '" class="btn btn-warning">开始</button><button name="delete" class="btn btn-error">删除</button></td></tr>');
});
// 文件上传过程中创建进度条实时显示。
uploader.on('uploadProgress', function (file, percentage) {
$('#' + file.id).find('td.percentage').text(
'上传中 ' + Math.round(percentage * 100) + '%');
});
uploader.on('uploadSuccess', function (file) {
$('#' + file.id).find('td.state').text('已上传');
});
uploader.on('uploadError', function (file) {
$('#' + file.id).find('td.state').text('上传出错');
});
uploader.on('uploadComplete', function (file) {
uploader.removeFile(file);
});
uploader.on('all', function (type) {
if (type === 'startUpload') {
state = 'uploading';
} else if (type === 'stopUpload') {
state = 'paused';
} else if (type === 'uploadFinished') {
state = 'done';
}
if (state === 'uploading') {
$btn.text('暂停上传');
} else {
$btn.text('开始上传');
}
});
$btn.on('click', function () {
if (state === 'uploading') {
uploader.stop(true);
} else {
uploader.upload();
}
});
$("body").on("click", "#uploadTable button[name='upload']", function () {
flag = $(this).parents("tr.item").attr("flag") ^ 1;
$(this).parents("tr.item").attr("flag", flag);
var id = $(this).parents("tr.item").attr("id");
if (flag == 1) {
$(this).text("暂停");
uploader.upload(uploader.getFile(id, true));
} else {
$(this).text("开始");
uploader.stop(uploader.getFile(id, true));
}
});
$("body").on("click", "#uploadTable button[name='delete']", function () {
var id = $(this).parents("tr.item").attr("id");
$(this).parents("tr.item").remove();
uploader.removeFile(uploader.getFile(id, true));
});
</script>
url路由代码
"跳转上传页面"
url('index/', views.index),
url('upload/', views.upload, name='upload'),
"分块上传"
url('checkChunk/', views.checkChunk, name='checkChunk'),
"上传结束合并删除分块"
url('mergeChunks/', views.mergeChunks, name='mergeChunks'),
djagno 后台代码
def upload(request):
"""
前端上传的分片 保存到 指定的目录下
:param request:
:return:
"""
if request.method == 'POST':
md5 = request.POST.get("fileMd5")
chunk_id = request.POST.get("chunk", "0")
fileName = "%s-%s" % (md5, chunk_id)
file = request.FILES.get("file")
with open(FILE_PATH + fileName, 'wb') as f:
for i in file.chunks():
f.write(i)
return JsonResponse({'upload_part': True})
def checkChunk(request):
"""
检查上传分片是否重复,如果重复则不提交,否则提交
:param request:
:return:
"""
if request.method == 'POST':
chunkSize = request.POST.get("chunkSize")
if chunkSize == '0':
return JsonResponse({'ifExist': True})
file_name = request.POST.get('fileMd5') + request.POST.get('chunk')
if file_name not in get_deep_data():
return JsonResponse({'ifExist': False})
return JsonResponse({'ifExist': True})
def get_deep_data(path=FILE_PATH):
"""
判断一个文件是否在一个目录下
:param path:
:return:
"""
result = []
data = os.listdir(path)
for i in data:
if os.path.isdir(i):
get_deep_data(i)
else:
result.append(i)
return result
def mergeChunks(request):
"""
将每次上传的分片合并成一个新文件,并删除分片数据
:param request:
:return:
"""
if request.method == 'POST':
chunk = 0
id = request.POST.get("fileId")
md5 = request.POST.get("fileMd5")
fileName = request.POST.get("fileName")
path = os.path.join(FILE_PATH, fileName)
with open(path, 'wb') as fp:
while True:
try:
filename = FILE_PATH + '/{}-{}'.format(md5, chunk)
with open(filename, 'rb') as f:
fp.write(f.read())
os.remove(filename)
except:
break
chunk += 1
return JsonResponse({'upload': True, 'fileName': fileName, 'fileId': id})
3、原理
1、将大文件分片;
2、每一片校验并上传分片保存到指定目录;
3、将分片数据合并成大文件,删除分片数据。
注意:js代码以及css格式可以从此处下载。
二、q.js实现断点续传
1、样例
2、代码
代码以及测试样例下载。
3、分析
Q.js可以实现多种类型的文件上传,包括文件夹上传。