Python 扫描监控本地文件夹并进行超大文件上传
Python监控本地目录文件夹,并分块等方式上传文件到服务器
有几种思路:大文件分块上传,或者先压缩后上传在解压;
- 目录监控方案: Java WatchEvent(可以监控到目录/文件的新建、修改、移动、删除)
Python watchdog(同Java WatchEvent) - 大文件上传方案:WebUploader(h5+js)大文件分块,上传后在合并
压缩后上传,在解压
可以使用FTP、SFTP等连接服务器上传
方案1:WebUploader大文件分块多线程并发上传
WebUploader 是由Baidu WebFE(FEX)团队开发的一个简单的以HTML5为主,FLASH为辅的现代文件上传组件。
集成了文件分块,异步多线程上传;
原理:可设置是否分块、分块大小、是否多线程并发上传;
H5页面触发,js里可设置是否分块、分块大小、线程并发数;上传文件时,同一个文件会带有一个唯一的taskId,及当前分块数