多线程大文件分片上传思路分享

多线程大文件分片上传思路分享

思路分析

在这里插入图片描述
根据上图可以看出上传分片的整个思路,如果是同步上传的情况下是没有问题的,如果存在多线程上传,在“存入成功数量=总的分片数量”这步会存在问题,假设当前文件总的分片数量为:3,当第一个线程进入上传流程时,走到“存入成功数量=总的分片数量”,这个时候第二个、第三个线程已经进入到“存入分片文件”这一步,那么这个时候存入成功的数量是多少?如图:
在这里插入图片描述
如上图所示,这个时候的存入成功数量应该是3,在这种情况下,判断数量一致,我们再进行合并,但是中途会发生异常:提示资源被占用。
分析原因:存入的前提是需要创建一个空文件,再写入,第一个线程走到“存入成功数量=总的分片数量”判断是否全部上传完成是不准确的,有可能这个时候后面的线程只是创建了,但是还未写入完,还有可能是正在写入,而第一个线程的判断条件已满足了,就进行合并,这个时候就会出现资源被占用的情况,抛出异常。如图:
在这里插入图片描述
所以我们是要根据“写入成功的数量=总的分片数量”进行判断是否合并,才能处理文件资源被占用合并失败的异常。
怎么判断写入成功的数量?
根据个人的习惯,可以用缓存,也可以用全局变量,本人是用是NetCore中的ConcurrentDictionary(多个线程同时访问的键/值对的线程安全集合)进行存储的,判断集合数量是否等于分片总数量来进行判断合并的。

有关问题交流,可以加群,相互学习,相互探讨。
在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
fastDFS 是一个开源的轻量级分布式文件系统,它可以快速地存储和管理大量的文件。在实现文件分片时,可以使用 Java 多线程来提升上的速度和效率。下面是一个简单的示例代码: 1. 引入 fastDFS 的 Java 客户端: ```java import org.csource.fastdfs.*; ``` 2. 初始化 fastDFS 客户端: ```java ClientGlobal.init("fastdfs.conf"); TrackerClient trackerClient = new TrackerClient(); TrackerServer trackerServer = trackerClient.getConnection(); StorageServer storageServer = null; StorageClient1 storageClient = new StorageClient1(trackerServer, storageServer); ``` 3. 实现文件分片: ```java File file = new File("test.mp4"); String fileName = file.getName(); long fileSize = file.length(); long blockSize = 1024 * 1024; // 每个分片的大小为 1MB long offset = 0; int index = 0; byte[] buffer = new byte[(int) blockSize]; while (offset < fileSize) { try (FileInputStream fis = new FileInputStream(file)) { fis.skip(offset); int len = fis.read(buffer); if (len <= 0) { break; } String ext = fileName.substring(fileName.lastIndexOf(".") + 1); NameValuePair[] metaList = new NameValuePair[1]; metaList[0] = new NameValuePair("ext", ext); String[] result = storageClient.upload_file(buffer, ext, metaList); String groupName = result[0]; String remoteFileName = result[1]; offset += len; index++; } catch (Exception e) { e.printStackTrace(); } } ``` 这段代码首先读取文件,然后按照每个分片的大小进行分割,并使用 fastDFS 客户端上每个分片。上时需要指定文件的后缀名和一些元数据,比如文件的扩展名。上成功后,会返回一个文件组名和远程文件名,可以保存起来以便后续操作。 注意,以上代码只是一个简单的示例,并没有考虑分片失败后的重试机制和上进度的统计。在实际的项目中,需要根据具体的需求进行修改和完善。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值