java byte 解压_java-如何使用Zstd-jni和字节缓冲区解压缩大...

本文探讨了如何在Java中利用Zstd-jni库和ByteBuffer高效解压缩大文件。作者遇到的问题是在处理40 MB的大文件时,通过Channels实现的并行下载和解压缩过程中遇到错误。代码示例展示了压缩和解压缩文件的方法,但解压缩部分失败,返回错误码-70。问题在于Zstd.decompressDirectByteBuffer的使用,需要调整以适配大文件的解压缩需求。
摘要由CSDN通过智能技术生成

我尝试使用ByteBuffers和Channels并行下载大量40 MB文件时解压缩.与使用Streams相比,使用Channels可以获得更高的吞吐量,我们需要这是一个非常高的吞吐量的系统,因为我们每天需要处理40 TB的文件,而这一部分目前是瓶颈.文件使用zstd-jni压缩.Zstd-jni具有用于解压缩字节缓冲区的api,但是使用它们时出现错误.如何使用zstd-jni一次解压缩字节缓冲区?

我在他们的测试中找到了这些示例,但是除非丢失了某些内容,否则使用ByteBuffers的示例似乎假定整个输入文件都适合一个ByteBuffer:

https://github.com/luben/zstd-jni/blob/master/src/test/scala/Zstd.scala

以下是我用于压缩和解压缩文件的代码.压缩代码效果很好,但是解压缩代码失败,错误为-70.

public static long compressFile(String inFile, String outFolder, ByteBuffer inBuffer, ByteBuffer compressedBuffer, int compressionLevel) throws IOException {

File file = new File(inFile);

File outFile = new File(outFolder, file.getName() + ".zs");

long numBytes = 0l;

try (RandomAccessFile inRaFile = new RandomAccessFile(file, "r");

RandomAccessFile outRaFile = new RandomAccessFile(outFile, "rw");

FileChannel i

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值