我尝试使用ByteBuffers和Channels并行下载大量40 MB文件时解压缩.与使用Streams相比,使用Channels可以获得更高的吞吐量,我们需要这是一个非常高的吞吐量的系统,因为我们每天需要处理40 TB的文件,而这一部分目前是瓶颈.文件使用zstd-jni压缩.Zstd-jni具有用于解压缩字节缓冲区的api,但是使用它们时出现错误.如何使用zstd-jni一次解压缩字节缓冲区?
我在他们的测试中找到了这些示例,但是除非丢失了某些内容,否则使用ByteBuffers的示例似乎假定整个输入文件都适合一个ByteBuffer:
https://github.com/luben/zstd-jni/blob/master/src/test/scala/Zstd.scala
以下是我用于压缩和解压缩文件的代码.压缩代码效果很好,但是解压缩代码失败,错误为-70.
public static long compressFile(String inFile, String outFolder, ByteBuffer inBuffer, ByteBuffer compressedBuffer, int compressionLevel) throws IOException {
File file = new File(inFile);
File outFile = new File(outFolder, file.getName() + ".zs");
long numBytes = 0l;
try (RandomAccessFile inRaFile = new RandomAccessFile(file, "r");
RandomAccessFile outRaFile = new RandomAccessFile(outFile, "rw");
FileChannel i