Hadoop计算文件大小

//Hadoop计算文件大小:

public static void main(String[] args) throws IOException{

      String tablePath= pathPrefix + args[0].toLowerCase().trim();

      Path p = new Path(tablePath);

      JobConf conf= new JobConf();

      FileSystem fs = p.getFileSystem(conf);

      for(FileStatus f : fs.listStatus(p)){

       if(f.isDir()){

         long len = 0L;

         for(FileStatus file: fs.listStatus(f.getPath())){

            len = len + file.getLen();

         }

         System.out.println(f.getPath().toString().replace(pathPrefix, "")

               .replace(args[0].toLowerCase().trim(), "")+" size:  "+ len/1024/1024+"  MB");

       }

      }

   }

private static final String pathPrefix = "hdfs://hdpnn:9000/group/alibaba-dw-icbu/hive/";
--------------------- 
作者:lpxuan151009 
来源:CSDN 
原文:https://blog.csdn.net/lpxuan151009/article/details/7956572 
版权声明:本文为博主原创文章,转载请附上博文链接!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
计算Parquet文件的大小,可以使用Java中的File类和ParquetFileReader类。首先,使用File类获取文件大小,然后使用ParquetFileReader类读取文件元数据并计算文件的总大小。 下面是一个示例代码: ```java import java.io.File; import java.io.IOException; import org.apache.hadoop.fs.Path; import org.apache.parquet.hadoop.ParquetFileReader; import org.apache.parquet.hadoop.metadata.ParquetMetadata; public class ParquetFileSizeCalculator { public static void main(String[] args) throws IOException { String filePath = "path/to/parquet/file"; File parquetFile = new File(filePath); long fileSize = parquetFile.length(); System.out.println("File size: " + fileSize + " bytes"); Path path = new Path(filePath); ParquetMetadata metadata = ParquetFileReader.readFooter(path.getFileSystem(new org.apache.hadoop.conf.Configuration()), path); long totalFileSize = metadata.getBlocks().stream().mapToLong(block -> block.getCompressedSize()).sum(); System.out.println("Total file size: " + totalFileSize + " bytes"); } } ``` 在上面的代码中,首先使用File类获取Parquet文件的大小,然后使用ParquetFileReader类读取文件元数据并计算文件的总大小。元数据中包含文件中每个数据块的压缩大小,因此可以使用流API计算所有数据块的压缩大小的总和。 注意,要使用ParquetFileReader类,需要添加以下依赖项: ```xml <dependency> <groupId>org.apache.parquet</groupId> <artifactId>parquet-hadoop</artifactId> <version>1.12.0</version> </dependency> ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值