hdfs获取文件列表,利用正则表达式选择文件并作下一步处理

Configuration conf = new Configuration();
FileSystem hdfs = FileSystem.get(URI.create(args[1]),conf);
FileStatus[] listStatus = hdfs.listStatus(new Path(args[1]));
Path[] listPath = FileUtil.stat2Paths(listStatus);
for(Path p : listPath){
	String fileNamePath = p.toString();//获得带路径的文件名字符串
	String fileName = p.getName();//获取文件名
	String regex = "keyword+//-[0-9]+//-r+//-00000";//keyword-00-r-00000
	Pattern pattern = Pattern.compile(regex);
	Matcher matcher = pattern.matcher(fileName);
	if(matcher.matches()){
	      //找到满足的文件,做下一步处理
}
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
以下是一个简单的 Java 代码示例,用于解析 HDFS 目录并过滤出符合正则表达式文件名: ```java import java.io.IOException; import java.util.regex.Matcher; import java.util.regex.Pattern; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.FileStatus; import org.apache.hadoop.fs.Path; public class HdfsRegex { public static void main(String[] args) throws IOException { Configuration conf = new Configuration(); FileSystem fs = FileSystem.get(conf); Path path = new Path("/path/to/directory"); Pattern pattern = Pattern.compile(".*\\.txt"); // 正则表达式示例:筛选扩展名为 .txt 的文件 FileStatus[] fileStatus = fs.globStatus(path); for (FileStatus status : fileStatus) { Path filePath = status.getPath(); String fileName = filePath.getName(); Matcher matcher = pattern.matcher(fileName); if (matcher.find()) { System.out.println(fileName); } } fs.close(); } } ``` 在上面的代码中,我们首先创建了一个 `FileSystem` 对象,然后使用 `globStatus()` 方法获取 HDFS 目录中所有的文件名。接着,我们使用 `Pattern` 类来创建一个正则表达式,并将其应用于每个文件名中。最后,我们将匹配的文件名打印出来。 请注意,为了使该代码示例正常运行,你需要将 `/path/to/directory` 替换为实际的 HDFS 目录路径。同时,你还需要在运行代码之前,将 Hadoop 相关的 JAR 包添加到你的项目中。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值