本人写的如何使用DFS API 合并为一个大的天气数据文件

本人写的如何使用DFS API 合并为一个大的天气数据文件:

package com.zk.hadoop;

import java.io.File;
import java.io.FileInputStream;
import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;

public class AirTemperatureDataTranslate {

        public static byte[] buffer = new byte[4096];
        
        public AirTemperatureDataTranslate() {
                // TODO Auto-generated constructor stub
        }

        /**
         * @param args
         */
        public static void main(String[] args) {
                // TODO Auto-generated method stub
                
                String localPath = args[0];
                String dfsPath = args[1];
                
                File localDir = new File(localPath);
                
                FileInputStream input = null; 
                FSDataOutputStream fsOutput = null;
                
                Configuration conf = new Configuration();
                try {
                        FileSystem fs = FileSystem.get(new URI(dfsPath), conf);
                        fsOutput = fs.create(new Path(dfsPath));
                        if(localDir.isDirectory()){
                                System.out.println("处理目录:" + localDir.getName());
                                File[] fileArr = localDir.listFiles();
                                for(File tmp : fileArr){
                                        oper(tmp, input, fsOutput, conf);
                                }
                        }else{
                                System.out.println("处理文件:" + localDir.getName());
                                input = new FileInputStream(localDir);
                                write(input, fsOutput);
                        }
                } catch (IOException e) {
                        // TODO Auto-generated catch block
                        e.printStackTrace();
                } catch (URISyntaxException e) {
                        // TODO Auto-generated catch block
                        e.printStackTrace();
                } finally{
                        if(fsOutput != null) IOUtils.closeStream(fsOutput);
                        if(input != null) IOUtils.closeStream(input);
                }
                
        }
        
        /**
         * 递归扫描处理文件
         * @param file
         * @param input
         * @param output
         * @param conf
         * @throws IOException
         */
        public static void oper(File file, FileInputStream input, FSDataOutputStream output, Configuration conf) throws IOException{
                if(file.isDirectory()){
                        File[] fileArr = file.listFiles();
                        for(File tmp : fileArr){
                                oper(tmp, input, output, conf);
                        }
                }else{
                        System.out.println("处理文件:" + file.getName());
                        input = new FileInputStream(file);
                        write(input, output);
                }
        }
        
        /**
         * 写入DFS 输出流
         * @param input
         * @param output
         * @throws IOException
         */
        public static void write(FileInputStream input, FSDataOutputStream output) throws IOException{
                int readSize = 0;
                while((readSize = input.read(buffer)) > 0){
                        output.write(buffer, 0, readSize);                
                }
        }
        
}

说明:运行指定天气数据本地目录和合并后的HDFS上的文件名称即可。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在信号处理领域,DOA(Direction of Arrival)估计是一项关键技术,主要用于确定多个信号源到达接收阵列的方向。本文将详细探讨三种ESPRIT(Estimation of Signal Parameters via Rotational Invariance Techniques)算法在DOA估计中的实现,以及它们在MATLAB环境中的具体应用。 ESPRIT算法是由Paul Kailath等人于1986年提出的,其核心思想是利用阵列数据的旋转不变性来估计信号源的角度。这种算法相比传统的 MUSIC(Multiple Signal Classification)算法具有较低的计算复杂度,且无需进行特征值分解,因此在实际应用中颇具优势。 1. 普通ESPRIT算法 普通ESPRIT算法分为两个主要步骤:构造等效旋转不变系统和估计角度。通过空间平移(如延时)构建两个子阵列,使得它们之间的关系具有旋转不变性。然后,通过对子阵列数据进行最小二乘拟合,可以得到信号源的角频率估计,进一步转换为DOA估计。 2. 常规ESPRIT算法实现 在描述中提到的`common_esprit_method1.m`和`common_esprit_method2.m`是两种不同的普通ESPRIT算法实现。它们可能在实现细节上略有差异,比如选择子阵列的方式、参数估计的策略等。MATLAB代码通常会包含预处理步骤(如数据归一化)、子阵列构造、旋转不变性矩阵的建立、最小二乘估计等部分。通过运行这两个文件,可以比较它们在估计精度和计算效率上的异同。 3. TLS_ESPRIT算法 TLS(Total Least Squares)ESPRIT是对普通ESPRIT的优化,它考虑了数据噪声的影响,提高了估计的稳健性。在TLS_ESPRIT算法中,不假设数据噪声是高斯白噪声,而是采用总最小二乘准则来拟合数据。这使得算法在噪声环境下表现更优。`TLS_esprit.m`文件应该包含了TLS_ESPRIT算法的完整实现,包括TLS估计的步骤和旋转不变性矩阵的改进处理。 在实际应用中,选择合适的ESPRIT变体取决于系统条件,例如噪声水平、信号质量以及计算资源。通过MATLAB实现,研究者和工程师可以方便地比较不同算法的效果,并根据需要进行调整和优化。同时,这些代码也为教学和学习DOA估计提供了一个直观的平台,有助于深入理解ESPRIT算法的工作原理。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值