spark开发一个程序,模拟生成新能源汽车数据集(字段信息必须包含:车架号、车型、采集时间、车速、行驶里程、故障码列表)

目录

一、项目结构

建一个普通实体类来表示一条车辆数据,车辆数据要按天存储到HDFS上,数据格式是JSON格式

创建一个方法,随机生成一辆车一次行程的车辆数据,并存到list

创建一个类,负责将数据写入HDFS

循环生成多辆数据数据,并循环写入到HDFS

二、代码

1、数据实体类代码片段

2、随机生成一辆车一次行程的车辆数据代码片段

3数据写入HDFS代码片段

三、查看hdfs存储的车辆数据


一、项目结构

  1. 建一个普通实体类来表示一条车辆数据,车辆数据要按天存储到HDFS上,数据格式是JSON格式

  2. 创建一个方法,随机生成一辆车一次行程的车辆数据,并存到list

  3. 创建一个类,负责将数据写入HDFS

  4. 循环生成多辆数据数据,并循环写入到HDFS

二、代码

1、数据实体类代码片段

public class CanData implements Serializable {
    /**
     * 车架号
     */
    private String vin;
    /**
     * 车型
     */
    private String vehType;
    /**
     * 采集时间
     */
    private String collectTime;
    /**
     * 车速
     */
    private Integer speed;
    /**
     * 行驶里程
     */
    private Integer mileage;
    /**
     * 故障碍列表
     */
    private List<Integer> errCoedList;

    public String getVin() {
        return vin;
    }

    public void setVin(String vin) {
        this.vin = vin;
    }

    public String getVehType() {
        return vehType;
    }

    public void setVehType(String vehType) {
        this.vehType = vehType;
    }

    public String getCollectTime() {
        return collectTime;
    }

    public void setCollectTime(String collectTime) {
        this.collectTime = collectTime;
    }

    public Integer getSpeed() {
        return speed;
    }

    public void setSpeed(Integer speed) {
        this.speed = speed;
    }

    public Integer getMileage() {
        return mileage;
    }

    public void setMileage(Integer mileage) {
        this.mileage = mileage;
    }

    public List<Integer> getErrCoedList() {
        return errCoedList;
    }

    public void setErrCoedList(List<Integer> errCoedList) {
        this.errCoedList = errCoedList;
    }
}

2、随机生成一辆车一次行程的车辆数据代码片段

public static List<CanData> canDataListOfOneCarOneTrip(String initCollectTime, Integer driveMinutes) throws ParseException {
        List<CanData> canDataList = new ArrayList<>();

        // 根据行驶时长计算要生成的数据条数
        int totalNums = driveMinutes*60/2;

        // 生成车架号、车型
        String curVin = randomVin();
        String curVehType = randomVehType();
        // 初始化一个采集时间
        String preCollectTime = initCollectTime;

        // 循环生成车辆数据
        for(int i = 0; i < totalNums; i++) {
            CanData canData = new CanData();

            // 获取采集时间
            preCollectTime = getNewByPreCollectTime(preCollectTime);

            // 获取车速
            Integer speed = randomSpeed();

            // 获取行驶里程
            Integer mileage = randomMileage();

            // 获取故障码列表
            List<Integer> errCodeList = randomErrCode();

            // 更新canData
            canData.setVin(curVin);
            canData.setVehType(curVehType);
            canData.setCollectTime(preCollectTime);
            canData.setSpeed(speed);
            canData.setMileage(mileage);
            canData.setErrCoedList(errCodeList);

            canDataList.add(canData);
        }

        return canDataList;
    }

3数据写入HDFS代码片段

public void writeCanDataToHdfs(List<CanData> canDataList) throws IOException {
        if(canDataList.size() == 0) {
            return ;
        }

        int curHandedIndex = 0;
        // 循环写入新的文件
        while(curHandedIndex < canDataList.size()) {
            if (curLineNum >= MAX_LINE_NUMS) {
                this.curFileNameSuffix += 1;
                curLineNum = 0;
            }

            // 创建新的文件
            String curCanDataFilePath = getCurCanDataFilePath();
            FSDataOutputStream out = null;
            if(fs.exists(new Path(curCanDataFilePath))) {
                out  = fs.append(new Path(curCanDataFilePath));
            } else {
                out = fs.create(new Path(curCanDataFilePath));
            }
            BufferedWriter writer = new BufferedWriter(new OutputStreamWriter(out));
            Gson gson = new Gson();

            // 循环将数据写入HDFS
            for(; curHandedIndex < canDataList.size() && curLineNum < MAX_LINE_NUMS; curHandedIndex++) {
                CanData canData = canDataList.get(curHandedIndex);
                writer.write(gson.toJson(canData)+"\r\n");
                curLineNum ++;
            }
            writer.close();
        }
        // 特殊处理:避免追加操作。伪分布式下,append会报错。
        if(this.curLineNum > 0 && this.curLineNum < MAX_LINE_NUMS) {
            this.curFileNameSuffix ++;
            curLineNum = 0;
        }

三、查看hdfs存储的车辆数据

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值