模拟生成新能源车辆数据，并写入HDFS中

目录

基本要求如下

一、虚拟机的准备

二、生成新能源车辆数据

1、导入需要用到的库

2、生成车辆数据

三、将数据写入json文件

四、将文件写入HDFS

1、下载pyhdfs

2、将文件写入HDFS中

五、总结

---

编写一个程序，每天凌晨3点模拟生成当天的新能源车辆数据（字段信息必须包含：车架号、行驶总里程、车速、车辆状态、充电状态、剩余电量SOC、SOC低报警、数据生成时间等）。

基本要求如下

1、最终部署时，要将这些数据写到HDFS中

2、车辆数据要按天存储，数据格式是JSON格式，另外如果数据文件大于100M，则另起一个文件存。每天的数据总量不少于300M

3、每天模拟生成的车辆数据中，必须至少包含20辆车的数据，即要含有20个车架号

4、每天生成的数据中要有少量（20条左右）重复数据（所有字段都相同的两条数据则认为是重复数据），且同一辆车的两条数据的数据生成时间间隔两秒；

5、每天生成的数据中要混有少量前几天的数据

本人也是一位正在学习中的新手，了解有限，有什么错误的地方大家多多指点。

一、虚拟机的准备

1、首先部署好三个节点（此节点是从伪分布式复制过来的，伪分布式已经部署过部分内容）

192.168.216.101   master
192.168.216.102   slave1
192.168.216.103   slave2

2、使用vi /etc/sysconfig/network-scripts/ifcfg-ens33对IP进行修改

 修改IP之后重启网卡：systemctl restart network

3、设置主机名和映射

 

 master的hosts映射配置好后，可以通过scp命令，将master修改好的/etc/hosts文件，同步到slave1、slave2主机上。

scp /etc/hosts root@slavel:/etc

将hosts同步到另外两个虚拟机的/etc路径下，默认覆盖原有文件

验证映射是否成功：ping 主机名，能ping成功说明映射成功

4、设置免密登录、关闭防火墙，并禁止防火墙开机自启

关闭防火墙

systemctl stop firewalld

5、修改master主机上的hadoop配置文件，配置好后同步到其他两个主机上

分别是：