**## 标题实训报告**
总体要求
利用python编写爬虫程序,从招聘网站上爬取数据,将数据存入到HDFS中,将存入的数据用Hive清洗后做数据分析,最后将分析的结果做数据可视化。
总体规范
1、具体要求:代码整洁、命名规范、注释得当等。
注意事项
实训时听从指导老师安排,按时到达实训地点,不迟到不早退。
实训时要遵守机房制度和纪律,注意安全。
实训时所设计的任务必须自己亲自完成,不得抄袭。
实训时注意养成良好的编程习惯,加强团队交流和沟通。
数据源
(https://search.51job.com/)
环境搭建:
jdk
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/df991ee8ec4061e2cf0264fdf53a977d.png)
hadoop伪分布式
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/5928bdfc3366e1bb545d147d729c827f.png)
hive
![在这里插入图片描述](https://i-blog.csdnimg.cn/blog_migrate/29dce511ebdefa8fba88a8ea57e39430.png)
flume