- 博客(6)
- 收藏
- 关注
原创 招聘网站职位分析数据可视化系统(Hadoop课设)
一:爬取数据 二:上传数据 三:数据分析 四:数据可视化 第一部分:数据的爬取 UP主利用bs4爬取的51招聘的招聘信息。 for i in os.listdir(a): if len(os.listdir(a)) != 0: path = os.path.join(a, i) path = path.split('\\')[-1] os.remove('D:\Dedup\input\\' + path)
2021-12-01 20:14:15 5218 4
原创 Hadoop的安装与调试(4)
一.JDK的安装(所需软件在(1)的云盘文件里) 1.进入文件夹software (在hadoop01里面做) 命令: cd /export/ \ls rz(下面显示找不到命令,不急,按照步骤做) yum install lrzsz -y 此处显示下载失败,输入命令vi /etc/yum.repos.d/CentOs-Base.repo [centos-office] name=centos-office failovermethod=priority baseur1=h...
2021-09-14 19:28:41 680
原创 Hadoop的安装与调试(3)
一.服务 1.开始SSH服务 ①登录后输入命令查看是否存在ssh服务 rpm -qa | grep ssh ②查看SSH服务是否启动,输入命令 ps -e | grep sshd 显示为类似,则SSH服务在开启状态 ③若不存在SSH服务,则需要下载,输入命令 yum install openssh-server 可能会运行很慢,因为centos6停止维护了。 可以把下载的官方默认源换成镜像源。 输入如下命令 cd /etc/yum.repos.d/ ls mv C...
2021-09-11 23:27:27 658
原创 Hadoop的安装与调试(2)
进入虚拟机,先登录用户,接下来用以下命令创建三个文件夹。 四.虚拟机的克隆 1.先关闭虚拟机 2.开始克隆 ①右键点击刚才创建的虚拟机>管理>克隆 ②!!!!!!此部分没有展示的全是默认选项 !!!此部分的名称改为辨识度高的,例如UP在(1)里面说的hadoop01、02、03。位置也放在UP在(1)里面推荐的二级文件夹的hadoop02中。 创建hadoop03的操作和hadoop02一样!! 创建完如图,到此虚拟机的数...
2021-09-11 16:35:19 1030 3
原创 Hadoop的安装与调试(1)
首先,请先下载虚拟机(VMwareWorksattionpro),然后下载这个云盘文件(此文件有映像文件等等) 链接:https://pan.baidu.com/s/10UATifBpB3MN5VSBcsNoAQ 提取码:cz5a 到这准备工作就做好了,接下来是正餐。 一.虚拟机安装部分 1、打开下载好的虚拟机 2、创建新的虚拟机 3、虚拟机创建步骤 ① ②默认 ③默认 ④如图 ⑤修改虚拟机名称和存储地址 Ⅰ本次安装需要三台虚拟机,建议起名字区分度大一点(例:ha...
2021-09-07 15:52:26 498
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人