1.Hadoop的安装和使用(华为云学习笔记,Spark编程基础,大数据)

这篇笔记详细记录了在华为云平台上学习Hadoop的安装和使用过程,包括创建hadoop用户、安装SSH和Java环境,以及Hadoop的单机和伪分布式模式配置。通过设置环境变量、安装SSH服务端、生成SSH密钥,确保Hadoop的顺利安装。还介绍了如何在Hadoop环境中运行grep实例,检查安装是否成功。
摘要由CSDN通过智能技术生成

此笔记为第一篇,学校开放华为云平台,帮助我们学习有关大数据方面相关知识的学习笔记,因为是云平台,是已经搭建好linux环境了,使用的是Ubantu。精心整理,自学笔记,如有什么问题,请耐心指正

Hadoop的安装和使用

学习Hadoop的安装和使用
1 安装Hadoop前的准备工作
介绍安装Hadoop之前的一些准备工作,包括创建hadoop用户、安装SSH和安装Java环境等。
先配置hosts,输入以下命令,将本机的hostname添加到hosts文件中:

拷贝代码echo "127.0.0.1 "$HOSTNAME | sudo tee -a /etc/hosts
注:Terminal命令行@前面显示的是user时,命令以sudo开头需要输入密码:Huawei@123,后续内容不再赘述。

以下为大总体图片,接下来我会精简到小的命令行
在这里插入图片描述
1.1 创建hadoop用户
本教程需要创建一个名称为hadoop的普通用户,后续所有操作都会使用该用户名登录到Linux系统。使用root用户登录Linux 系统,然后,打开一个终端(鼠标右键单击,选择Open Terminal Here)。
1.1.1 创建一个用户hadoop
使用如下命令创建一个用户hadoop:
拷贝代码sudo useradd -m hadoop -s /bin/bash
这条命令创建了可以登陆的 hadoop 用户,并使用 /bin/bash 作为 Shell。
在这里插入图片描述
1.1.2 为hadoop用户设置密码
接着使用如下命令为hadoop用户设置密码:
拷贝代码sudo passwd hadoop
本课程的实验需要多次使用此处设置的密码,请把密码设置为 hadoop,如果换成其他密码可能会造成不检测或者无法正常实验,需要按照提示输入两次密码,两次密码必须相同。
注意:设置密码的时候,会提示密码过于简单、无法解析主机等信息,无需理会,继续执行操作即可,上述提示不会对实验造成影响。
在这里插入图片描述
1.1.3 为hadoop用户增加管理员权限
然后,可为hadoop用户增加管理员权限,以方便部署,避免一些对于新手来说比较棘手的权限问题,命令如下:
拷贝代码sudo adduser hadoop sudo
在这里插入图片描述
1.1.4 登录hadoop的用户
最后,我们通过命令,登录到hadoop的用户,密码为刚刚设置的hadoop用户的密码。
拷贝代码su hadoop登录成功后,终端的命令行前都显示hadoop。
在这里插入图片描述

1.2 注意
注意:Terminal(命令行终端)命名行@前面为hadoop时,命令前带有sudo时,需要输入密码hadoop,方可正常执行命令,后续内容不再赘述。

1.3 安装SSH
Ubuntu默认已安装了SSH客户端,因此,这里还需要安装SSH服务端

1.3.1 安装SSH服务端
请在Linux的终端中执行以下命令:
下载安装包:

拷贝代码sudo wget http://file.ictedu.com/fileserver/big_data_common/data/openssh-client_7.2p2-4_amd64.deb

sudo wget http://file.ictedu.com/fileserver/big_data_common/data/openssh-server_7.2p2-4_amd64.deb

在这里插入图片描述
安装软件:
拷贝代码sudo dpkg -i openssh-client_7.2p2-4_amd64.deb
在这里插入图片描述

拷贝代码sudo dpkg -i openssh-server_7.2p2-4_amd64.deb
在这里插入图片描述

1.3.2 登录本机
安装后,可以使用如下命令登录本机:拷贝代码ssh localhost
执行该命令后会,会出现“yes/no”选择提示,输入“yes”,然后按提示输入密码hadoop,就登录到本机了。
然后,请输入命令“exit”退出刚才的SSH,就回到了原先的终端窗口。
在这里插入图片描述

  • 4
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值