搭建hadoop伪分布式

1 先安装jdk  如果这个步骤不会 请参照 http://blog.csdn.net/feng_qi_1984/article/details/54709398


2 下载hadoop  本人用的2.7.3 从官网上下载下来即使64位  无需再编译


3 解压hadoop  配置 环境变量   

操作如下 

将下载下来的hadoop-2.7.3.tar.gz 放进 /usr 目录中

# tar -zxvc hadoop-2.7.3.tar.gz

# mv hadoop-2.7.3 hadoop

# cd /etc/profild.d

# vi hadoop.sh

编辑

HADOOP_HOME=/usr/hadoop

PATH=$PATH:$HADOOP_HOME/bin:HADOOP_HOME/sbin

export HADOOP_HOME PATH

        保存退出

# source hadoop.sh

# hadoop version

此时有版本打印  则配置成功


4 配置hadoop 的配置文件  

进入hadoop的配置文件目录 

# cd /usr/hadoop/etc/hadoop


1  配置 core-site.xml

<configuration>
	<property>
		<name>fs.defaultFS</name>
		<value>hdfs://localhost/</value>
	</property>
</configuration>
2 配置hdfs-site.xml (由于伪分布式只有一个节点 所以副本数配置1)

<configuration>
	<property>
		<name>dfs.replication</name>
		<value>1</value>
	</property>
</configuration>

3  配置 mapred-site.xml (由于没有这个文件  不过我们可以找到 mapred-site.xml.template  复制一份 改个名字即可)、

# cp mapred-site.xml.template  mapred-site.xml

<configuration>
	<property>
		<name>mapreduce.framework.name</name>
		<value>yarn</value>
	</property>
</configuration>

4 配置 yarn-site.xml

<configuration>
	<property>
		<name>yarn.resourcemanager.hostname</name>
		<value>localhost</value>
	</property>
	<property>
		<name>yarn.nodemanager.aux-services</name>
		<value>mapreduce_shuffle</value>
	</property>
</configuration>


  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
搭建Hadoop分布式环境,你需要按照以下步骤进行操作: 1. 安装JDK:首先,确保你已经安装了Java Development Kit (JDK)。Hadoop是用Java编写的,它需要JDK来运行。 2. 下载Hadoop:从Hadoop官方网站(https://hadoop.apache.org/)下载最新的稳定版本的Hadoop。 3. 解压Hadoop:将下载的Hadoop压缩包解压到你选择的目录下。 4. 配置环境变量:打开`~/.bashrc`文件,并添加以下配置: ``` export HADOOP_HOME=/path/to/hadoop export PATH=$PATH:$HADOOP_HOME/bin ``` 然后运行`source ~/.bashrc`使配置生效。 5. 配置Hadoop:进入Hadoop目录,编辑`etc/hadoop/core-site.xml`文件,并添加以下配置: ```xml <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property> </configuration> ``` 编辑`etc/hadoop/hdfs-site.xml`文件,并添加以下配置: ```xml <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> </configuration> ``` 6. 配置SSH无密码登录:使用以下命令生成SSH密钥对: ``` ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa ``` 然后将公钥`~/.ssh/id_rsa.pub`的内容复制到`~/.ssh/authorized_keys`文件中。 7. 启动Hadoop:运行以下命令启动Hadoop集群: ``` start-dfs.sh start-yarn.sh ``` 8. 验证安装:在浏览器中访问`http://localhost:9870`,如果能够看到Hadoop集群状态页面,则说明Hadoop分布式环境搭建成功。 这样,你就成功搭建Hadoop分布式环境。请注意,这只是一个基本配置,如果你需要更复杂的配置或者添加更多节点,可以参考Hadoop官方文档进行进一步的操作。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值