hadoop两个常用脚本

本文档概述了如何使用脚本管理和启动/停止Hadoop集群(HDFS和YARN),包括单个服务组件的启动、整体服务的统一控制,以及实用的myhadoop.sh脚本实例。通过SSH命令实现集群操作,适合Hadoop管理员和开发者参考。
摘要由CSDN通过智能技术生成

集群启动停止方式总结

  • 各个模块分开启动/停止
  1. 整体启动/停止HDFS
start-dfs/stop-dfs.sh
  1. 整体启动/停止YARN
start-yarn/stop-yarn.sh
  • 各个服务组件统一启动/停止
  1. 分别启动/停止HDFS组件
hdfs --daemon start/stop namenode/datanode/secondarynamenode
  1. 启动/停止YARN
yarn --daemon start/stop resourcemanager/nodemanager

hadoop常用脚本

  1. hadoop集群启停脚本(包含HDFSYarnHistoryserver):myhadoop.sh
  • 切换到bin目录下创建该文件并输入以下内容
#!/bin/bash

if [ $# -lt 1 ]
then
	echo "No Args Input..."
	exit ;
fi

chse $1 in 
"start")
	echo " ==================== 启动 hadoop集群 ===================="
	echo " --------------- 启动 hdfs ---------------"
	ssh hadoop102 "/opt/module/hadoop-2.7.2/sbin/start-dfs.sh"
	echo " --------------- 启动 yarn ---------------"
	ssh hadoop103 "/opt/module/hadoop-2.7.2/sbin/start-yarn.sh"
	echo " --------------- 启动 historyserver ---------------"
	#ssh hadoop102 "/opt/module/hadoop-2.7.2/bin/mapred --daemon start historyserver"
	ssh hadoop102 "/opt/module/hadoop-2.7.2/bin/mr-jobhistory-daemon.sh start historyserver"
;;
"stop")
	echo " ==================== 关闭 hadoop集群 ===================="
	echo " --------------- 关闭 historyserver ---------------"
	#ssh hadoop102 "/opt/module/hadoop-2.7.2/bin/mapred --daemon stop historyserver"
	ssh hadoop102 "/opt/module/hadoop-2.7.2/bin/mr-jobhistory-daemon.sh start historyserver"
	echo " --------------- 关闭 yarn ---------------"
	ssh hadoop103 "/opt/module/hadoop-2.7.2/sbin/stop-yarn.sh"
	echo " --------------- 关闭 hdfs ---------------"
	ssh hadoop102 "/opt/module/hadoop-2.7.2/sbin/stop-dfs.sh"
;;
*)
echo "input Args Error..."
;;
esac
  • 修改权限
[amelia@hadoop102 bin]$ chmod 777 myhadoop.sh
  • 查看jps
  • 打开集群
[amelia@hadoop102 hadoop-2.7.2]$ myhadoop.sh start
  • jps
  • 关闭集群
[amelia@hadoop102 hadoop-2.7.2]$ myhadoop.sh stop
  1. 查看三台服务器Java进程脚本:jspall
  • 切换到bin目录下创建该文件并输入以下内容
#!/bin/bash

for host in hadoop102 hadoop103 hadoop104
do 
	echo =============== $host ===============
	ssh $host jps
done 
  • 修改权限
[amelia@hadoop102 bin]$ chmod 777 jpssll
  • 分发脚本
[amelia@hadoop102 hadoop-2.7.2]$ xsync /home/amelia/bin/
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值