hadoop启动之“hadoop-daemon.sh”详解

本文详细解析了Hadoop启动文件hadoop-daemon.sh的作用及使用方法,包括如何在不同机器上启动Hadoop的各类后台程序,并提供了代码注释帮助理解其工作流程。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

        今天看了一下启动文件“hadoop-daemon.sh”,仔细看了一下大概知道它的作用,使用“hadoop-daemon.sh“脚本启动和停止hadoop后台程序。它可以做到在A机器上启动”namenode“,B机器启动”secondarynamenode“ C机器启动”datanode“, ”tasktracker“,具体启动如下 :

 ./hadoop-daemon.sh start namenode
 ./hadoop-daemon.sh start secondarynamenode
 ./hadoop-daemon.sh start jobtracker
 ./hadoop-daemon.sh start datanode
 ./hadoop-daemon.sh start tasktracker

如果要停止可以运行如下命令

 ./hadoop-daemon.sh stop namenode
 ./hadoop-daemon.sh stop secondarynamenode
 ./hadoop-daemon.sh stop jobtracker
 ./hadoop-daemon.sh stop datanode
 ./hadoop-daemon.sh stop tasktracker


下面是是代码分析,把主要部分都写了注释,代码不多,比较容易看懂,但有一处没看懂

# Runs a Hadoop command as a daemon.
#
# Environment Variables
#
#   HADOOP_CONF_DIR  Alternate conf dir. Default is ${HADOOP_HOME}/conf.
#   HADOOP_LOG_DIR   Where log files are stored.  PWD by default.
#   HADOOP_MASTER    host:path where hadoop code should be rsync'd from
#   HADOOP_PID_DIR   The pid files are stored. /tmp by default.
#   HADOOP_IDENT_STRING   A string representing this instance of hadoop. $USER by default
#   HADOOP_NICENESS The scheduling priority for daemons. Defaults to 0.
##

usage="Usage: hadoop-daemon.sh [--config <conf-dir>] [--hosts hostlistfile] (start|stop) <hadoop-command> <args...>"
# 第一个参数是下面的“startStop”是"start" or "end"
# 第二个参数是“hadoop-command”
# hadoop-command:就是namenode|datanode|secondarynamenode|jobtracker|tasktracke

# if no args specified, show usage
if [ $# -le 1 ]; then
  echo $usage
  exit 1
fi

bin=`dirname "$0"`
bin=`cd "$bin"; pwd`

. "$bin"/hadoop-config.sh

# get arguments
startStop=$1
shift
command=$1
shift

# 日记文件默认一共5个,后缀是log,log.1,log.2,log.3,log4,log5, 
# 每次写日记的文件名都是.log, 但是上一次的.log.num变成.log.num+1,
# .log.5被.log.4覆盖后结束
hadoop_rotate_log ()
{
    log=$1;
    num=5;
if [ -n "$2" ]; then
num=$2
    fi
    if [ -f "$log" ]; then # rotate logs
while [ $num -gt 1 ]; do
prev=`expr $num - 1`
[ -f "$log.$prev" ] && mv "$log.$prev" "$log.$num"
num=$prev
done
mv "$log" "$log.$num";
    fi
}

if [ -f "${HADOOP_CONF_DIR}/hadoop-env.sh" ]; then
  . "${HADOOP_CONF_DIR}/hadoop-env.sh"
fi

# get log directory
if [ "$HADOOP_LOG_DIR" = "" ]; then
  export HADOOP_LOG_DIR="$HADOOP_HOME/logs"
fi
mkdir -p "$HADOOP_LOG_DIR"

if [ "$HADOOP_PID_DIR" = "" ]; then
  HADOOP_PID_DIR=/tmp
fi

if [ "$HADOOP_IDENT_STRING" = "" ]; then
  export HADOOP_IDENT_STRING="$USER"
fi

# some variables
export HADOOP_LOGFILE=hadoop-$HADOOP_IDENT_STRING-$command-$HOSTNAME.log
export HADOOP_ROOT_LOGGER="INFO,DRFA"
log=$HADOOP_LOG_DIR/hadoop-$HADOOP_IDENT_STRING-$command-$HOSTNAME.out
pid=$HADOOP_PID_DIR/hadoop-$HADOOP_IDENT_STRING-$command.pid

# Set default scheduling priority
if [ "$HADOOP_NICENESS" = "" ]; then
    export HADOOP_NICENESS=0
fi

case $startStop in

  (start)

    mkdir -p "$HADOOP_PID_DIR"

    # 如果已经启动就提示先关闭,然后程序退出
    if [ -f $pid ]; then
  # 假如$command是“namenode”,就先判断它是否启动,由于$pid是存放
  # “namenode”运行的进程号,所以可以通过kill -0 `cat $pid`判断
      if kill -0 `cat $pid` > /dev/null 2>&1; then
        echo $command running as process `cat $pid`.  Stop it first.
        exit 1
      fi
    fi

    # 不知道干啥???
    if [ "$HADOOP_MASTER" != "" ]; then
      echo rsync from $HADOOP_MASTER
      rsync -a -e ssh --delete --exclude=.svn --exclude='logs/*' --exclude='contrib/hod/logs/*' $HADOOP_MASTER/ "$HADOOP_HOME"
    fi

# 记录日志
    hadoop_rotate_log $log
    echo starting $command, logging to $log
    cd "$HADOOP_HOME"

# nice指令可以改变程序执行的优先权等级
# 下面这段代码是核心代码,怎么样启动hadoop
    nohup nice -n $HADOOP_NICENESS "$HADOOP_HOME"/bin/hadoop --config $HADOOP_CONF_DIR $command "$@" > "$log" 2>&1 < /dev/null &
    # 将刚刚启动的进程号写入“$pid”文件
echo $! > $pid
    sleep 1; head "$log"
    ;;

  (stop)

    if [ -f $pid ]; then
      if kill -0 `cat $pid` > /dev/null 2>&1; then
        echo stopping $command
# 通过“$pid”文件内容,也就是进程号来关闭
        kill `cat $pid`
      else
        echo no $command to stop
      fi
    else
      echo no $command to stop
    fi
    ;;

  (*)
    echo $usage
    exit 1
    ;;

esac

### 解决方案 当遇到 `hadoop-daemon.sh` 命令未找到的问题时,通常是因为环境变量配置不正确或者脚本路径设置错误。以下是详细的解决方案: #### 1. 验证脚本位置 通过命令 `locate hadoop-daemon.sh` 或者手动查找确认该脚本的实际存储位置。如果发现它位于 `sbin` 而不是 `bin` 下,则需要调整环境变量以包含此路径[^1]。 #### 2. 修改环境变量 编辑用户的 `.bashrc` 文件或全局 `/etc/profile` 文件,确保 `$HADOOP_HOME/sbin` 已被加入到系统的 `PATH` 中。具体操作如下: ```bash export HADOOP_HOME=/path/to/your/hadoop/directory export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin ``` 保存并重新加载配置文件: ```bash source ~/.bashrc ``` 验证修改是否生效: ```bash echo $PATH which hadoop-daemon.sh ``` 上述命令应返回正确的路径[^4]。 #### 3. 检查权限 确保当前用户具有执行 `hadoop-daemon.sh` 的权限。如果没有,请赋予适当权限: ```bash chmod +x /path/to/hadoop/sbin/hadoop-daemon.sh ``` #### 4. 启动服务 完成以上步骤后尝试再次运行命令来启动 JournalNode 或其他节点的服务: ```bash hadoop-daemon.sh start journalnode ``` 如果仍然存在问题,可以进一步排查是否有依赖项缺失或其他配置问题[^3]。 --- ### 示例代码片段 以下是一个简单的 Shell 脚本用于自动化环境变量的设置和校验过程: ```bash #!/bin/bash # 设置 Hadoop 主目录 HADOOP_HOME="/usr/local/hadoop" # 添加 bin 和 sbin 到 PATH if [[ ":$PATH:" != *":$HADOOP_HOME/bin:"* || ":$PATH:" != *":$HADOOP_HOME/sbin:"* ]]; then export PATH="$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin" fi # 输出 PATH 并检查 hadoop-daemon.sh 是否可访问 echo "Updated PATH: $PATH" command -v hadoop-daemon.sh && echo "Command is available!" || echo "Command still missing!" ``` ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

sinoyang

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值