关于taier配置hadoop遇到的一系列问题

在测试Taier的时候遇到了一些问题,在这里记载一下,防止下次遇到类似的错误。

问题1:多集群组件配置

 需要注意,如果要修改组件内容,需要将配置好的yarn、HDFS删除后,重新上传,内容才会修改。

 这里需要将路径修改成执行文件所在的路径。

问题2:如果运行日志无法生成,报没有这个文件或者路径的错误,那说明你没有配置好yarn-site.xml文件,你需要设置远程日志目录,完整配置如下所示

<configuration>
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>
<property>
    <name>yarn.nodemanager.webapp.https.address</name>
    <value>192.168.1.60:8044</value>
</property>
<property>
    <name>yarn.resourcemanager.address</name>
    <value>192.168.1.60:8032</value>
</property>
<property>
    <name>yarn.resourcemanager.scheduler.address</name>
    <value>192.168.1.60:8030</value>
</property>
<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>192.168.1.60</value>
</property>
<property>
    <name>yarn.resourcemanager.resource-tracker.address</name>
    <value>192.168.1.60:8031</value>
</property>
<property>
    <name>yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage</name>
    <value>98.5</value>
</property>
<property>
    <name>yarn.nodemanager.hostname</name>
    <value>192.168.1.60</value>
</property>
<property>
      <name>yarn.nodemanager.vmem-pmem-ratio</name>
      <value>3</value>
      <description>虚拟内存和物理内存比率,默认为2.1</description>
  </property>
  <property>
    <name>yarn.nodemanager.vmem-check-enabled</name>
    <value>false</value>
    <description>不检查虚拟内存,默认为true</description>
  </property>

 <property>

      <name>yarn.log-aggregation.retain-seconds</name>

      <value>-1</value>

  </property>
 <property>

      <description>Whether to enable log aggregation</description>

      <name>yarn.log-aggregation-enable</name>

      <value>true</value>

  </property>

 <property>
     <name>yarn.nodemanager.remote-app-log-dir</name>
     <value>/tmp/logs</value>
 </property>
 <property>
     <name>yarn.nodemanager.remote-app-log-dir-suffix</name>
     <value>logs</value>
 </property>
 <property>
      <name>yarn.log.server.url</name>
      <value>http://192.168.1.60:19888/jobhistory/logs</value>
 </property>
</configuration>

 具体操作如上所示。

core_site.xml的配置

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值