小工具知识网

当前位置: 首页 > 行业知识 > Hadoop配置日志的聚集——jobhistory不显示任务问题

行业知识

Hadoop配置日志的聚集——jobhistory不显示任务问题

2026-11-15 14:34:57 来源:互联网转载

问题:

一开始job history是正常的,配置了日志的聚集以后不管做什么任务都不显示任务,hdfs是正常运行,而且根据配置步骤都重启过了。

下面先po出日志聚集的操作步骤,再讲问题

1.配置yarn-site.xml

cd $HADOOP_HOME/etc/hadoop
vim yarn-site.xml

添加如下代码

    yarn.log-aggregation-enable    true      yarn.log.server.url      http://hadoop102:19888/jobhistory/logs    yarn.log-aggregation.retain-seconds    604800

2.分发配置

xsync $HADOOP_HOME/etc/hadoop/yarn-site.xml

3.关闭NodeManager 、ResourceManager和HistoryServer

sbin/stop-yarn.sh
mapred --daemon stop historyserver

4.启动NodeManager 、ResourceManage和HistoryServer

start-yarn.sh
mapred --daemon start historyserver

到这里都没有错,找了半天发现是前面配置的mapred-site.xml出错了,就是如果设置日志聚集的话,前面配置的mapred-site也需要修改一下配置。

如下:

       mapreduce.framework.name     yarn        mapreduce.job.ubertask.enable     true     mapreduce.jobhistory.address    hadoop102:10020    mapreduce.jobhistory.webapp.address    hadoop102:19888

yarn框架没有配置

造成的结果:

修改以后在分发一下,重新启动就好了,运行命令也有记录了

hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /input /output

如图:

这样就改好了,出现类似问题的话,大部分就是mapred-site和yarn-site这两个文件没有配置好,就可以多检查几遍看看。

刚刚发现这个错误是源于我上一篇博文的修改错误的结果,但是很奇怪的是改回来再运行wordcount没有卡住了。

上一篇:轻松下载拼多多手表攻略,超实用指南助你轻松选购!

下一篇:彩库宝典下载指南