行业知识
Hadoop配置日志的聚集——jobhistory不显示任务问题
2026-11-15 14:34:57
来源:互联网转载
问题:
一开始job history是正常的,配置了日志的聚集以后不管做什么任务都不显示任务,hdfs是正常运行,而且根据配置步骤都重启过了。
下面先po出日志聚集的操作步骤,再讲问题
1.配置yarn-site.xml
cd $HADOOP_HOME/etc/hadoop
vim yarn-site.xml
添加如下代码
yarn.log-aggregation-enable true yarn.log.server.url http://hadoop102:19888/jobhistory/logs yarn.log-aggregation.retain-seconds 604800
2.分发配置
xsync $HADOOP_HOME/etc/hadoop/yarn-site.xml
3.关闭NodeManager 、ResourceManager和HistoryServer
sbin/stop-yarn.sh
mapred --daemon stop historyserver
4.启动NodeManager 、ResourceManage和HistoryServer
start-yarn.sh
mapred --daemon start historyserver
到这里都没有错,找了半天发现是前面配置的mapred-site.xml出错了,就是如果设置日志聚集的话,前面配置的mapred-site也需要修改一下配置。
如下:
mapreduce.framework.name yarn mapreduce.job.ubertask.enable true mapreduce.jobhistory.address hadoop102:10020 mapreduce.jobhistory.webapp.address hadoop102:19888
yarn框架没有配置
造成的结果:
修改以后在分发一下,重新启动就好了,运行命令也有记录了
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /input /output
如图:
这样就改好了,出现类似问题的话,大部分就是mapred-site和yarn-site这两个文件没有配置好,就可以多检查几遍看看。
刚刚发现这个错误是源于我上一篇博文的修改错误的结果,但是很奇怪的是改回来再运行wordcount没有卡住了。
下一篇:彩库宝典下载指南