现在日志分为:
swift_manage日志:/data/br/logs/swift/
swift_api日志:/data/br/logs/swift/
swift_compute启动日志:/data/br/logs/swift/
swift_compute运行日志:/data/br/base/hadoop/logs
- hadoop:yarn管理页面可以查看spark的实例个数以及内存大小
2.yarn管理页面看实例
global中配置实例的位置:
一般一个任务有2个进程:driver:固定一个实例,executor:多个实例,然后每个都可以配置内存和cpu核数
3.yarn页面看任务流
4 . yarn页面的内存限制
user/total要小于<yarn.scheduler.capacity.maximum-am-resource-percent设置
5、往hadoop上提交任务的组件:
update:删容器,装,提交任务
restart:不重启容器,但是会提交任务
进入容器中查看守护进程:ps -ef|grep daemon
hadoop任务的几个状态:
accept是提交任务被yarn接收的中间状态,如果有问题后面状态是failed
结束状态一般是finish,running(持续型任务),killed,failed四种