大数据组件相关操作命令

1.【HDFS】

将本地文件上传到HDFS:hdfs dfs -put a.txt /data
将HDFS的文件下载到本地:hdfs dfs -get /a.txt .
查看HDFS根目录下的所有文件:hdfs dfs -ls /
查看HDFS上某个文件的内容:hdfs dfs -cat /a.txt
查看HDFS上某个文件的大小:hdfs dfs -du -h /a.txt

2.【YARN】

yarn相关命令参考文档:http://hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/YarnCommands.html

常用命令:
查看yarn任务运行情况(这条命令只能查看submitted、accepted、running状态的Application):yarn app -list
杀死yarn上某一个程序:yarn app -kill (applicationId)
查看yarn任务运行日志并写到文件中:yarn logs -applicationId application_1517538889175_2550 > logs.txt
提交一个jar包到yarn上运行:yarn jar xxx.jar (mainClass) (args)
启动或停止yarn集群某个节点/进程:yarn --daemon start/stop nodemanager
在yarn中创建临时flink集群,并提交job到集群:bin/flink run -m yarn-cluster -yjm 1024 -ytm 1024 flink-job.jar
停止flink job :bin/flink cancel -yid application_1629775156800_0767

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值