linux
搬砖快乐~
努力跳跃
展开
-
Linux 实现远程ssh服务节点操作
背景:当我们拥有集群时,需要操作每台服务节点,用到shell脚本自动化去执行某些命令是程序员的第一选择。简单、快捷、方便。shell脚本实现,实现去每一台节点去安装python服务依赖的jar包。 cat scp_servicelib.sh#!/bin/bashnodes=$(cat ./other_nodes) for node in $nodes do echo $node ":" ss原创 2021-09-02 10:51:24 · 687 阅读 · 0 评论 -
spark-hdfs问题解析
Spark程序读取hdfs中数据 java.io.IOException: Premature EOF reading from原创 2019-08-21 17:09:34 · 760 阅读 · 0 评论 -
linux 脚本 获取以某字符结尾的文件名
以系统当前时间为文件名获取当前文件夹下以“csv”结尾的文件名如果相同,则继续如不同,则将文件夹下的文件mv为系统命名的文件名#!/bin/bash//获取系统前一小时的时间currentime=`date -d -1hour +%Y%m%d_%H`echo $currentimefilename=${currentime}".csv"echo $filename//...原创 2019-01-10 16:10:50 · 4453 阅读 · 0 评论 -
Linux 定时脚本crontab 中文乱码 编码格式转换
在linux下,利用定时脚本跑一个xx.jar,把结果输出到文件中。结果里面有中文,输出到文件后,显示为乱码。测试的时候发现,手动运行jar输出正常;用shell脚本运行输出正常;当使用定时脚本去跑的时候,输出就是乱码了。原因:因为Unix/Linux下使用crontab时的运行环境已经不是用户环境了,因此原本用户下的一些环境变量的设置就失效了。解决方法:只需要在脚本最原创 2018-01-25 13:44:52 · 818 阅读 · 0 评论 -
<shell> linux执行多个命令的方法
&&表示:若前一个命令执行成功,才会执行下一个。这样,可确保所有的命令执行完毕后,其执行过程都是成功的#! /bin/bashtar -zxvf text.tar &&tar -zxvf text1.tar echo --------在每个命令之间用||隔开。||表示:若前一个命令执行成功,就不会执行下一条了。原创 2017-02-09 11:15:30 · 1225 阅读 · 0 评论 -
Linux查看已经安装的软件版本号/Python pip
linux 查看已安装软件的版本号原创 2017-03-06 17:13:20 · 10048 阅读 · 0 评论 -
nohup后台执行脚本并输入日志到指定目录
后台执行命令,并输出目录到指定目录nohup tar -zxvf text.tar >>text.log &原创 2017-02-09 11:10:09 · 6778 阅读 · 0 评论 -
no crontab for root 解答
no crontab for root - using an empty onecrontab: installing new crontab解析原创 2017-02-09 14:34:57 · 12864 阅读 · 0 评论 -
Linux 显示文件的**行的数据
从第3000行开始,显示1000行。即显示3000~3999行cat filename | tail -n +3000 | head -n 1000显示1000行到3000行cat filename| head -n 3000 | tail -n +1000 两种方法的顺序 tail -n 1000:显示最后1000行 tail -n +1000:从1000行开始显示,显示100原创 2017-02-15 11:35:27 · 526 阅读 · 0 评论 -
elasticsearch的config配置elasticsearch.yml和logging.yml
elasticsearch的config文件夹里面有两个配置文件: elasticsearch.yml和logging.yml 第一个是es的基本配置文件, 第二个是日志配置文件, es也是使用log4j来记录日志的,所以logging.yml里的设置按普通log4j 配置文件来设置就行了。 elasticsearch.ymlcluster.name: elasticsearch原创 2017-02-24 16:03:18 · 1639 阅读 · 0 评论 -
Linux系统配置sudo
Linux配置 sudo,普通用户使用root权限,免密码使用原创 2017-03-03 16:10:04 · 345 阅读 · 0 评论 -
ps -aux | sort -k4nr /opt/models/jdk//bin/java -cp /opt/models/spark-1.6.1-bin-hadoop2.6/conf/
centos7没有存储大量的数据,可是内存无缘无故就被占满了,通过 ps -aux | sort -k4nr查看占据内存的程序都有哪些看到运行中的spark节点,但是本人并没有开启spark服务,可能以前设置服务器登陆秘钥的时候,曾经忘记关了,kill -9 PIDfree 发现有大量的内存被释放属于刚使用centos的小菜,回答不专业,最近我弄原创 2017-03-02 17:01:40 · 506 阅读 · 0 评论 -
Centos7 系统 常用命令
对于用惯了centos6的同志们来说,Centos7用起来还是有很多不惯的地方查看所有网卡IP地址——ip addr 启动防火墙——systemctl start firewalld.service 停止防火墙——systemctl stop firewalld.service 禁止防火墙开机启动——systemctl disab原创 2017-03-02 16:57:24 · 427 阅读 · 0 评论 -
Linux 设置swap分区
当你free,看到Swap 一栏,都是0 0 0,的时候,你就需要······原创 2017-02-28 18:16:01 · 794 阅读 · 0 评论