给力的运维shell命令

1.显示消耗内存/CPU最多的10个进程
ps aux | sort -nk +4 | tail -10
ps aux | sort -nk +3 | tail -10
2.查看Apache的并发请求数及其TCP连接状态
netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
另一种方法：
netstat -ant|awk '/^tcp/ {print awk $NF}'|sort|uniq -c|sort -nr
3.找出自己最常用的10条命令及使用次数（或求访问最多的ip数）
sed -e 's/| //n/g' ~/.bash_history |cut -d '' -f 1 | sort | uniq -c | sort -nr | head
4.日志中第10个字段表示连接时间，求平均连接时间
cat access_log |grep “connect cbp” |awk ‘BEGIN{sum=0;count=0;}{sum+=$10;count++;}END{printf(“sum=%d,count=%d,avg=%f/n”,sum,count,
sum/count)}’
5.lsof命令
lsof abc.txt 显示开启文件abc.txt的进程
lsof -i :22 知道22端口现在运行什么程序
lsof -c abc 显示abc进程现在打开的文件
lsof -p 12 看进程号为12的进程打开了哪些文件
6.杀掉一个程序的所有进程
pkill -9 httpd
killall -9 httpd
注意尽量不用-9，数据库服务器上更不能轻易用kill，否则造成重要数据丢失后果将不堪设想。
7.rsync命令（要求只同步某天的压缩文件，而且远程目录保持与本地目录一致）
/usr/bin/rsync -azvR –password-file=/etc/rsync.secrets `find . -name “*$yesterday.gz” -type f ` storage@192.168.2.23::logbackup/13.21/
8.把目录下*.sh文件改名为*.SH
find . -name '*.sh' | sed 's//(.*/)/.sh/mv /0 /1.SH/' |sh
find . -name '*.sh' | sed 's//(.*/)/.sh/mv & /1.SH/'|sh （跟上面那个效果一样）
9.ssh执行远程的程序，并在本地显示
ssh -n -l zouyunhao 192.168.2.14 'ls -al /home/zouyunhao'
10. 直接用命令行修改密码
echo 'zouyunhaoPassword' |passwd –stdin zouyunhao
ssh-keygen
ssh-copy-id -i ~/.ssh/id_rsa.pub user@remoteServer
11.以http方式共享当前文件夹的文件
$ python -m SimpleHTTPServer
在浏览器访问http://IP:8000/即可下载当前目录的文件。
12.shell段注释
:<<'echo hello,world!'
13.查看服务器序列号
dmidecode |grep 'Serial Number'
（查看机器其他硬件信息也可用这个命令）
14.查看网卡是否有网线物理连接
/sbin/mii-tool
以上转自：http://blog.csdn.net/fisher_jiang/article/details/6293477
15、扫描开放端口
nmap 127.0.0.1 |grep -w 443 #-w精确匹配
下面我会陆续添加一些在实际工作中用到的其他不错的shell命令~~~
1、将大写文件名改为小写文件名
for i in `find ./ -type f -name “[A-Z]*” | xargs -0`; do mv -f $i `echo $i | tr A-Z a-z`; done
2、zat查看压缩文件
zcat install.log.tgz |grep -a ssh #过滤必须加上-a参数
3、杀掉程序所有进程，跟上面pkill功能一样
pgrep httpd|xargs kill -9 #pgrep过滤出进程号再kill
4、快速备份一个文件
cp filename{,.bak} #filename{,.bak} 这一段会被展开成filename filename.bak再传给cp
5、重命名文件：
ls|xargs -t -i mv {} {}.bak #所有文件添加.bak后缀
ls |sed 's/.bak$//'|xargs -I {} mv {}.bak {} #去除所有文件.bak后缀，上一个命令的反向恢复
for i in `ls`;do mv $i ${i%.*};done #同上,去除后缀名,利用变量模式匹配运算符
find ./ -name '*.py' -exec mv {} {}.bak \; #将所有.py后缀文件，加上.bak后缀
rename .sh .py *.sh #将所有.sh后缀重命名为.py
for i in `ls *.sh`;do mv $i `echo $i|awk -F \. '{print $1}'`.py;done #同上
6、tar包不解压统计大小：
tar tvf nrpe-2.8.1.tar.gz | awk '{total+=$3}END{print total}'
tar tvf nrpe-2.8.1.tar.gz | awk '{total+=$3}END{print total/1024}' #kb大小
7、将两个文件交叉显示
paste a.txt b.txt|tr '\t' '\n'
paste a.txt b.txt|xargs -n1
11.27添加：
8、使用xargs分析单词出现的频率:
# cat file.txt |xargs -n1|tr A-Z a-z|sed -e 's/\.//g' -e 's/\,//g' -e 's//\n/g'|sort|uniq -c|sort -nr
解释：
xargs -n1:列出文件, 每行一个单词
tr A-Z a-z:将字符转换为小写
sed -e 's/\.//g' -e 's/\,//g' -e 's/ /\n/g': 过滤掉句号和逗号,单词间的空格修改为换行
另一种空格转换行方法：直接使用换行符
's/ /\
/g'
sort|uniq -c|sort -nr:排序，计数，再排序
不使用xargs统计：
sed -e 's/\.//g' -e 's/\,//g' -e 's/ /\n/g' README |tr 'A-Z' 'a-z'|sort|uniq -c|sort -nr
9、xargs拷贝文件到另一个目录中：
ls . | xargs -i -t cp ./{} /data/backup
-t 是 'verbose' (输出命令行到stderr) 选项.
-i 是'替换字符串'选项.
{} 是输出文本的替换点.
这与在'find'命令中使用{}的情况很相像.
列出当前目录下的所有文件(ls .),将 'ls' 的输出作为参数传递到 'xargs'(-i -t 选项)中,然后拷贝(cp)这些参数({})到一个新目录中(/data/backup).等价cp * /data/backup,除非有文件名中嵌入了'空白'字符.
10、利用xargs kill进程
ps ax | grep 'httpd' | awk '{print $1}' | xargs -i kill {} 2&>/dev/null
11、重复字符序列中除去除第一个字符以外的所有字符，例如aaa,多个空格
tr -s 'a' <test.txt #多个a连续，只保留第一个
tr -s ' ' <test.txt #字符间多个空格，只保留一个
12、去除windows下换行符^M
tr -d '\r' <file.txt >out.txt
tr -d '\015' <file.txt >out.txt #^M八进制形式是015
strings file.txt >out.txt
sed -i 's/^M//g' file.txt #^M不是shift+^再加上M,应该是ctrl+v加上ctrl+m
vi文件下执行:%s/^M//g替换为空
dos2unix file.txt
13、过滤文件内电子邮箱和网站地址
过滤邮箱(只显示过滤文本)：
#egrep -o '[A-Za-z0-9.]+@[A-Za-z0-9.]+\.[a-zA-Z]{2,3}' file.txt
zhangsan@sina.com
lishi.123@sohu.com
过滤网站地址：
#egrep -o 'http://[A-Za-z0-9\-\.]+\.[a-zA-Z]{2,3}' file.txt
http://code.nagios.google.com
http://www.baidu.com
过滤IP地址：
egrep -o '[0-9]+\.[0-9]+\.[0-9]+\.[0-9]+' file.txt


假设apache日志格式为：


118.78.199.98 – - [09/Jan/2010:00:59:59 +0800] “GET /Public/Css/index.css HTTP/1.1″ 304 – “http://www.a.cn/common/index.php” “Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; GTB6.3)”


问题1：在apachelog中找出访问次数最多的10个IP。


awk '{print $1}' apache_log |sort |uniq -c|sort -nr|head -n 10


awk 首先将每条日志中的IP抓出来，如日志格式被自定义过，可以 -F 定义分隔符和 print指定列；


sort进行初次排序，为的使相同的记录排列到一起；


upiq -c 合并重复的行，并记录重复次数。


head进行前十名筛选；


sort -nr按照数字进行倒叙排序。


我参考的命令是：


显示10条最常用的命令


sed -e "s/| //n/g" ~/.bash_history | cut -d ' ' -f 1 | sort | uniq -c | sort -nr | head


问题2：在apache日志中找出访问次数最多的几个分钟。


awk '{print $4}' access_log |cut -c 14-18|sort|uniq -c|sort -nr|head


awk 用空格分出来的第四列是[09/Jan/2010:00:59:59；


cut -c 提取14到18个字符


剩下的内容和问题1类似。


问题3：在apache日志中找到访问最多的页面：


awk '{print $11}' apache_log |sed 's/^.*cn/(.*/)/"//1/g'|sort |uniq -c|sort -rn|head


类似问题1和2，唯一特殊是用sed的替换功能将”http://www.a.cn/common/index.php”替换成括号内的内容：”http://www.a.cn（/common/index.php）”


问题4：在apache日志中找出访问次数最多（负载最重）的几个时间段（以分钟为单位），然后在看看这些时间哪几个IP访问的最多？


1,查看apache进程:


ps aux | grep httpd | grep -v grep | wc -l


2,查看80端口的tcp连接:


netstat -tan | grep "ESTABLISHED" | grep ":80" | wc -l


3,通过日志查看当天ip连接数，过滤重复:


cat access_log | grep "19/May/2011" | awk '{print $2}' | sort | uniq -c | sort -nr


4,当天ip连接数最高的ip都在干些什么(原来是蜘蛛):


cat access_log | grep "19/May/2011:00" | grep "61.135.166.230" | awk '{print $8}' | sort | uniq -c | sort -nr | head -n 10


5,当天访问页面排前10的url:


cat access_log | grep "19/May/2010:00" | awk '{print $8}' | sort | uniq -c | sort -nr | head -n 10


6,用tcpdump嗅探80端口的访问看看谁最高


tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." '{print $1"."$2"."$3"."$4}' | sort | uniq -c | sort -nr


接着从日志里查看该ip在干嘛:


cat access_log | grep 220.181.38.183| awk '{print $1"/t"$8}' | sort | uniq -c | sort -nr | less


7,查看某一时间段的ip连接数:


grep "2006:0[7-8]" www20110519.log | awk '{print $2}' | sort | uniq -c| sort -nr | wc -l


8,当前WEB服务器中联接次数最多的20条ip地址:


netstat -ntu |awk '{print $5}' |sort | uniq -c| sort -n -r | head -n 20


9,查看日志中访问次数最多的前10个IP


cat access_log |cut -d ' ' -f 1 |sort |uniq -c | sort -nr | awk '{print $0 }' | head -n 10 |less


10,查看日志中出现100次以上的IP


cat access_log |cut -d ' ' -f 1 |sort |uniq -c | awk '{if ($1 > 100) print $0}'｜sort -nr |less


11,查看最近访问量最高的文件


cat access_log |tail -10000|awk '{print $7}'|sort|uniq -c|sort -nr|less


12,查看日志中访问超过100次的页面


cat access_log | cut -d ' ' -f 7 | sort |uniq -c | awk '{if ($1 > 100) print $0}' | less


13,列出传输时间超过 30 秒的文件


cat access_log|awk '($NF > 30){print $7}'|sort -n|uniq -c|sort -nr|head -20


14,列出最最耗时的页面(超过60秒的)的以及对应页面发生次数


cat access_log |awk '($NF > 60 && $7~//.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100