本文收集了一堆的shell脚本技巧,我说过,我写博客主要是作一些学习笔记,方便自己查阅,所以,我会搞出这么一篇文章,也没有什么不可理解的。关于这些技巧的出处,诶,我也忘了,可能来自theunixschool、 commandlinefu、酷勤网和igigo.net,当然了,也有部分是我自己的经验心得,管他呢,进了我的脑子就是我的了。
- shell 调试
复制代码代码如下:
sh -x somefile.sh
在somefile.sh 文件里加上set+x set-x
- 用 && || 简化if else
复制代码代码如下:
gzip -t a.tar.gz
if [[ 0 == $? ]]; then
echo “good zip”
else
echo “bad zip”
fi
可以简化为:
复制代码代码如下:
gzip -t a.tar.gz && echo “good zip” || echo “bad zip”
- 判断文件非空
复制代码代码如下:
if [[ -s $file ]]; then
echo “not empty”
fi
- 获取文件大小
复制代码代码如下:
stat -c %s $file
stat --printf=’%s\n’ $file
wc -c $file
- 字符串替换
复制代码代码如下:
${string//pattern/replacement}
a=‘a,b,c’
echo ${a//,/ /}
5. Contains 子字符串?
string=“My string”
if [[ $string == My ]]; then
echo “It’s there!”
fi
- rsync备份
复制代码代码如下:
rsync -r -t -v /source_folder /destination_folder
rsync -r -t -v /source_folder [user@host:/destination_folder
- 批量重命名文件
为所有txt文件加上.bak 后缀:
复制代码代码如下:
rename ‘.txt’ ‘.txt.bak’ *.txt
去掉所有的bak后缀:
复制代码代码如下:
rename ‘*.bak’ ‘’ *.bak
把所有的空格改成下划线:
复制代码代码如下:
find path -type f -exec rename ‘s/ /_/g’ {} ;
把文件名都改成大写:
复制代码代码如下:
find path -type f -exec rename ‘y/a-z/A-Z/’ {} ;
- for/while 循环
复制代码代码如下:
for ((i=0; i < 10; i++)); do echo $i; done
for line in $(cat a.txt); do echo $line; done
for f in *.txt; do echo $f; done
while read line ; do echo $line; done < a.txt
cat a.txt | while read line; do echo $line; done
- 删除空行
复制代码代码如下:
cat a.txt | sed -e ‘/^$/d’
(echo “abc”; echo “”; echo “ddd”? | awk ‘{if (0 != NF) print $0;}’
- 比较文件的修改时间
复制代码代码如下:
[[ file1.txt -nt file2.txt ]] && echo true || echo false
[[ file1.txt -ot file2.txt ]] && echo true || echo false
- 实现Dictionary结构
复制代码代码如下:
hput() {
eval “hkey_$1”="KaTeX parse error: Expected 'EOF', got '}' at position 5: 2" }̲ hget() { …{’“hkey_$1”’}’
}
$ hput k1 aaa
$ hget k1
aaa
- 去掉第二列
复制代码代码如下:
$echo ‘a b c d e f’ | cut -d ’ ’ -f1,3-
$a c d e f
- 把stderr输出保存到变量
复制代码代码如下:
$ a=$( (echo ‘out’; echo ‘error’ 1>&2) 2>&1 1>/dev/null)
$ echo $a
error
- 删除前3行
复制代码代码如下:
$cat a.txt | sed 1,3d
- 读取多个域到变量
复制代码代码如下:
read a b c <<< “xxx yyy zzz”
- 遍历数组
复制代码代码如下:
array=( one two three )
for i in ${array[@]}
do
echo $i
done
- 查看目录大小
复制代码代码如下:
$ du –sh ~/apps
- 查看CPU信息
复制代码代码如下:
$ cat /proc/cpuinfo
- date
复制代码代码如下:
$ date +%Y-%m-%d
2012-12-24
$ date +%Y-%m-%d –date ‘-1 day’
2012-12-23
$ date +%Y-m-%d –date ‘Dec 25’
2011-12-25
$ date +%Y-m-%d –date ‘Dec 25 – 10 days’
2011-12-15
- 获取路径名和文件名
复制代码代码如下:
$ dirname ‘/home/lalor/a.txt’
/home/lalor
$ basename ‘/home/lalor/a.txt’
a.txt
- 并集和交集
comm 可以用来求并集,交集,差集,假设现在有两个文件a和b,它们的内容如下:
复制代码代码如下:
$cat a
1
3
5
$cat b
3
4
5
6
7
$comm a b
1
3
4
5
6
7
$comm -1 -2 a b #交集
3
5
$comm a b | sed ‘s/\t//g’ #并集
1
2
3
4
5
6
7
$comm -1 -3 a b | sed ‘s/\t//g’ #b-a
4
6
7
- awk复杂分隔符
多字符作分隔符
复制代码代码如下:
$ echo “a||b||c||d” | awk -F ‘[|][|]’ ‘{print $3}’
c
多种分隔符1
复制代码代码如下:
$echo “a||b,#c d” | awk -F ‘[| ,#]+’ ‘{print $4}’
d
多种分隔符2
复制代码代码如下:
$echo “a||b##c|#d” | awk -F ‘([|][|])|([#][#])’ ‘{print $NF}’
c|#d
- 产生一个随机数
复制代码代码如下:
echo $RANDOM
- 按照模式split 文件
复制代码代码如下:
csplit server.log /PATTERN/ -n 2 -s {*} -f server_result -b “%02d.log” -z
/PATTERN/ 用来匹配某一行,分割过程由此开始
{*} 根据匹配,重复执行分割
-s 静默模式
-n 分割后文件名后缀中,数字的个数
-f 分割后的文件名前缀
-b 指定后缀格式
- 获取文件名或者扩展名
复制代码代码如下:
var=hack.fun.book.txt
echo ${var%.}
hack.fun.book
echo ${var%%.}
hack
echo ${var#.}
fun.book.txt
echo ${var##.}
txt
- 以 root 帐户执行上一条命令。
复制代码代码如下:
$sudo !!
其中: * !! 是指上一条命令 * !$ 上一条命令的最后一个参数 * !* 上一条命令的所有参数 * !:3 上一条命令的第3个参数
例如:
复制代码代码如下:
$ls /tmp/somedir
ls: cannot access /tmp/somedir: No such file or directory
m
k
d
i
r
!
mkdir !
mkdir!
madir /tmp/somedir
- 利用 python 搭建一个简单的 Web 服务器,可通过 http://:8000$HOSTNAME 访问。
复制代码代码如下:
python -m SimpleHTTPServer
- 在 Vim 中无需权限保存编辑的文件。
复制代码代码如下:
:w !sudo tee %
- 将上一条命令中的 foo 替换为 bar,并执行。
复制代码代码如下:
foobar
- 快速备份或复制文件。
复制代码代码如下:
cp filename{,.bak}
- 将 ssh keys 复制到 user@host 以启用无密码 SSH 登录。
复制代码代码如下:
$ssh-copy-id user@host
- 把 linux 桌面录制为视频。
复制代码代码如下:
ffmpeg -f x11grab -s wxga -r 25 -i :0.0 -sameq /tmp/out.mpg
- man 妙用
复制代码代码如下:
man ascii
man test
- 在 vim 中编辑上一条命令
复制代码代码如下:
fc
- 删除0 字节文件或垃圾文件
复制代码代码如下:
find . -type f -size 0 -delete
find . -type f -exec rm -rf {} ;
find . -type f -name “a.out” -exec rm -rf {} ;
find . type f -name “a.out” -delete
find . type f -name “*.txt” -print0 | xargs -0 rm -f
- 在编写SHELL 时显示多行信息
复制代码代码如下:
cat << EOF
±-------------------------------------------------------------+
| === Welcome to Tunoff services === |
±-------------------------------------------------------------+
EOF
注意,在指定结束符时,它必须是该行的唯一内容,并且该行必须以这个字符开头。
37. 如何给mysql建软链接
复制代码代码如下:
cd /usr/local/mysql/bin
for i in *
do ln /usr/local/mysql/bin/
i
/
u
s
r
/
b
i
n
/
i /usr/bin/
i/usr/bin/i
done
- 获取IP地址:
复制代码代码如下:
ifconfig eth0 |grep “inet addr:” |awk ‘{print $2}’|cut -c 6-
- 打开文件数目
复制代码代码如下:
lsof
- 清除僵尸进程
复制代码代码如下:
ps -eal | awk ‘{ if ($2 == “Z”){ print $4}}’ | kill -9
- 打印唯一行
复制代码代码如下:
awk ‘!a[$0]++’ file
- 打印奇数行
复制代码代码如下:
awk ‘i=!i’ file
awk ‘NR%2’ file
- 打印匹配行后的某一行
复制代码代码如下:
seq 10 | awk ‘/4/{f=4};–f==0{print;exit}’
- 打印某行后后面的10行
复制代码代码如下:
cat file | grep -A100 string
cat file | grep -B100 string #前面
cat file | grep -C100 string #前后
sed -n ‘/string/,+100p’
awk ‘/string/{f=100}–f>=0’
- 获取命令行最后一个参数
复制代码代码如下:
echo ${!#}
echo KaTeX parse error: Expected '}', got 'EOF' at end of input: {#} #错误的尝试
- 输出重定向
如果你愿你,可以将STDERR 和 STDOUT 的输出重定向到一个输出文件,为此,bash 提供了特殊的重定向符号 &>
复制代码代码如下:
ls file nofile &> /dev/null
我们如何在脚本里面重定向呢?没有什么特别之处,和普通重定向一样。
复制代码代码如下:
#!/bin/bash
#redirecting output to different locations
echo “now redirecting all output to another location” &>/dev/null
问题就来了,如果我们要将所有的输出都重定向到某个文件呢?我们都不希望每次输出的时候都重定向一下吧,正所谓,山人自有妙计。我们可以用exec 来永久重定向,如下所示:
复制代码代码如下:
#!/bin/bash
#redirecting output to different locations
exec 2>testerror
echo “This is the start of the script”
echo “now redirecting all output to another location”
exec 1>testout
echo “This output should go to testout file”
echo “but this should go the the testerror file” >& 2
输出结果如下所示:
复制代码代码如下:
This is the start of the script
now redirecting all output to another location
lalor@lalor:~/temp$ cat testout
This output should go to testout file
lalor@lalor:~/temp$ cat testerror
but this should go the the testerror file
lalor@lalor:~/temp$
以追加的方式重定向:
复制代码代码如下:
exec 3 >> testout
取消重定向:
复制代码代码如下:
exec 3> -
- 函数
任何地方定义的变量都是全局变量,如果要定义局部变量,需加local 关键字
shell中的函数也可以用递归
复制代码代码如下:
#!/bin/bash
function factorial {
if [[
1
−
e
q
1
]
]
;
t
h
e
n
e
c
h
o
1
e
l
s
e
l
o
c
a
l
t
e
m
p
=
1 -eq 1 ]]; then echo 1 else local temp=
1−eq1]];thenecho1elselocaltemp=[ $1 - 1 ]
local result=factorial $temp
echo $[ $result * $1 ]
fi
}
result=factorial 5
echo $result
创建函数库
将函数定一个在另一个文件,然后通过source 命令加载到当前文件
在命令行使用函数
将函数定义在~/.bashrc 中即可
向函数传递数组
复制代码代码如下:
#!/bin/bash
#adding values in an array
function addarray {
local sum=0
local newarray
newarray=(echo "$@"
)
for value in
n
e
w
a
r
r
a
y
[
∗
]
d
o
s
u
m
=
{newarray[*]} do sum=
newarray[∗]dosum=[
s
u
m
+
sum+
sum+value ]
done
echo $sum
}
myarray=(1 2 3 4 5)
echo “The original array is: ${myarray[*]}”
arg1=echo ${myarray[*]}
result=addarray $arg1
echo “The result is $result”
48.正则表达式
匹配中文字符的正则表达式:[u4e00-u9fa5]
评注:匹配中文还真是个头疼的事,有了这个表达式就好办了
匹配双字节字符(包括汉字在内):[^x00-xff]
评注:可以用来计算字符串的长度(一个双字节字符长度计2,ASCII字符计1)
匹配空白行的正则表达式:^ $
评注:可以用来删除空白行
匹配HTML标记的正则表达式:<(S?)[^>]>.?</1>|<.? />
评注:网上流传的版本太糟糕,上面这个也仅仅能匹配部分,对于复杂的嵌套标记依旧无能为力
匹配首尾空白字符的正则表达式:^s|s*$
评注:可以用来删除行首行尾的空白字符(包括空格、制表符、换页符等等),非常有用的表达式
匹配Email地址的正则表达式:w+([-+.]w+)@w+([-.]w+).w+([-.]w+)*
评注:表单验证时很实用
匹配网址URL的正则表达式:[a-zA-z]+://[^s]*
评注:网上流传的版本功能很有限,上面这个基本可以满足需求
匹配帐号是否合法(字母开头,允许5-16字节,允许字母数字下划线):1[a-zA-Z0-9_]{4,15}$
评注:表单验证时很实用
匹配国内电话号码:d{3}-d{8}|d{4}-d{7}
评注:匹配形式如0511-4405222或021-87888822
匹配腾讯QQ号:[1-9][0-9]{4,}
评注:腾讯QQ号从10000开始
匹配中国邮政编码:[1-9]d{5}(?!d)
评注:中国邮政编码为6位数字
匹配身份证:d{15}|d{18}
评注:中国的身份证为15位或18位
匹配ip地址:d+.d+.d+.d+
评注:提取ip地址时有用
匹配特定数字:
2d*
/
/
匹
配
正
整
数
−
[
1
−
9
]
d
∗
//匹配正整数 ^-[1-9]d*
//匹配正整数−[1−9]d∗ //匹配负整数
^-?[1-9]d*
/
/
匹
配
整
数
[
1
−
9
]
d
∗
∣
0
//匹配整数 ^[1-9]d*|0
//匹配整数[1−9]d∗∣0 //匹配非负整数(正整数+ 0)
^-[1-9]d*|0
/
/
匹
配
非
正
整
数
(
负
整
数
+
0
)
[
1
−
9
]
d
∗
.
d
∗
∣
0.
d
∗
[
1
−
9
]
d
∗
//匹配非正整数(负整数+ 0) ^[1-9]d*.d*|0.d*[1-9]d*
//匹配非正整数(负整数+0)[1−9]d∗.d∗∣0.d∗[1−9]d∗ //匹配正浮点数
^-([1-9]d*.d*|0.d*[1-9]d*)
/
/
匹
配
负
浮
点
数
−
?
(
[
1
−
9
]
d
∗
.
d
∗
∣
0.
d
∗
[
1
−
9
]
d
∗
∣
0
?
.
0
+
∣
0
)
//匹配负浮点数 ^-?([1-9]d*.d*|0.d*[1-9]d*|0?.0+|0)
//匹配负浮点数−?([1−9]d∗.d∗∣0.d∗[1−9]d∗∣0?.0+∣0) //匹配浮点数
3d*.d*|0.d*[1-9]d*|0?.0+|0
/
/
匹
配
非
负
浮
点
数
(
正
浮
点
数
+
0
)
(
−
(
[
1
−
9
]
d
∗
.
d
∗
∣
0.
d
∗
[
1
−
9
]
d
∗
)
)
∣
0
?
.
0
+
∣
0
//匹配非负浮点数(正浮点数+ 0) ^(-([1-9]d*.d*|0.d*[1-9]d*))|0?.0+|0
//匹配非负浮点数(正浮点数+0)(−([1−9]d∗.d∗∣0.d∗[1−9]d∗))∣0?.0+∣0 //匹配非正浮点数(负浮点数+ 0)
评注:处理大量数据时有用,具体应用时注意修正
匹配特定字符串:
4+
/
/
匹
配
由
26
个
英
文
字
母
组
成
的
字
符
串
[
A
−
Z
]
+
//匹配由26个英文字母组成的字符串 ^[A-Z]+
//匹配由26个英文字母组成的字符串[A−Z]+ //匹配由26个英文字母的大写组成的字符串
5+
/
/
匹
配
由
26
个
英
文
字
母
的
小
写
组
成
的
字
符
串
[
A
−
Z
a
−
z
0
−
9
]
+
//匹配由26个英文字母的小写组成的字符串 ^[A-Za-z0-9]+
//匹配由26个英文字母的小写组成的字符串[A−Za−z0−9]+ //匹配由数字和26个英文字母组成的字符串
^w+$ //匹配由数字、26个英文字母或者下划线组成的字符串