最近在Quora上看到一个问答题目,关于在高效率Linux用户节省时间Tips。
将该题目的回答进行学习总结,加上自己的一些经验,记录如下,方便自己和大家参考。
下面介绍的都是一些命令行工具,这些工具在几位回答者的日常工作中都很有用。
对于任何不了解的命令,请使用“man “查看,或者使用Google。
有些命令需要先用 yum, apt-get install 命令安装。
1 基本命令
-
了解基本的bash
- 通读整个bash man page. 学习VIM
- 在Linux系统上,虽然你有Emacs和Eclipse,但是VIM仍然是无出其右的利器。 了解SSH,基本的无密码验证方式。
-
例如通过ssh-agent, ssh-add等。 《灵犀志趣》平时都使用如下脚本完成无密码验证,省事省力。
执行方式sh nopasswd USER REMOTE_HOST
执行此脚本前,请确认:- 本机上已有
id_dsa.pub
,若无。 使用命令 ssh-keygen -t dsa
获得。 - 远程机上登录用户家目录下,已经有 .ssh 文件夹,若无创建之。
- 本机上已有
$ cat nopasswd #!/bin/sh scp ~/.ssh/id_dsa.pub $1@$2:~/ ssh $1@$2 " touch ~/.ssh/authorized_keys ; cat ~/id_dsa.pub >> ~/.ssh/authorized_keys; chmod 644 ~/.ssh/authorized_keys; exit"
-
熟悉Bash中常用的任务管理命令
-
&,Ctrl-Z,Ctrl-C,jobs,fg,bg,kill
等。
基本的文件管理命令
-
ls, ls-l, less, head, tail, tail -f, ln, ln -s, chmod, chown, du, du -sk *, df, mount
基本的网络管理命令
-
ipconfig, ifconfig, dig
熟悉正则表达式,以及 grep,egrep用到的选项
-
-o, -A, -B
软件安装命令了解
- apt-get 和 yum
- 可以帮助显示行号。
cat -n
2 一些表达式
3 日常使用命令
- 在bash中, Ctrl-R用于在历史命令中搜索
-
bash中,Ctrl-W删除最后一个词,Ctrl-U删除最后一行, Alt-BackSpace 删除光标前的一个词
man readline
中包含了大量bash中的默认热键绑定. - 返回前一个工作路径
- 非常强大的命令。如果你还不确定是否能正确的执行任务,可以先用xargs echo查看。下面是一个用该功能的例子:
Ctrl-R
Ctrl-W, Ctrl-U, Alt-BackSpace
cd -
xargs
find . -name \*.py | xargs grep some_function
cat hosts | xargs -l {} ssh root@{} hostname
-
一个更加强大的命令. 可以实现并行执行任务,并可以分割输入文件,
指定多个节点同时运行命令等功能.详细的功能可以参考 这个链接. - 打用进程树的得力工具
-
使用名字查找进程,或者直接向指定名字的进程发送信号。
- 了解用户能发送给进程的一些信号。比如
kill -STOP [pid]
,让pid进程挂起。
- 了解用户能发送给进程的一些信号。比如
- 当你需要将进程永远处在后台运行是,这两个命令很有用。
- 查询当前什么进程在监听什么端口。
-
在bash脚本中, 使用
set -x
获得debug输出,使用 set -e
获得错误输出。 - 分号用于开启一个子shell并运行至结束后关闭。 例如:
parallel
pstree -p
pgrep,pkill
nohup,disown,screen, tmux
lsof, netstat -lntp
set
;
#在当前路径下执行一些命令 (cd /some/other/dir; other-command) # 工作路径仍然是当前目录
-
了解shell中的多种参数表达式
-
- 检查某个变量是否存在,若不存在输出 error message。
- 输出var变量除前缀或者后缀外的部分。如下面的代码输出为foo.txt.
${name:?error message}
${var%suffix}, ${var#prefix}
var = foo.pdf echo ${var%pdf}.txt
- 输入输出重定向操作。
-
将
some_command
运行过程中的标准输出和标准错误输出都输出到文件logfile中。 - 获得一个好用的ASCII表格,包含10进制和16进制的值。
- 在远程ssh绘画中,使用这两个命令可以保存你的会话,避免因为网络问题导致中断。
- 在web页面调试中,这几个命令能帮你下载网页代码,很有用。
- 将HTML转换为文本
- 需要处理XML时,这个命令很有用。
- 需要利用远程服务器访问网页时,这命令可以帮助你在远程服务器和你的机器之间建立ssh 隧道。
- 如下配置能帮你避免链接丢失,不需要每次都输入yes确认和远程服务器的链接,以及在链接中启用压缩。建议将它放到.ssh/config中。
<,>
some_command > logfile 2>&1
man ascii
screen,dtach
curl, curl -l, wget
lynx -dump -stdin
xmlstarlet
ssh -L, ssh -D
ssh连接优化
TCPKeepAlive=yes ServerAliveInterval=15 ServerAliveCountMax=6 StrictHostKeyChecking=no Compression=yes ForwardAgent=yes
-
命令已经输入一半,忽然间改主意想少收运行时,
可以使用Alt-#
在命令前加‘#’,将整个命令变成注释。这样你稍后就能在命令历史中找到该命令了。 - 可以帮助你制定一些定时执行的计划任务。
-
将一不小心需要大量输出文本时,依次输入这两个操作,
比单纯的频繁按Ctrl-C能更快让程序终止。
在正输入的命令前加#
cron
Ctrl-S Ctrl-C
4 数据处理
- 了解这些排序命令
- 了解这些文本文件的维护工具。很多人都在使用cut后,忘记join
-
假设a和b是两个文本文件,其中的行都是唯一的。
如下几个命令可以快速的实现一些集合操作。
sort,uniq, uniq -u, uniq -d
cut,paste, join
使用sort/uniq进行集合的交、并、补运算=
cat a b | sort | uniq > c # c is a union b cat a b | sort | uniq -d > c # c is a intersect b cat a b b | sort | uniq -u > c # c is set difference a - b
-
Linux中有关locale的设置会影响大量的命令行工具,其中包括排序工具。
多数安装的Linux系统都将LANG或者其他的locale默认设置成US English。
但这可能会导致排序及其他命令慢上好几倍。
因此export LC ALL=C能避免使用i18n形式处理数据,带来性能提升。 -
这两个工具能实现复杂的数据替换和修改。
例如,下面的命令实现对文本文件中低三列的数据求总和。
使用shell完成此运算比用Python快3倍。
使用LC_ALL=C
awk,sed
awk '{ x += $3 } END { print x }'
- 该命令可以从将一个文件中的行混洗,或者从中随机选出一些行。
-
了解sort的常用选项(-t,-k, -s)如何工作。 注意-k1,1只会排序第一列,
而-k1会根据整个行排序。 -s能实现稳定排序。
例如,先使用第二个域排序,再按照域一排序,可以用这段命令实现
shuf
sort
cat INPUT_FILE | sort -k1,1 | sort -s -k2,2
5 系统调试
-
可以帮助了解硬盘,CPU,内存,网络的状态。
这能帮你对系统正在发生的情况有个第一认识。 -
如果想了解内存的状态,这两个命令很重要。
其中cached是Linux内核中文件缓存的大小。 -
在调试Java程序时,使用此命令,可以在stderr/logs中找到完整的stack trace,
堆信息(包含垃圾收集的细节). - 能够帮忙找到网络问题,前者比traceroute更好用。
- 这两个命令可以办刚找出哪个端口或者进程占用了多少网络带宽。
- 这个Apache自带的工具能帮助快速检查web服务器的性能。
- 是进行更高级的网络调试的得力工具。
-
这两个命令能帮你在一无所知的情况下,对程序运行失败,假死,崩溃等问题带来一些线索。
另外,他们还能帮忙发现一些性能问题。比如 -c选项可以做profiling;
-p选项可以挂到某个指定的进程上。 - 检查共享库的情况
- 了解如何利用GDB连接到一个正在运行的进程,并且得到其stack trace。
-
在做现场调试的时候很有用。比如
/proc/cpuinfo, /proc/XXX/cwd, /proc/XXX/exe, /proc/XXX/fd/, /proc/XXX/smaps
- 在需要判断为何过去某个时间系统会出错时,这个命令能显示CPU,内存和网络的历史情况。
- 当需要更深的分析系统,以及性能情况时,这两个工具很有用。
- 当系统出现一些很反常的现象时,比如可能是硬件或驱动问题时,这个很管用。
iostat,netstat,top,atop,htop,dstat
free,vmstat
kill -3
mtr,traceroute
iftop,nethogs
ab,siege
wireshark,tshark
strace,ltrace
ldd
gdb
/proc/
sar
stap, perf
dmesg
6 参考
- http://unixhelp.ed.ac.uk/scrpt/scrpt2.2.2.html
- http://www.quora.com/Linux/What-are-some-time-saving-tips-that-every-Linux-user-should-know
7 致谢
- 杨青:增加 Alt-BackSpace
- dikar: 修改 string -> strings
- zsc:
增加了 GNU parallel命令 - RobberPhex: 修改 翻唱–>反常