分类： 'CLI软件' 的归档
linux下的“虚拟光驱”
每当有人问我“你的linux下有没有类似‘虚拟光驱’的软件呢？”的时候，我就会轻轻一笑，自豪地说“别把事情想得太复杂，linux下根本就不用什么另外的软件，就能虚拟光驱了。”，然后那人一般就会似懂非懂地说一句：“哦。。这样啊~”
下面，就来介绍几个虚拟光驱相关的命令：
把物理光盘做成iso镜像，下面几个命令几乎等效，假设设备是/dev/cdrom：
cp /dev/cdrom xxx.iso
dd if=/dev/cdrom of=xxx.iso
mkisofs -r -o xxx.iso /dev/cdrom
readcd -v dev=/dev/cdrom -f xxx.iso
其中，用mkisofs还可以把一个文件夹模拟成iso：
mkisofs -o xxx.iso /path/to/tree
如果要使用iso文件的话，就更简单了，可以mount到任意目录下：
mount -o loop xxx.iso /path
注意以上某些命令可能需要root权限。
不过，还有个终极问题没有解决，我手头有一张《浙江省汽车驾驶人理科考试智能》的光盘，估计是用了什么防拷贝技术，使用以上方法都无法正确生成ISO文件，也无法全部复制里面的内容，具体操作过程如下：
lily@LLY:~$ sudo mount -o ro,loop /dev/sr0 qc lily@LLY:~$ ls qc 试题10.db 试题11.db 试题12.db 试题1.db 试题2.db 试题3.db 试题4.db 试题5.db 试题6.db 试题7.db 试题8.db 试题9.db lily@LLY:~$ sudo umount qc lily@LLY:~$ sudo mount -o ro /dev/sr0 qc lily@LLY:~$ ls qc 2009理论模拟考试.exe AutoRun.ico AutoRun.rdt system 试题10.db 试题1.db 试题4.db 试题7.db AutoRun.ard autorun.inf htm 安装使用说明.html 试题11.db 试题2.db 试题5.db 试题8.db AutoRun.exe autorun.pro image.jpg 读安装使用说明.html 试题12.db 试题3.db 试题6.db 试题9.db lily@LLY:~$ cp -r qc qc1 cp: 正在读入"qc/试题3.db": 输入/输出错误 cp: 正在读入"qc/试题4.db": 输入/输出错误 {1}lily@LLY:~$ ls qc1 2009理论模拟考试.exe AutoRun.ico AutoRun.rdt system 试题10.db 试题1.db 试题4.db 试题7.db AutoRun.ard autorun.inf htm 安装使用说明.html 试题11.db 试题2.db 试题5.db 试题8.db AutoRun.exe autorun.pro image.jpg 读安装使用说明.html 试题12.db 试题3.db 试题6.db 试题9.db lily@LLY:~$ du -s qc qc1 398463 qc 349720 qc1
有谁知道这种变态的光盘怎么搞定吗？
a2p──将awk程序转成perl
呵呵，不管你觉得有没有必要，反正，就是有这样的工具了，而且还是perl包自带的哦（看来perl确实有点怪异，哈哈）。
别的不说了，拿个小程序演示下，下面的awk程序是用来统计当前登录系统的人数的，其实就是 who | wc -l
BEGIN { while ( "who" | getline ) n++ print n }
然后这样：
lily@LLY:~/test/awk$ awk -f count.awk 3 lily@LLY:~/test/awk$ a2p count.awk > count.pl lily@LLY:~/test/awk$ perl count.pl 3
哈哈，确实能执行哦，再让我们来看看转出来的perl程序，格式都还蛮工整的呢：
#!/usr/bin/perl eval 'exec /usr/bin/perl -S $0 ${1+"$@"}' if $running_under_some_shell; # this emulates #! processing on NIH machines. # (remove #! line above if indigestible) eval '$'.$1.'$2;' while $ARGV[0] =~ /^([A-Za-z_0-9]+=)(.*)/ && shift; # process any FOO=bar switches open(WHO_FH, 'who|') || die 'Cannot pipe from "who".'; $, = ' '; # set output field separator $\ = "\n"; # set output record separator while (($_ = &Getline2('WHO_FH', '|'),$getline_ok)) { $n++; } print $n; sub Getline2 { ($fh) = @_; if ($getline_ok = (($_ = <$fh>) ne '')) { ; } $_; }
想学perl的同学可以折腾折腾。
exif──查看JPEG文件里的附加信息
不知道什么是EXIF的可以看这里（中文）和这里（英文），简单一句话，EXIF就是存在JPG文件里的一些额外信息。
现在的数码相机拍出来的图片里，绝大多数都存有拍摄时间、快门、焦距、光圈等很多信息，稍微好点的还有GPS定位的拍摄地点呢。
在GUI下，eog等图片查看软件，都可以通过右键的“属性”菜单查看具体的EXIF信息。其实在CLI下，也是有办法提起这些信息的。这个程序的名字就叫 exif 。
安装基本靠源，就不介绍了，使用也是超简单：
$ exif S7302998.JPG ‘S7302998.JPG’中的EXIF 信息标识(‘英特尔’字节顺序): --------------------+---------------------------------------------------------- 信息标识 |值 --------------------+---------------------------------------------------------- Image Description |<Samsung D70 / D75 / S730 / S750> Manufacturer |Samsung Techwin Model |<Samsung D70 / D75 / S730 / S750> Orientation |左上 x-Resolution |96.00 y-Resolution |96.00 Resolution Unit |英寸 Software |708101 Date and Time |2009:02:08 14:16:22 ###限于篇幅，省略点输出信息。。 对比度 |普通 饱和度 |普通 锐度 |普通 Interoperability Ind|R98 Interoperability Ver|0100 --------------------+---------------------------------------------------------- EXIF 数据中含有缩略图(3915 个字节)。
下一步就是找个写EXIF信息功能强一点的CLI软件，exif虽然也能写，但是好像只能逐字段挨个写，这个就不太方便了。
最终我要实现的就是：压缩照片，但是保留EXIF信息，哈哈。
========20100211 19:30:00 update========
哈哈，是我把convert想得太简单了，其实convert本身就会保留EXIF的，根本无须我多操心~
自动化下载网盘的文件
今天，我给大家介绍两款自动化的网盘下载工具，用于自动下载Megaupload、Rapidshare等网盘的文件。
首先是有图形界面的FreeRapid，这是采用java编写的，所以可以跨平台使用，而且有比较良好的图形界面和多语言支持，改下设置，就可以出来中文界面，所以使用非常方便，也很容易上手，适合普通用户使用。
而且，FreeRapid还有个好处是支持的网盘网站非常的多，国外的大大小小的网盘站点几乎都能搞定。对各网站的支持还是以插件的形式出现的，也就是说，即使你的网盘站点的下载方式有变化，或者有新的网盘站点出现，FreeRapid也能很轻松地升级，以适应这个变化。事实上，在使用FreeRapid的过程中，也确实经常会看到有插件要更新的。
好了，大致说完了FreeRapid，这个的优点，刚说了，就是易用，因为有GUI嘛，不过，某些时候这样正是它的缺点所在（哲学中，矛盾性的普遍性得到了很好的验证，哈哈。），如果我的机器没有X怎么办呢？呵呵，不用着急，我们还有Plowshare。
Plowshare已经默认包含在了gentoo或者arch的官方源里了，可以直接emerge或者yaourt，但是ubuntu源里，却还未包含，所以使用ubuntu的朋友需要自己下载deb包或者源码进行安装了。
这个的Plowshare比起FreeRapid来，支持的站点稍微少些，不过人家是bash脚本，不用拖个jre也不用X，还是很不错的，而且，它不止支持下载，其实还是支持上传的，哈。
使用起来也不烦，一般情况下只需要
plowdown URL
就好了，更详细的使用说明──比如支持某些站点的用户名、密码之类的──可以看官方说明。
再说一句，这个也是模块化支持多站点的哦，而且作者还提供API，鼓励大家都去写模块呢。
怎么样，方便吧？
开源的命令行OCR软件──tesseract
tesseract-ocr是一个跨平台开源的OCR软件（Optical Character Recognition，光学字符识别），它历史悠久，早期是HP实验室的项目，现托管于google code。
大部分常用的linux发行版，应该都在源里包含了此软件，所以ubuntu下只需要 sudo apt-get install tesseract-ocr tesseract-ocr-eng 就可以安装了，注意必须安装 tesseract-ocr-eng 这个是识别英文字符所必须的数据文件。而在gentoo下，也只需要 emerge app-text/tesseract 就可以了，但是也必须给这个包添加 linguas_en 这个use，才会安装所需要的数据文件。
关于数据文件，还得交代一下，其实tesseract在2.0版以后，已经有了学习能力了，如果你想提高某个字体的识别率，或者识别不在默认语言包里的UTF-8字符（比如中文）的话，可以安装这个方法来训练出自己的数据文件。
这个OCR软件能干嘛呢？典型地应用就是识别验证码，哈哈。所以以这个为例，来介绍一下使用方法，先来看看这几个验证码（可“图片另存为”，然后自行测试）：
这几个都是用默认的数据文件能正确识别的例子，由于tesseract只识别tiff格式的图片文件，所以识别之前，需要将图片先转成tif格式，具体如下：
$ convert cnblogs.com.jpe ppm:- | ppm2tiff yzm.tif $ tesseract yzm.tif out Tesseract Open Source OCR Engine $ cat out.txt 1750
同时，也有些比较难的验证码，是程序不能正确识别的，如下几个就是例子：
虽然识别的正确性不是非常高，但是已经很不错了，哈哈。
PS： 有没有人训练个识别google验证码专用的数据文件？
python代码风格检查工具──pylint
pylint是一个python代码检查工具，可以帮助python程序员方便地检查程序代码的语法和风格，通过这个工具，可以使你的python代码尽量保持完美，哈哈。
具体可以检查什么东西呢？
比如你写了 from XXX import * 了，它就会提示你这样import是不好的。
比如你操作符的前后没有空格，它也会提示你。
比如逗号后面没跟空格也会。
还有你import了没用到的模块，定义了没使用的变量等也会提示。
还有你的变量名是否符合规范也会提示。
总之它提示的内容很多很全面，而且它最后会给出一个所检查的代码的总体分数，如果能达到满分10分的话，简直就是神作了，因为pylint本身的代码也才9.5分左右，哈哈。
比较惨的是，TX发现这个工具以后，检查了几个python项目的分数，都不是很高，我那gmbox得了2分多点，还算是高的。不过，经过一番优化，现在的gmbox已经有6.64分，及格了，哈哈。。
值得一提的是，pylint不仅可以像默认那样输出字符结果，还可以彩色化输出，甚至还可以输出HTML和visual studio的格式。具体用法可以参见man页和这个文档。
监视文件系统的一举一动 ── inotifywait
某天，TX大侠说他找不到awn的配置文件在什么地方，问我知道不？而我只是在N年前用过一下下awn而已，所以，理所当然地不知道了。后来，我们想了一个土办法：
在$HOME下先执行一次
tree -as > /tmp/before
然后在awn的界面里修改一下配置，再在$HOME下再执行一次
tree -as > /tmp/after
然后再
diff /tmp/before /tmp/after
哈哈，别说，这样还真把需要的配置文件找到了。但是，谁看着这个方法，都多少会觉得有点别扭。
现在，我发现了这个可以监视文件系统的任何动作的工具： inotifywait （项目主页） 。
inotifywait 包含在gentoo的 sys-fs/inotify-tools 包里，其他发行版应该也是叫这个名字。
这个工具是使用linux内核的inotify调用，来实现监视功能的。所以你需要有2.6.13以上版本的内核，才会有这个调用。
像上例中，如果要找某个未知文件的该动的话，你可以监视整个$HOME目录，这样：
inotifywait -mr $HOME
现在你再修改awn的配置，或者打开/修改/删除任何$HOME及其子目录下的文件的话，终端都会显示出来。比如：
/home/lily/test/ CREATE abcd.txt /home/lily/test/ OPEN abcd.txt /home/lily/test/ ATTRIB abcd.txt /home/lily/test/ CLOSE_WRITE,CLOSE abcd.txt /home/lily/test/ MODIFY abcd.txt /home/lily/test/ OPEN abcd.txt /home/lily/test/ MODIFY abcd.txt /home/lily/test/ CLOSE_WRITE,CLOSE abcd.txt /home/lily/test/ DELETE abcd.txt
这个就是我在~/test下执行
touch abcd.txt && echo 111 > abcd.txt && rm abcd.txt
的时候的结果，很详细吧？
另外值得注意的是，如果你 $HOME 下的文件数目比较多，大于 /proc/sys/fs/inotify/max_user_watches 里的值（默认才8k）的话，inotifywait 就会提示超出限制，报错了。这时候你可以估算下总的文件数，然后手工修改上限值。
echo 170000 | sudo tee /proc/sys/fs/inotify/max_user_watches
我这边把上限改成了170000，发现CPU和内存的占用都还不是很明显，还是完全可以接受的。
PS：除了使用这个inotifywait以外，你也可以在自己的程序里直接调用内核的inotify完成某些特定的功能，而且python和perl都有相应的模块可以直接调了，更详细的介绍可以看这里(翻遍了google，好不容易才找到这原文啊，BS那些转载不注明原地址的，还有转了以后，不管代码格式却分成10来页骗点击量的)。
记录你的终端操作 ── script
不知广大linuxer有没有这样的经历：你要给别人演示一个终端下的操作过程，或者遇到什么难题需要求助别人，想把终端的操作过程（输入）及输出都记录下来。
这时候，如果过程不是很长，一屏以内的话一般可以选择直接截图；如果只是一个命令的输出，可以用重定向将标准输出（和/或 标准错误）直接定向到文件。
但是如果这个过程，既不是很短，比如输入和输出加起来有上万行；又不是一个命令能搞定的，该怎么办呢？将terminal的缓冲区定义地很大，再选择/复制/粘帖显然不是个好办法。
这时候，script就派上用场了，在终端里输入script，表面上只是打印了一行“Script started, file is typescript”的文字，但是其实，现在已经新开了一个session了，从此刻开始，任何你的输入和程序的输出都将被如实地记录到当前目录下的 typescript 文件里，直到你打exit退出这个session。退出以后，你可以用任何文本编辑器打开这个 typescript 文件，不过由于这个文件将所有的ANSI控制符都记录进去了，所以，如果你的PS1有彩色的，或者有执行ls之类的输出彩色信息的命令的时候，直接用文本编辑器看到的输出会有点乱，不过这样的好处是，如果你 cat typescript 的话，所有的颜色都也可以恢复了。另外，如果你想去掉颜色的话，可以执行
cat typescript | sed 's/\x1b[[0-9;]*.//g' > nocolor
这个命令可以基本把颜色代码去掉。
另外，还有一个办法也可以完成此项工作，就是使用 screen 的时候，加上 -L 参数，会在当然目录生成一个 screenlog.0 的文本文件，同样，这也是一个带ANSI控制符的文本文件，忠实地记录了你的所有操作。
现在，有了终端的详细“截图”，你就可以将得到文件发给对方，进行交流了，哈哈~
《SED单行脚本快速参考》的 awk 实现
sed和awk都是linux下常用的流编辑器，他们各有各的特色，本文并不是要做什么对比，而是权当好玩，把《SED单行脚本快速参考》这文章，用awk做了一遍~
至于孰好孰坏，那真是很难评论了。一般来说，sed的命令会更短小一些，同时也更难读懂；而awk稍微长点，但是if、while这样的，逻辑性比较强，更加像“程序”。到底喜欢用哪个，就让各位看官自己决定吧！
PS： 貌似这个配色，单行的代码多了以后，拖动的时候会有点眼花的感觉，将就下吧，呵呵。
文本间隔：
——–
# 在每一行后面增加一空行
sed Gawk '{printf("%s\n\n",$0)}'
# 将原来的所有空行删除并在每一行后面增加一空行。
# 这样在输出的文本中每一行后面将有且只有一空行。
sed '/^$/d;G'
awk '!/^$/{printf("%s\n\n",$0)}'
# 在每一行后面增加两行空行
sed 'G;G'
awk '{printf("%s\n\n\n",$0)}'
# 将第一个脚本所产生的所有空行删除（即删除所有偶数行）
sed 'n;d'
awk '{f=!f;if(f)print $0}'
# 在匹配式样“regex”的行之前插入一空行
sed '/regex/{x;p;x;}'
awk '{if(/regex/)printf("\n%s\n",$0);else print $0}'
# 在匹配式样“regex”的行之后插入一空行
sed '/regex/G'
awk '{if(/regex/)printf("%s\n\n",$0);else print $0}'
# 在匹配式样“regex”的行之前和之后各插入一空行
sed '/regex/{x;p;x;G;}'
awk '{if(/regex/)printf("\n%s\n\n",$0);else print $0}'
编号：
——–
# 为文件中的每一行进行编号（简单的左对齐方式）。这里使用了“制表符”
# （tab，见本文末尾关于’\t’的用法的描述）而不是空格来对齐边缘。
sed = filename | sed 'N;s/\n/\t/'
awk '{i++;printf("%d\t%s\n",i,$0)}'
# 对文件中的所有行编号（行号在左，文字右端对齐）。
sed = filename | sed 'N; s/^/ /; s/ *\(.\{6,\}\)\n/\1 /'
awk '{i++;printf("%6d %s\n",i,$0)}'
# 对文件中的所有行编号，但只显示非空白行的行号。
sed '/./=' filename | sed '/./N; s/\n/ /'
awk '{i++;if(!/^$/)printf("%d %s\n",i,$0);else print}'
# 计算行数 （模拟 “wc -l”）
sed -n '$='
awk '{i++}END{print i}'
文本转换和替代：
——–
# Unix环境：转换DOS的新行符（CR/LF）为Unix格式。
sed 's/.$//' # 假设所有行以CR/LF结束 sed 's/^M$//' # 在bash/tcsh中，将按Ctrl-M改为按Ctrl-V sed 's/\x0D$//' # ssed、gsed 3.02.80，及更高版本
awk '{sub(/\x0D$/,"");print $0}'
# Unix环境：转换Unix的新行符（LF）为DOS格式。
sed "s/$/`echo -e \\\r`/" # 在ksh下所使用的命令 sed 's/$'"/`echo \\\r`/" # 在bash下所使用的命令 sed "s/$/`echo \\\r`/" # 在zsh下所使用的命令 sed 's/$/\r/' # gsed 3.02.80 及更高版本
awk '{printf("%s\r\n",$0)}'
# DOS环境：转换Unix新行符（LF）为DOS格式。
sed "s/$//" # 方法 1 sed -n p # 方法 2
DOS环境的略过
# DOS环境：转换DOS新行符（CR/LF）为Unix格式。
# 下面的脚本只对UnxUtils sed 4.0.7 及更高版本有效。要识别UnxUtils版本的
# sed可以通过其特有的“–text”选项。你可以使用帮助选项（“–help”）看
# 其中有无一个“–text”项以此来判断所使用的是否是UnxUtils版本。其它DOS
# 版本的的sed则无法进行这一转换。但可以用“tr”来实现这一转换。
sed "s/\r//" infile >outfile # UnxUtils sed v4.0.7 或更高版本 tr -d \r <infile >outfile # GNU tr 1.22 或更高版本
DOS环境的略过
# 将每一行前导的“空白字符”（空格，制表符）删除
# 使之左对齐
sed 's/^[ \t]*//' # 见本文末尾关于'\t'用法的描述
awk '{sub(/^[ \t]+/,"");print $0}'
# 将每一行拖尾的“空白字符”（空格，制表符）删除
sed 's/[ \t]*$//' # 见本文末尾关于'\t'用法的描述
awk '{sub(/[ \t]+$/,"");print $0}'
# 将每一行中的前导和拖尾的空白字符删除
sed 's/^[ \t]*//;s/[ \t]*$//'
awk '{sub(/^[ \t]+/,"");sub(/[ \t]+$/,"");print $0}'
# 在每一行开头处插入5个空格（使全文向右移动5个字符的位置）
sed 's/^/ /'
awk '{printf(" %s\n",$0)}'
# 以79个字符为宽度，将所有文本右对齐
# 78个字符外加最后的一个空格
sed -e :a -e 's/^.\{1,78\}$/ &/;ta'
awk '{printf("%79s\n",$0)}'
# 以79个字符为宽度，使所有文本居中。在方法1中，为了让文本居中每一行的前
# 头和后头都填充了空格。 在方法2中，在居中文本的过程中只在文本的前面填充
# 空格，并且最终这些空格将有一半会被删除。此外每一行的后头并未填充空格。
sed -e :a -e 's/^.\{1,77\}$/ & /;ta' # 方法1 sed -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/' # 方法2
awk '{for(i=0;i<39-length($0)/2;i++)printf(" ");printf("%s\n",$0)}' #相当于上面的方法二
# 在每一行中查找字串“foo”，并将找到的“foo”替换为“bar”
sed 's/foo/bar/' # 只替换每一行中的第一个“foo”字串 sed 's/foo/bar/4' # 只替换每一行中的第四个“foo”字串 sed 's/foo/bar/g' # 将每一行中的所有“foo”都换成“bar” sed 's/\(.*\)foo\(.*foo\)/\1bar\2/' # 替换倒数第二个“foo” sed 's/\(.*\)foo/\1bar/' # 替换最后一个“foo”
awk '{gsub(/foo/,"bar");print $0}' # 将每一行中的所有“foo”都换成“bar”
# 只在行中出现字串“baz”的情况下将“foo”替换成“bar”
sed '/baz/s/foo/bar/g'
awk '{if(/baz/)gsub(/foo/,"bar");print $0}'
# 将“foo”替换成“bar”，并且只在行中未出现字串“baz”的情况下替换
sed '/baz/!s/foo/bar/g'
awk '{if(/baz$/)gsub(/foo/,"bar");print $0}'
# 不管是“scarlet”“ruby”还是“puce”，一律换成“red”
sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g' #对多数的sed都有效 gsed 's/scarlet\|ruby\|puce/red/g' # 只对GNU sed有效
awk '{gsub(/scarlet|ruby|puce/,"red");print $0}'
# 倒置所有行，第一行成为最后一行，依次类推（模拟“tac”）。
# 由于某些原因，使用下面命令时HHsed v1.5会将文件中的空行删除
sed '1!G;h;$!d' # 方法1 sed -n '1!G;h;$p' # 方法2
awk '{A[i++]=$0}END{for(j=i-1;j>=0;j--)print A[j]}'
# 将行中的字符逆序排列，第一个字成为最后一字，……（模拟“rev”）
sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'
awk '{for(i=length($0);i>0;i--)printf("%s",substr($0,i,1));printf("\n")}'
# 将每两行连接成一行（类似“paste”）
sed '$!N;s/\n/ /'
awk '{f=!f;if(f)printf("%s",$0);else printf(" %s\n",$0)}'
# 如果当前行以反斜杠“\”结束，则将下一行并到当前行末尾
# 并去掉原来行尾的反斜杠
sed -e :a -e '/\\$/N; s/\\\n//; ta'
awk '{if(/\\$/)printf("%s",substr($0,0,length($0)-1));else printf("%s\n",$0)}'
# 如果当前行以等号开头，将当前行并到上一行末尾
# 并以单个空格代替原来行头的“=”
sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'
awk '{if(/^=/)printf(" %s",substr($0,2));else printf("%s%s",a,$0);a="\n"}END{printf("\n")}'
# 为数字字串增加逗号分隔符号，将“1234567”改为“1,234,567”
gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta' # GNU sed sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta' # 其他sed
#awk的正则没有后向匹配和引用，搞的比较狼狈，呵呵。 awk '{while(match($0,/[0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'
# 为带有小数点和负号的数值增加逗号分隔符（GNU sed）
gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'
#和上例差不多 awk '{while(match($0,/[^\.0-9][0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'
# 在每5行后增加一空白行 （在第5，10，15，20，等行后增加一空白行）
gsed '0~5G' # 只对GNU sed有效 sed 'n;n;n;n;G;' # 其他sed
awk '{print $0;i++;if(i==5){printf("\n");i=0}}'
选择性地显示特定行：
——–
# 显示文件中的前10行 （模拟“head”的行为）
sed 10qawk '{print;if(NR==10)exit}'
# 显示文件中的第一行 （模拟“head -1”命令）
sed qawk '{print;exit}'
# 显示文件中的最后10行 （模拟“tail”）
sed -e :a -e '$q;N;11,$D;ba'
#用awk干这个有点亏，得全文缓存，对于大文件肯定很慢 awk '{A[NR]=$0}END{for(i=NR-9;i<=NR;i++)print A[i]}'
# 显示文件中的最后2行（模拟“tail -2”命令）
sed '$!N;$!D'
awk '{A[NR]=$0}END{for(i=NR-1;i<=NR;i++)print A[i]}'
# 显示文件中的最后一行（模拟“tail -1”）
sed '$!d' # 方法1 sed -n '$p' # 方法2
#这个比较好办，只存最后一行了。 awk '{A=$0}END{print A}'
# 显示文件中的倒数第二行
sed -e '$!{h;d;}' -e x # 当文件中只有一行时，输出空行 sed -e '1{$q;}' -e '$!{h;d;}' -e x # 当文件中只有一行时，显示该行 sed -e '1{$d;}' -e '$!{h;d;}' -e x # 当文件中只有一行时，不输出
#存两行呗（当文件中只有一行时，输出空行） awk '{B=A;A=$0}END{print B}'
# 只显示匹配正则表达式的行（模拟“grep”）
sed -n '/regexp/p' # 方法1 sed '/regexp/!d' # 方法2
awk '/regexp/{print}'
# 只显示“不”匹配正则表达式的行（模拟“grep -v”）
sed -n '/regexp/!p' # 方法1，与前面的命令相对应 sed '/regexp/d' # 方法2，类似的语法
awk '!/regexp/{print}'
# 查找“regexp”并将匹配行的上一行显示出来，但并不显示匹配行
sed -n '/regexp/{g;1!p;};h'
awk '/regexp/{print A}{A=$0}'
# 查找“regexp”并将匹配行的下一行显示出来，但并不显示匹配行
sed -n '/regexp/{n;p;}'
awk '{if(A)print;A=0}/regexp/{A=1}'
# 显示包含“regexp”的行及其前后行，并在第一行之前加上“regexp”所在行的行号 （类似“grep -A1 -B1”）
sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h
awk '{if(F)print;F=0}/regexp/{print NR;print b;print;F=1}{b=$0}'
# 显示包含“AAA”、“BBB”和“CCC”的行（任意次序）
sed '/AAA/!d; /BBB/!d; /CCC/!d' # 字串的次序不影响结果
awk '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'
# 显示包含“AAA”、“BBB”和“CCC”的行（固定次序）
sed '/AAA.*BBB.*CCC/!d'
awk '{if(match($0,/AAA.*BBB.*CCC/))print}'
# 显示包含“AAA”“BBB”或“CCC”的行 （模拟“egrep”）
sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d # 多数sed gsed '/AAA\|BBB\|CCC/!d' # 对GNU sed有效
awk '/AAA/{print;next}/BBB/{print;next}/CCC/{print}' awk '/AAA|BBB|CCC/{print}'
# 显示包含“AAA”的段落 （段落间以空行分隔）
# HHsed v1.5 必须在“x;”后加入“G;”，接下来的3个脚本都是这样
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'
awk 'BEGIN{RS=""}/AAA/{print}' awk -vRS= '/AAA/{print}'
# 显示包含“AAA”“BBB”和“CCC”三个字串的段落 （任意次序）
sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'
awk -vRS= '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'
# 显示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 （任意次序）
sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d' # 只对GNU sed有效
awk -vRS= '/AAA|BBB|CCC/{print "";print}'
# 显示包含65个或以上字符的行
sed -n '/^.\{65\}/p'
cat ll.txt | awk '{if(length($0)>=65)print}'
# 显示包含65个以下字符的行
sed -n '/^.\{65\}/!p' # 方法1，与上面的脚本相对应 sed '/^.\{65\}/d' # 方法2，更简便一点的方法
awk '{if(length($0)<=65)print}'
# 显示部分文本——从包含正则表达式的行开始到最后一行结束
sed -n '/regexp/,$p'
awk '/regexp/{F=1}{if(F)print}'
# 显示部分文本——指定行号范围（从第8至第12行，含8和12行）
sed -n '8,12p' # 方法1 sed '8,12!d' # 方法2
awk '{if(NR>=8 && NR<12)print}'
# 显示第52行
sed -n '52p' # 方法1 sed '52!d' # 方法2 sed '52q;d' # 方法3, 处理大文件时更有效率
awk '{if(NR==52){print;exit}}'
# 从第3行开始，每7行显示一次
gsed -n '3~7p' # 只对GNU sed有效 sed -n '3,${p;n;n;n;n;n;n;}' # 其他sed
awk '{if(NR==3)F=1}{if(F){i++;if(i%7==1)print}}'
# 显示两个正则表达式之间的文本（包含）
sed -n '/Iowa/,/Montana/p' # 区分大小写方式
awk '/Iowa/{F=1}{if(F)print}/Montana/{F=0}'
选择性地删除特定行：
——–
# 显示通篇文档，除了两个正则表达式之间的内容
sed '/Iowa/,/Montana/d'
awk '/Iowa/{F=1}{if(!F)print}/Montana/{F=0}'
# 删除文件中相邻的重复行（模拟“uniq”）
# 只保留重复行中的第一行，其他行删除
sed '$!N; /^\(.*\)\n\1$/!P; D'
awk '{if($0!=B)print;B=$0}'
# 删除文件中的重复行，不管有无相邻。注意hold space所能支持的缓存大小，或者使用GNU sed。
sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P' #bones7456注：我这里此命令并不能正常工作
awk '{if(!($0 in B))print;B[$0]=1}'
# 删除除重复行外的所有行（模拟“uniq -d”）
sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'
awk '{if($0==B && $0!=l){print;l=$0}B=$0}'
# 删除文件中开头的10行
sed '1,10d'
awk '{if(NR>10)print}'
# 删除文件中的最后一行
sed '$d'
#awk在过程中并不知道文件一共有几行，所以只能通篇缓存，大文件可能不适合，下面两个也一样 awk '{B[NR]=$0}END{for(i=0;i<=NR-1;i++)print B[i]}'
# 删除文件中的最后两行
sed 'N;$!P;$!D;$d'
awk '{B[NR]=$0}END{for(i=0;i<=NR-2;i++)print B[i]}'
# 删除文件中的最后10行
sed -e :a -e '$d;N;2,10ba' -e 'P;D' # 方法1 sed -n -e :a -e '1,10!{P;N;D;};N;ba' # 方法2
awk '{B[NR]=$0}END{for(i=0;i<=NR-10;i++)print B[i]}'
# 删除8的倍数行
gsed '0~8d' # 只对GNU sed有效 sed 'n;n;n;n;n;n;n;d;' # 其他sed
awk '{if(NR%8!=0)print}' |head
# 删除匹配式样的行
sed '/pattern/d' # 删除含pattern的行。当然pattern可以换成任何有效的正则表达式
awk '{if(!match($0,/pattern/))print}'
# 删除文件中的所有空行（与“grep ‘.’ ”效果相同）
sed '/^$/d' # 方法1 sed '/./!d' # 方法2
awk '{if(!match($0,/^$/))print}'
# 只保留多个相邻空行的第一行。并且删除文件顶部和尾部的空行。
# （模拟“cat -s”）
sed '/./,/^$/!d' #方法1，删除文件顶部的空行，允许尾部保留一空行 sed '/^$/N;/\n$/D' #方法2，允许顶部保留一空行，尾部不留空行
awk '{if(!match($0,/^$/)){print;F=1}else{if(F)print;F=0}}' #同上面的方法2
# 只保留多个相邻空行的前两行。
sed '/^$/N;/\n$/N;//D'
awk '{if(!match($0,/^$/)){print;F=0}else{if(F<2)print;F++}}'
# 删除文件顶部的所有空行
sed '/./,$!d'
awk '{if(F || !match($0,/^$/)){print;F=1}}'
# 删除文件尾部的所有空行
sed -e :a -e '/^\n*$/{$d;N;ba' -e '}' # 对所有sed有效 sed -e :a -e '/^\n*$/N;/\n$/ba' # 同上，但只对 gsed 3.02.*有效
awk '/^.+$/{for(i=l;i<NR-1;i++)print "";print;l=NR}'
# 删除每个段落的最后一行
sed -n '/^$/{p;h;};/./{x;/./p;}'
#很长，很ugly，应该有更好的办法 awk -vRS= '{B=$0;l=0;f=1;while(match(B,/\n/)>0){print substr(B,l,RSTART-l-f);l=RSTART;sub(/\n/,"",B);f=0};print ""}'
特殊应用：
——–
# 移除手册页（man page）中的nroff标记。在Unix System V或bash shell下使
# 用’echo’命令时可能需要加上 -e 选项。
sed "s/.`echo \\\b`//g" # 外层的双括号是必须的（Unix环境） sed 's/.^H//g' # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H sed 's/.\x08//g' # sed 1.5，GNU sed，ssed所使用的十六进制的表示方法
awk '{gsub(/.\x08/,"",$0);print}'
# 提取新闻组或 e-mail 的邮件头
sed '/^$/q' # 删除第一行空行后的所有内容
awk '{print}/^$/{exit}'
# 提取新闻组或 e-mail 的正文部分
sed '1,/^$/d' # 删除第一行空行之前的所有内容
awk '{if(F)print}/^$/{F=1}'
# 从邮件头提取“Subject”（标题栏字段），并移除开头的“Subject:”字样
sed '/^Subject: */!d; s///;q'
awk '/^Subject:.*/{print substr($0,10)}/^$/{exit}'
# 从邮件头获得回复地址
sed '/^Reply-To:/q; /^From:/h; /./d;g;q'
#好像是输出第一个Reply-To:开头的行？From是干啥用的？不清楚规则。。 awk '/^Reply-To:.*/{print;exit}/^$/{exit}'
# 获取邮件地址。在上一个脚本所产生的那一行邮件头的基础上进一步的将非电邮地址的部分剃除。（见上一脚本）
sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'
#取尖括号里的东西吧？ awk -F'[<>]+' '{print $2}'
# 在每一行开头加上一个尖括号和空格（引用信息）
sed 's/^/> /'
awk '{print "> " $0}'
# 将每一行开头处的尖括号和空格删除（解除引用）
sed 's/^> //'
awk '/^> /{print substr($0,3)}'
# 移除大部分的HTML标签（包括跨行标签）
sed -e :a -e 's/<[^>]*>//g;/</N;//ba'
awk '{gsub(/<[^>]*>/,"",$0);print}'
# 将分成多卷的uuencode文件解码。移除文件头信息，只保留uuencode编码部分。
# 文件必须以特定顺序传给sed。下面第一种版本的脚本可以直接在命令行下输入；
# 第二种版本则可以放入一个带执行权限的shell脚本中。（由Rahul Dhesi的一
# 个脚本修改而来。）
sed '/^end/,/^begin/d' file1 file2 ... fileX | uudecode # vers. 1 sed '/^end/,/^begin/d' "$@" | uudecode # vers. 2
#我不想装个uudecode验证，大致写个吧 awk '/^end/{F=0}{if(F)print}/^begin/{F=1}' file1 file2 ... fileX
# 将文件中的段落以字母顺序排序。段落间以（一行或多行）空行分隔。GNU sed使用
# 字元“\v”来表示垂直制表符，这里用它来作为换行符的占位符——当然你也可以
# 用其他未在文件中使用的字符来代替它。
sed '/./{H;d;};x;s/\n/={NL}=/g' file | sort | sed '1s/={NL}=//;s/={NL}=/\n/g' gsed '/./{H;d};x;y/\n/\v/' file | sort | sed '1s/\v//;y/\v/\n/'
awk -vRS= '{gsub(/\n/,"\v",$0);print}' ll.txt | sort | awk '{gsub(/\v/,"\n",$0);print;print ""}'
# 分别压缩每个.TXT文件，压缩后删除原来的文件并将压缩后的.ZIP文件
# 命名为与原来相同的名字（只是扩展名不同）。（DOS环境：“dir /b”
# 显示不带路径的文件名）。
echo @echo off >zipup.bat dir /b *.txt | sed "s/^\(.*\)\.TXT/pkzip -mo \1 \1.TXT/" >>zipup.bat
DOS环境再次略过，而且我觉得这里用bash的参数 ${i%.TXT}.zip 替换更帅。
下面的一些SED说明略过，需要的朋友自行查看原文。
byobu 美化你的 screen
byobu的意思，是“屏风”。它提供了一系列漂亮的screen配置。所以，这个包之前叫做screen-profile。
先来看一个截图：
如图，这基本上是默认的byobu设置的效果（除了我加了一个电池电量指示的以外），可以看到，screen的底下有俩状态行，倒数第二行是每个shell的名字，右边是一个菜单的提示；最后一行从左至右依次是：byobu的logo（\o/有点像举起俩手的人哦。。）、系统版本、uptime、电池电量、load_average、CPU状态、内存状态、日期时间，如果ubuntu有更新包或者需要重启，也会有相应的提示。当然，还可以自己配置其他的，还可以加上诸如wifi状态、硬盘空间、风扇转速、hostname、IP地址，邮件提示，等等。
除了这个默认配色以外，byobu还提供多种不同的配色方案，一定能找到你喜欢的。而且，这些设置不仅能在运行前设置好，还可以在运行时实时修改，只要你打开menu（默认按F9），就可以很方便地进行设置了。
配置可以通过“byobu-config”命令来修改。使用只要用“byobu”命令代替原来的“screen”就行了。