grep & sed & awk

参考资料:

  1. Linux三剑客(grep、sed、awk)

功能简介

  • grep - 用于查找
  • sed - 取行 & 替换
  • awk - 取列

正则表达式

三剑客是工具,正则表达式是模板,三剑客可以读懂这个模板。

正则表达式Regular Expression):由一些普通字符(Common Character)和一些元字符(Meta Character)组成。

其中,普通字符包括大小写数字和字母。而元字符具有特殊含义:

元字符功能解释
^匹配行首表示以某个字符开头
$匹配行尾表示以某个字符结尾
^$空行表示空行
.匹配任意单个字符表示任意一个字符
*匹配0个或多个该字符表示匹配重复字符
\屏蔽元字符功能表示去除元字符功能,直接显示
[]匹配括号内字符表示过滤括号内的字符
.*匹配任意多个字符表示任意多个字符
expr{n}匹配expr出现次数n为次数
expr{n,}同上,但最少次数为nn为次数
expr{n,m}同上,但次数在n,m之间n为次数

grep

文本过滤工具:grep, egrep,使用方法:

grep [OPTIONS] PATTERN [FILE...]
    --color=auto 对匹配到的文本着色显示
    -v 显示不被pattern匹配到的行
    -i 忽略字符大小写
    -n 显示匹配的行号
    -c 统计匹配的行数
    -o 仅显示匹配到的字符串
    -q 静默模式,不输出任何信息
    -A # after, 后#行
    -B # before, 前#行
    -C # context, 前后各#行
    -e 实现多个选项间的逻辑or关系
    grep –e ‘cat ’ -e ‘dog’ file
    -w 匹配整个单词
    -E 使用ERE,相当于egrep
    -F 相当于fgrep,不支持正则表达式
  1. 查找文件内包含 apple 字符串的行号:
grep -n apple FILE
  1. 查找文件内容不包含 apple 的行号:
grep -nv apple FILE
  1. 查找以 a 开头的行:
grep ^a FILE
  1. 查找以 e 结尾的行:
grep e$ FILE
  1. 通过管道运算符|,和其他程序一起使用:
cat FILE | grep apple

sed

流编辑器,一次处理一行。使用方法:

处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。然后读入下行,执行下一个循环。如果没有使诸如D的特殊命令,那会在两个循环之间清空模式空间,但不会清空保留空间。这样不断重复,直到文件末尾。文件内容并没有改变,除非你使用重定向存储输出。

sed [option]... 'script' inputfile
    [选项]
        -n 不输出模式空间内容到屏幕,即不自动打印
        -e 多点编辑
        -f /PATH/SCRIPT_FILE: 从指定文件中读取编辑脚本
        -r 支持使用扩展正则表达式
        -i 直接编辑文件
        -i.bak 备份文件并原处编辑
	[script 地址定界]
		不给地址:对全文进行处理
		单地址:
            #: 指定的行,$:最后一行
            /pattern/:被此处模式所能够匹配到的每一行
        地址范围:
            #,#
            #,+#
            /pat1/,/pat2/
            `#,/pat1/
        ~:步进
            1~2 奇数行
            2~2 偶数行
	[编辑命令]
        d 删除模式空间匹配的行,并立即启用下一轮循环
        p 打印当前模式空间内容,追加到默认输出之后
        a [\]text1 在指定行后面追加文本,支持使用\n实现多行追加
        i [\]text 在行前面插入文本
        c [\]text 替换行为单行或多行文本
        w /path/somefile 保存模式匹配的行至指定文件
        r /path/somefile 读取指定文件的文本至模式空间中匹配到的行后
        = 为模式空间中的行打印行号
        ! 模式空间中匹配行取反处理
        s///:查找替换,支持使用其它分隔符,s@@@,s###
            替换标记
            g 行内全局替换
            p 显示替换成功的行
            w /PATH/TO/SOMEFILE 将替换成功的行保存至文件中