美文网首页
awk简明教程

awk简明教程

作者: 程序员文集 | 来源:发表于2018-11-10 22:11 被阅读15次

    之所以叫AWK是因为其取了三位创始人 Alfred AhoPeter Weinberger, 和 Brian Kernighan 的Family Name的首字符。

    一 基本用法

    awk 动作 文件名

    awk [options] '动作' -v var=value file(s)

    示例

    $ awk '{print $0}' demo.txt
    

    上面示例中,demo.txtawk所要处理的文本文件。前面单引号内部有一个大括号,里面就是每一行的处理动作print $0。其中,print是打印命令,$0代表当前行,因此上面命令的执行结果,就是把每一行原样打印出来。

    awk会根据空格和制表符,将每一行分成若干字段,依次用$1$2$3代表第一个字段、第二个字段、第三个字段等等。

    $ echo 'this is a test' | awk '{print $3}'
    a
    

    下面,为了便于举例,我们把/etc/passwd文件保存成demo.txt

    root:x:0:0:root:/root:/usr/bin/zsh
    daemon:x:1:1:daemon:/usr/sbin:/usr/sbin/nologin
    bin:x:2:2:bin:/bin:/usr/sbin/nologin
    sys:x:3:3:sys:/dev:/usr/sbin/nologin
    sync:x:4:65534:sync:/bin:/bin/sync
    

    这个文件的字段分隔符是冒号(:),所以要用-F参数指定分隔符为冒号。然后,才能提取到它的第一个字段。

    $ awk -F ':' '{ print $1 }' demo.txt
    root
    daemon
    bin
    sys
    sync
    

    二、变量

    除了$ + 数字表示某个字段,awk还提供其他一些变量。

    变量NF表示当前行有多少个字段,因此$NF就代表最后一个字段。

    $ echo 'this is a test' | awk '{print $NF}'
    test
    

    $(NF-1)代表倒数第二个字段。

    $ awk -F ':' '{print $1, $(NF-1)}' demo.txt
    root /root
    daemon /usr/sbin
    bin /bin
    sys /dev
    sync /bin
    

    上面代码中,print命令里面的逗号,表示输出的时候,两个部分之间使用空格分隔。

    变量NR表示当前处理的是第几行。

    $ awk -F ':' '{print $NR ") " $1}' demo.txt
    1) root
    2) daemon
    3) bin
    4) sys
    5) sync
    

    上面代码中,print命令里面,如果原样输出字符,要放在双引号里面。

    awk的其他内置变量如下。

    • FILENAME:当前文件名
    • FS:字段分隔符,默认是空格和制表符。
    • RS:行分隔符,用于分割每一行,默认是换行符。
    • OFS:输出字段的分隔符,用于打印时分隔字段,默认为空格。
    • ORS:输出记录的分隔符,用于打印时分隔记录,默认为换行符。
    • OFMT:数字输出的格式,默认为%.6g

    三、函数

    awk还提供了一些内置函数,方便对原始数据的处理。

    函数toupper()用于将字符转为大写。

    $ awk -F ':' '{ print toupper($1) }' demo.txt
    ROOT
    DAEMON
    BIN
    SYS
    SYNC
    

    其他常用函数如下。

    • tolower():字符转为小写。
    • length():返回字符串长度。
    • substr():返回子字符串。
    • sin():正弦。
    • cos():余弦。
    • sqrt():平方根。
    • rand():随机数。

    awk内置函数的完整列表,可以查看手册

    四、条件

    awk允许指定输出条件,只输出符合条件的行。

    输出条件要写在动作的前面。

    $ awk '条件 动作' 文件名
    

    请看下面的例子。

    $ awk -F ':' '/usr/ {print $1}' demo.txt
    root
    daemon
    bin
    sys
    

    上面代码中,print命令前面是一个正则表达式,只输出包含usr的行。

    下面的例子只输出奇数行,以及输出第三行以后的行。

    # 输出奇数行
    $ awk -F ':' 'NR % 2 == 1 {print $1}' demo.txt
    root
    bin
    sync
    
    # 输出第三行以后的行
    $ awk -F ':' 'NR > 3 {print $1}' demo.txt
    sys
    sync
    

    下面的例子输出第一个字段等于指定值的行。

    $ awk -F ':' '$1 == "root" {print $1}' demo.txt
    root
    
    $ awk -F ':' '$1 == "root" || $1 == "bin" {print $1}' demo.txt
    root
    bin
    

    用法参考

    awk -F '[ :\t|]' '{print $1}' file   按照正则表达式的值做为分隔符,这里代表空格、:、TAB、|同时做为分隔符。 
    awk '/101/'    file      显示文件file中包含101的匹配行。
    awk '$1 ~ /101/ {print $1}' file         显示文件中第一个域匹配101的行(记录)
    awk   'BEGIN { max=100 ;print "max=" max}  {max=($1 >max ?$1:max); print $1,"Now max is "max}' file           BEGIN 表示在处理任意行之前进行的操作
    
    awk '$1 * $2 >100 {print $1}' file         显示文件中第一个域匹配101的行
    awk '/tom/ {count++;} END {print "tom was found "count" times"}' file
    
    awk '{ print FILENAME,$0 }' file1 file2 file3 > fileall    把file1、file2、file3的文件内容全部写到fileall中,格式为打印文件并前置文件名。
    
    在awk中调用系统变量必须用单引号,如果是双引号,则表示字符串
    Flag=abcd 
    awk '{print '$Flag'}'   结果为abcd 
    awk '{print  "$Flag"}'   结果为$Flag
    
    $awk 'BEGIN{total=0} {total+=$4} END{print total}' a.txt   对a.txt文件的第四个域进行求和!
    $ awk '/^(no|so)/' test      -----打印所有以模式no或so开头的行。
    $ awk '$1 != 10' test    -----如果第一个域不等于10就打印该行。
    

    参考 http://www.ruanyifeng.com/blog/2018/11/awk.html

    https://www.cnblogs.com/emanlee/p/3327576.html

    相关文章

      网友评论

          本文标题:awk简明教程

          本文链接:https://www.haomeiwen.com/subject/rvptfqtx.html